Věda

Rubová strana vědy: Podvody inspirující umělou inteligenci a jak je odhalit!

2025-01-04

Autor: Tereza

Úvod

Historici stále vedou debaty o tom, zda legendární řecký astronom Claudius Ptolemaios (asi 100 – po 170 n. l.) skutečně čerpal z tvorby svého předchůdce, slavného Hipparcha z Nikaie (asi 190 – asi 129 př. n. l.), a pokud ano, zda mu dával dostatečné uznání. V dávných dobách byla praxe opisování obecně akceptována, a autorství se hodnotilo mnohem shovívavěji než dnes.

Tento trend trval po staletí. Německý lékař Walther Hermann Ryff (asi 1500–1548) si vysloužil přezdívku „arcivykradač“ za to, že během deseti let vydal více než třicet knih, z nichž většina byla silně inspirována nebo přímo opsána od jiných autorů. Ani ochrana autorství ze strany císařství mu nepomohla. Ital Andreas Vesalius (1514–1564) si stěžoval, že Ryff bez povolení použil jeho ilustrace a vystupoval pod Vesaliovým jménem. Případ ilustruje, jak dějiny lidstva byly často poznamenány podvody a nečestností.

Revoluce v roce 2024

Rok 2024 byl z pohledu technologií revoluční! Ve světě umělé inteligence (AI) se objevilo znepokojení z nárůstu vědeckých podvodů. Jak se dá odhalit, co bylo napsáno AI a co člověkem? V roce 2023 totiž vzniklo přibližně 60 000 vědeckých publikací pomocí umělé inteligence, což představuje jedno procento všech prací publikovaných během tohoto roku. V oblasti výpočetní techniky je to dokonce přes 17 %. To vyvolává otázky o integritě vědeckého výzkumu.

Identifikace textů generovaných AI

Dr. Andrew Gray z University College London zjistil, že texty generované AI často obsahují stereotypní používání určitých slov a frází, což je jedním z indicií, jak je odhalit. Například termíny jako „komplexní“ nebo „ponořit se do problematiky“ bývají klíčovými znaky AI textů.

Fenomen 'halucinace'

Zatímco české firmy se snaží integrovat umělou inteligenci do svých činností, většina z nich se nachází na začátku. Specialisté varují, že AI může generovat neexistující citace nebo informace, což podkopává důvěryhodnost vědecké práce. Tento fenomén, známý jako „halucinace“, naznačuje, že AI vytváří vymyšlené, ale přesvědčivé texty, což může způsobit problémy v akademickém prostředí.

Závěr

Tím se uzavírá cyklus, který začal mnohem dříve, a vedou se diskuze o tom, jak uchovat hodnotu a integritu vědeckého výzkumu v době, kdy technologie neustále pokročují. Historie ukazuje, že plagiarismus a podvody nás provázejí vědeckým vývojem od nepaměti, ale s vývojem umělé inteligence dostávají nový rozměr. Bude zajímavé sledovat, jaké mechanismy budou vědci a akademické instituce vyvíjet k odhalování a prevenci těchto podvodů.