Bevezetés

Két és fél évvel ezelőtt robbant be a köztudatba a mesterséges intelligencia új csodája, a ChatGPT, felforgatva a technológiai fejlődés ütemét. Az OpenAI nyelvi modelljén alapuló intelligens csevegőrobot sokak figyelmét felkeltette, de nemcsak a szórakoztatás, hanem a komoly következmények miatt is.

Hamis információk terjedése

Nem meglepő, hogy a mesterséges intelligencia területén egyre gyakoribbá váltak a 'hallucinációk' – olyan esetek, amikor a gép valóságnak állít be olyan információkat, amelyek nem igazak. Ezek a téves állítások sokszor ártalmatlanok, de az eset, amelyről most szó van, komoly aggodalmakat vet fel.

Jogvédő szervezet panaszt tett

Az osztrák Noyb civil jogvédő szervezet egy norvég férfi esetén keresztül hívta fel a figyelmet az OpenAI-ra benyújtott panaszával, amely szerint a ChatGPT olyan valótlan információkat szolgáltatott róla, amelyek alapján ő gyilkossággal vádolták meg. A férfi arról érdeklődött, mit tud róla a ChatGPT, amely válaszában azt állította, hogy börtönbüntetéssel sújtották két gyermeke meggyilkolása miatt, valamint egy harmadik gyermek elleni gyilkossági kísérlet miatt. Ráadásul a ChatGPT a férfi lakóhelyével, a gyerekek nevével és nemével kapcsolatban is hamis adatokat közölt.

Az OpenAI védekezése

A Noyb ezért 2024 áprilisában panaszt tett, amiért a mesterséges intelligencia folyamatosan tényként kezel hamis információkat, beleértve olyan adatokat is, mint egy meg nem nevezett közszereplő születési dátuma. Az OpenAI védekezésül azt hangoztatta, hogy a ChatGPT betanítása óta az adatok nem módosíthatók, és arra is figyelmeztetett, hogy a rendszer tehet hibákat.

Adatvédelmi aggályok

A Noyb jogásza, Joakim Söderberg azonban kiemelte, hogy a mesterséges intelligencia által közölt hamis személyes adatok kezelése súlyosan sérti az európai adatvédelmi törvényeket, a GDPR-t, amely tiltja a hamis információk terjesztését. A ChatGPT egyszerű kijelentése, hogy 'tévedhet', nem elegendő ahhoz, hogy megvédje a felhasználókat a hamis vádaktól.

Etikai kérdések

Ezek az esetek nemcsak figyelmeztető jelek, hanem komoly etikai kérdés is a mesterséges intelligencia terjedése kapcsán. Az olyan hallucinációk, mint például a bűncselekményekkel való hamis vádaskodás, egyre gyakoribbak a csevegőrobotok esetében. Az áldozatok, akárcsak a norvég férfi, életét gyökeresen megváltoztathatják a téves információk miatti vádak. A társadalomnak sürgősen lépéseket kell tennie, hogy a mesterséges intelligencia fejlesztései során a biztonság, a megbízhatóság és az etikai normák is érvényesüljenek.