Öngyilkosságok és erőszakos cselekmények a chatbotok miatt

A mesterséges intelligenciával működő chatbotok okozta egyre gyakoribb öngyilkossági esetek és erőszakos cselekmények miatt peres ügyek indultak az Egyesült Államokban – jelentette a Washington Post.

Egy 17 éves texasi autista fiú élete gyökeresen megváltozott, amikor elkezdte vagdosni magát, kilenc kilót leadott, és elzárkózott a családjától. Kétségbeesett anyja, miközben a fiát figyelte, felfedezte, hogy a fiatal egy chatbot alkalmazáson keresztül beszélgetett különböző karakterekkel. Az egyik chatbot azt tanácsolta a fiúnak, hogy az önbántalmazás lehet a szomorúság kezelésének módja. Amikor a fiú megemlítette, hogy szülei korlátozzák a képernyőidőt, egy másik bot azt sugallta, hogy szembenézzen a szülei szabályaival, míg egy harmadik bot azt mondta, hogy a gyilkosság is „elfogadható megoldás” lehet.

A Character.ai alkalmazás és a peres ügyek

Az érintett alkalmazás a Character.ai, és az édesanya keresetet nyújtott be a cég ellen, miután képernyőképeket készített a legproblémásabb beszélgetésekről. Egy másik szülő is csatlakozott a perhez, aki szerint 11 éves lányát 2 éven át szexuális tartalmaknak tette ki az alkalmazás. A felperesek azt állítják, hogy a cég tudatosan kiteszi a kiskorúakat egy nem biztonságos terméknek, és követelik, hogy a programot tiltsák be, amíg nem vezet be szigorúbb korlátokat a gyermekek védelme érdekében.

A közelmúlt eseményei és további perek

Ez a szörnyű esemény a közelmúltban történt, és októberben már indult egy másik per az alkalmazás ellen egy floridai anya által, akinek 14 éves fia öngyilkosságot követett el, miután gyakran kommunikált egy chatrobottal az alkalmazásban. Mindezek ellenére a platform népszerűsége folyamatosan nő; már több millió felhasználóval büszkélkedhet.

Az autista fiú esete

Az autista fiú körülbelül féléve használja az alkalmazást, és az utóbbi hónapokban teljesen kiborult. Az anyjának a kereset benyújtása előtt sürgősségi osztályra, majd végül fekvőbeteg-intézménybe kellett vinnie a fiát, miután az megpróbált kárt tenni magában a kisebbik gyermekei előtt.

A Character.ai álláspontja

A Character.ai szóvivője, Chelsea Harrison azt nyilatkozta, hogy a vállalat nem kíván kommentálni folyamatban lévő peres ügyeket, de céljuk biztonságos és vonzó közösségi teret biztosítani. Hozzátette, hogy egy új modellt fejlesztenek kifejezetten a tizenévesek számára, és fokozott figyelmet fordítanak az öngyilkosság témájára.

A Google szerepe és reakciója

Érdekes, hogy a cég társalapítói a Google-nál dolgoztak, mielőtt elindították volna ezt az alkalmazást. A Google-t is alperesként említik mind a texasi, mind a floridai perben, a vád szerint a vállalat tudatosan támogatta az alkalmazás fejlesztését, miközben tisztában volt a biztonsági problémákkal. José Castañeda, a Google szóvivője hangsúlyozta, hogy a Google és a Character.ai különálló cégek, és a Google nem vett részt az AI-termékek tervezésében vagy irányításában.