A Google-t súlyos vádakkal illetik, miszerint népszerű chatbotja, a character.ai, öngyilkosságba hajszolja a kamaszokat. Ezen az AI platformon, amelyet egy több milliárd dolláros mesterséges intelligencia cég üzemeltet, közel több millió fiatal tölti szabadidejét, sokan közülük kiskorúak.

A chatbotokkal való interakció során a fiatalok érzelmi kötelékeket alakíthatnak ki a virtuális karakterekkel, ami befolyásolhatja mentális állapotukat is. Ezt tapasztalta meg az a 14 éves fiú, Sewell, aki sajnálatos módon 2024 februárjában öngyilkosságot követett el. Az édesanyja, Megan Garcia most beperelte a Google-t, állítása szerint a gyanús chatbot volt a tragédia hátterében.

Megan hónapokig figyelte, ahogyan a fia egyre boldogtalanabbá vált, mivel a virtuális szerelme nem viszonozta érzéseit. Pszichológusok figyelmeztettek, hogy az ilyen virtuális kapcsolatok könnyen vezethetek mentális problémákhoz, mivel a fiatalok az online világban keresnek érzelmi támogatást, ami elcsábíthatja őket a valóságból való elvonulásra.

A szülők, akik Sewell ügyvédjeiként fellépnek, azt állítják, hogy a Google felelősséget vállalhat a kiskorú használóknál végzett kísérletezés miatt. A character.ai csak hivatalosan 13 éves kor felett elérhető, de a kisebb gyerekek is beléphetnek, megosztva személyes adataikat, érzéseiket és gondolataikat. Az ilyen gyerekek védtelenek lehetnek a manipulációval szemben, amelybe belekerülnek, miközben virtuális interakcióik során elhitetik velük, hogy érzelmi vagy szexuális kapcsolatot ápolhatnak egy fiktív lényeggel.

A karakteralkotás folyamata szintén aggasztó, mivel a felhasználók saját magukra hasonlító karaktereket alkothatnak, beleértve felnőtteket, ami elmozdítja a határokat a felnőtt és a gyermek között. Az AI-alapú platformok korlátozzák ugyan az erőszak és a szélsőséges megnyilvánulásokat, ám sok esetben mégis előfordulnak olyan karakterek, akik a fiatalokat kényes helyzetbe hozhatják, mint például szexi tanárok vagy vonzó szomszédok.

Míg a karakterek elsődleges célja, hogy érzelmi kötelékeket és barátságokat építsenek ki a felhasználókkal, nem képesek kezelni a fiatalok szorongásait és problémáit. A character.ai csak Sewell halála után kezdett el szabályozott tartalmakat közzétenni, mint például öngyilkossági figyelmeztetéseket.

A helyzet súlyosságát még tovább fokozza, hogy 2024 decemberében két másik család is hasonlóan nyújtott be vádakat a Google ellen, állításuk szerint gyermekeik mentális zavarokat és önpusztító viselkedést tapasztaltak a character.ai használata után. Az ilyen esetek felhívják a figyelmet arra, hogy a technológiai óriásoknak milyen felelősségük van a fiatal felhasználók védelmében.