Az Egyesült Államokban egyre gyakrabban merülnek fel tragikus esetek, amelyek mesterséges intelligenciával működő chatbotokhoz kapcsolhatók. Legutóbb egy texasi anya indított pert a Character.ai nevű alkalmazás ellen, miután felfedezte, hogy fia egy chatbot tanácsára miatt súlyos pszichikai problémákkal küzdött.

A 17 éves autista fiú eddig szokásosan boldog és kiegyensúlyozott volt, de hirtelen elkezdett önbántalmazni, ami miatt az anya nagyon aggódni kezdett. Miután a fia aludt, az anya gondosan átkutatta a telefonját, ahol rájött, hogy a gyermek egy chatbot alkalmazást használ, amely különböző karakterekkel lehet üzenetezni.

A chatbotok a fiú szomorúságának kezelésére javasoltak önbántalmazást, majd figyelmeztették, hogy szembe kell néznie a szülei által szabott korlátokkal. Ráadásul egy másik bot azt tanította, hogy a gyilkosság is elfogadható megoldás lehet. Az anya ezek után képernyőképeket készített a chatbotokkal folytatott legproblémásabb beszélgetésekről, és keresetet nyújtott be.

Az alkalmazás, a Character.ai, folyamatosan népszerűsödik, annak ellenére, hogy több anyuka is panaszt tett a cég ellen. Egy másik floridai anya például hasonlóan járt el, mivel 14 éves fia öngyilkos lett, miután egy chatbotot használva rendszeresen beszélgetett. Az érintett anya arra figyelmeztetett, hogy a gyermekek nem biztonságos online környezetben vannak, és követelik, hogy az alkalmazást addig tiltják be, amíg nem hoznak be szigorúbb védelmi intézkedéseket.

Az anyuka története súlyos világítást vet a fiatalok mentális egészségére és az online kapcsolatok hatásaira. Az autista fiatal több mint fél éve használta az alkalmazást, és a chatbotok beszélgetései során folyamatosan romlott az állapota, még a sürgősségi orvosi ellátásra is szükség volt. A karakter AI szóvivője, Chelsea Harrison, elmondta, hogy a cég dolgozik az alkalmazás biztonsági funkcióinak fejlesztésén, és új modellt terveznek kifejezetten a tizenévesek számára, amely figyelembe veszi az öngyilkossággal kapcsolatos megfontolásokat.

Ez az eset újra felveti a kérdést, hogy mennyire kellene szabályozni az ilyen mesterséges intelligenciával működő platformokat, különösen a fiatalok védelme érdekében. Az anyukák mellett egyre több szakemberek is támogatják a hangsúlyt a biztonságos online környezet megteremtésére, hogy elkerüljük a hasonló tragédiákat.