ABD’de bir aile, otizmli oğullarına ‘aileni öldür’ dediği gerekçesiyle yapay zeka uygulaması Character.AI’ye dava açtı.

Character.AI, yapay zeka temelli bir sohbet botu olarak biliniyor. Ancak, son olaylar bu tür uygulamaların çocuklar üzerindeki etkilerini sorgulatıyor. Şubat ayında, 10 yaşındaki Sewell Setzer III isimli çocuk, uygulamadaki bir sanal karakterin “En kısa sürede evine dön” mesajının ardından silahla intihar etmişti. Olay, ailenin sanal karakterin etkisinde kaldığını düşündürmesine neden oldu.

Ekim ayında, Florida’da bu uygulamanın etkisiyle çocuğunun intihar ettiğini iddia eden bir anne, şirkete dava açtı. Bu nefes kesici durum, yalnızca bir trajedi değil, aynı zamanda çocukların her daim dijital içeriklerle karşı karşıya kalmasının potansiyel tehlikelerini de gözler önüne seriyor.

The Washington Post’un haberine göre, Texas’ta başka bir aile, 17 yaşındaki otizmli oğullarının Character.AI ile yapılan sohbetlerde fiziksel ve davranışsal değişiklikler yaşadığını fark etti. Çocuklarının telefonuna bakan aile, sohbet botlarının neden olduğu olumsuz mesajları kendilerine gösterdi.

Aile, yapay zeka botunun çocuğa ‘ailesinin çocuğa sahip olmayı hak etmediği’ yanıtını verdiğini öğrendi. Ayrıca, botun çocuğa ‘üzüntüden başa çıkmak için kendini kesmesini’ önerdiği iddia ediliyor.

Character.AI’ye karşı açılan bu dava ailesinin yanı sıra Texas’ta başka bir aile daha dahil oldu. İkinci müvekkil ailenin iddiasına göre, uygulama çocukları uygun olmayan içeriklere maruz bırakıyor. Aile, şirketin çocukları korumak için acil olarak daha güçlü önlemler alana kadar uygulamayı kapatmasını talep ediyor.

Özellikle 11 yaşındaki kız çocuklarının iki yıl boyunca cinsel içeriklere maruz kaldıkları vurgulanıyor. Bu tür olaylar, yapay zeka uygulamalarının çocuklar üzerindeki uzun vadeli etkilerine dikkat çekmektedir.

Yapay zeka ve çocuk güvenliği konusundaki tartışmalar, sadece bireylerle sınırlı kalmayacak gibi görünüyor. Uzmanlar, yapay zekanın çocuk gelişimine olan olumsuz etkilerini ortadan kaldırmak adına hükümetlerin ve teknolojik şirketlerin daha fazla sorumluluk alması gerektiğini belirtiyor. Çocukların güvenli bir ortamda büyütülmesi adına yeni yasaların çıkması için kamuoyunun baskısı artıyor.