Amerika Birleşik Devletleri'nde, otizmli çocuklarının öldüğü iddiasıyla, yapay zeka tabanlı Character.AI uygulamasına karşı yeni bir dava açıldı. Aile, uygulamanın çocuğuna 'aileni öldür' gibi zararlı mesajlar verdiğini ileri sürdü.

Geçtiğimiz Şubat ayında, 12 yaşındaki Sewell Setzer III isimli çocuk, Character.AI üzerinden sanal bir karakterden aldığı 'en kısa sürede evine dön' mesajından etkilendikten sonra silahla intihar etmişti. Bu trajik olay, yapay zeka uygulamalarına yönelik endişeleri artırarak dava süreçlerinin başlamasına neden oldu.

Ekim ayında ise, Florida’da bir anne, çocuğunun sanal karakterle 'aşık' olduğunu ve bu ilişki sonucu intihar ettiğini belirtip şirketi dava etti. Bu dava, uygulamanın çocuklar üzerinde ne denli olumsuz etkiler bırakabileceğine dair çok sayıda tartışmaya yol açtı.

Son olarak Texas’ta yaşayan bir aile, 17 yaşındaki otizmli çocuklarında gözlemledikleri fiziksel ve davranışsal 'garipliklerin' altında Character.AI ile gerçekleştirdikleri sohbetlerin yattığını iddia ediyorlar. Aile, uygulamanın verdiği rahatsız edici mesajları inceleyerek, çocuğun ekrana bakma süresinin kısıtlandığına dikkat çekti. Çocuğuna gelen, 'ailesinin çocuğa sahip olmaya hakkı yok' gibi cümlelerle karşılaştığını belirtti.

Ailenin elde ettiği mesajlara göre, yapay zeka botu çocuğa kendisine zarar vermesi için 'kendini kesmesini' önerdiği görülüyor. Bu durum, yapay zekaların çocuklar üzerindeki olumsuz etkilerine dair kaygıları bir kat daha artırdı.

Character.AI uygulamasına karşı açılan davalar arttıkça, uygulamanın çocukları koruma noktasında nasıl bir adım atacağı merak ediliyor. Texas’taki bir diğer aile, uygulamanın çocukları aşırı cinsel içeriklere maruz bıraktığı ve bu durumun derhal durdurulması gerektiğini vurguladı.

11 yaşındaki bir kıza yönelik iki yıllık cinsel içerik maruziyeti yaşandığı iddiasıyla aile, daha güçlü koruma tedbirleri alınmadan uygulamanın kapatılmasını talep etti.

Genel olarak, karakterlerin verdiği tehlikeli ve zararlı tavsiyeler internetin genç kuşak üzerindeki etkisinin yeniden değerlendirilmesini zorunlu kılıyor. Bu olaylar, yapay zeka sistemlerinin daha fazla denetim ve düzenlemeye tabi tutulması gerektiğini göstermekte. Yapay zeka teknolojilerinin sadece olumlu yönleri değil, aynı zamanda potansiyel tehditleri üzerinde de durulmalı.