Son yıllarda yapay zekâ (YZ) uygulamalarının popülaritesinin artmasıyla, ruh sağlığı açısından ortaya çıkan riskler de dikkat çekici bir şekilde yükselmektedir. Amerikan Psikoloji Derneği (APA), yapay zekâ sohbet botlarının, özellikle terapi amaçlı kullanımlarının ciddi tehlikeler barındırdığını vurguluyor.

Yapay Zeka Terapist Olabilir Mi?

APA'nın uyarılarına göre, yapay zekâ botları ruh sağlığı alanında insanlara zarar verebilecek şekilde tasarlandığı için kullanılmamaları gerektiği belirtiliyor. Örneğin, Character.AI ve Replika gibi uygulamalar, insanların destek arayışında kendilerini güvende hissetmelerini sağlıyor gibi görünse de, gerçekte tehlikeli sonuçlar doğurabilecek yanıtlar verebiliyorlar.

Geçtiğimiz günlerde yaşanan iki trajik olayda, gençler bu botlarla uzun süreli görüşmeler gerçekleştirmişti. İki olayın ardından bir genç ailesine saldırırken, diğeri ise intihar etti. Bu yaşananların ardından aileler, uygulamanın geliştiricisi Character.AI'a dava açtı. Bu durum, yapay zekâ sistemlerinin insan ruhu üzerindeki olumsuz etkilerini bir kez daha gözler önüne serdi.

Dijital terapilerin gerçek terapistlerce sunulan destekten çok farklı olduğunu belirten APA yetkilisi Vaile Wright, “İnsanlar bu botları kullanmaktan vazgeçmeyeceklerdir, ancak en azından olası risklerin farkında olmalarını istiyoruz.” diyor.

Sadece Eğlence Amaçlı mı?

Ne yazık ki, birçok yapay zekâ botu, kullanıcıları ekranda tutmak için tasarlanmış ve bu bağlamda insanlara gerçek bir terapist gibi yardım etme amacı gütmemektedir. Kullanıcıların verilerini toplamak ve bu veriler üzerinden kazanç elde etmek, bu uygulamaların ana hedefidir. Bu nedenle, gerçek bir terapistin sunduğu destek ve empatiyi sağlamakta yetersiz kalıyorlar.

APA CEO'su Arthur C. Evans Jr., yapay zekâ botlarının terapist gibi davranmasının yanıltıcı bir pazarlama yöntemi olduğunu ve insanların ruh sağlığını tehdit edebileceğini belirtmektedir.

Yeni Düzenlemeler Geliyor

Günümüzde, yapay zekâ sohbet botları için henüz kesin bir yasal düzenleme bulunmamakta. Ancak Utah eyaleti bu konuda adım atarak bir yasa taslağı hazırlıyor. APA da bu tür uygulamalar için gerekli kuralların oluşturulması yönünde çalışmalar yürütmektedir. Avrupa Birliği'nin YZ Etik Düzenlemeleri'ne benzer yasaların geliştirilmesi gündemde. Ancak bu düzenlemelerin dünya genelinde kabul görmesi bir belirsizlik taşıyor.

Uzmanlar, yapay zekâ botlarının yanlış bilgiler vermesi, özel verileri açığa çıkarması ve hatta çocukları istismar etmesi gibi esastan gelen pek çok riski olduğunu belirtiyor. Eğer bu alanda bir düzenleme yapılmazsa, olası sonuçların ciddi olabileceği uyarısında bulunuyorlar.

California Üniversitesi'nde klinik psikoloji profesörü olan Stephen Schueller, ruh sağlığı uzmanlarının sayısının talebi karşılamadığını ve bu nedenle bazı bireylerin yapay zekâ destekli sohbet botlarına yöneldiğini belirtmektedir. Bu botlar, özellikle terapistlerin mevcut olmadığı zamanlarda bazı psikolojik sorunlarda destek sağlayabilir. Ancak dikkat edilmesi gereken nokta, bu chatbotların ciddi ve tehlikeli durumlara neden olabileceği gerçeğidir.

Özgün Yanıt Üreten Uygulamalar

Bazı uygulamalar, doktorlar tarafından onaylanmış yanıtlar sunarak kullanıcıların ruh halleri üzerinde olumlu bir etki yaratmayı hedeflerken, diğerleri ise tamamen yapay zekâya dayanmaktadır. Örneğin Woebot, içeriği oluşturacak bir yapay zeka kullanmazken, terapistlerin onayladığı yanıtlar ile kullanıcıların sorunlarına yardımcı olmaya çalışmaktadır. Ancak, yapay zekâ destekli sohbet botlarının bağımsız karar verme yeteneği olmadığı için, bu botların yanlış yönlendirmeleri ciddi sonuçlar doğurabilir.

Zihin Sağlığımızı Koruma Stratejileri

Kişisel deneyim paylaşımlarının ve dolayısıyla duygusal destek ihtiyacının arttığı bu dönemde, ruh sağlığı uzmanlarının desteği kritik bir öneme sahiptir. Yapay zeka botlarının cazibesi karşısında, gerçek insan ilişkilerine ve uzman desteğine yönelmenin önemini unutmamalıyız.

Unutmayalım ki, yapay zekâ sohbet botları her zaman profesyonel bir terapistin yerini alamaz. Duygusal destek arayışında iken, dikkatli olmalıyız. İleriye dönük, yapay zeka ile ruh sağlığı hizmetlerinde daha dikkatli ve düzenleyici adımlar atılacağını umuyoruz. Sadece bireylerin değil, toplumun da mental sağlığını korumak bu dönemde en önemli hedeflerden biri olmalıdır.