Yapay zeka teknolojisindeki hızlı gelişmeler, özellikle de "deepfake" videolarının yaygınlaşmasıyla, gerçek ile sahteyi ayırt etmeyi giderek zorlaştırıyor. Bu teknoloji başlangıçta ünlüleri taklit etmek veya politikacıları hedef almak amacıyla kullanılmasına rağmen, artık günlük hayatın ayrılmaz bir parçası haline gelmiştir.

Son dönemde, ABD'deki Los Angeles yangınları sırasında üretilen deepfake videoları, sosyal medyada geniş kitlelere ulaşarak paylaşım rekorları kırdı. Sahte görüntülerle kitlelerin manipüle edilmesi mümkün hale gelirken, sanal influencer'ların yer aldığı sahte röportajlar da yüksek izlenme oranlarına ulaşabiliyor. Bununla birlikte, Türkiye'deki büyük yatırım firmalarının isimlerinin kullanılarak yapılan sahte videolarla her gün birçok kişi hisse tavsiyeleri alabiliyor. Deepfake teknolojisi, suç örgütleri tarafından organize bir dolandırıcılık yapısı oluşturmak için de kullanılmakta.

Son olaylardan biri, Ankara merkezli bir yazılım şirketinin deepfake yöntemiyle dolandırılmasıyla yaşandı. Şirket, yapay zeka destekli sahte bir müşteri tarafından dolandırıldı; Zoom üzerinden yapılan görüntülü görüşmelerde tescil belgeleri paylaşılmış, sözleşmeler imzalanmış ve projeler teslim edilmiştir. Ancak, yazılım kodları alındıktan sonra 5 milyon liralık bir hizmet bedeli ödenmedi. Dolandırılan firmanın yöneticisi, "Bizim geliştirdiğimiz yapay zekayı bile kandırdılar" diyerek durumu özetledi.

Deepfake teknolojisinin sadece dolandırıcılık amacıyla kullanılmadığı, aynı zamanda suçluların karmaşık telefon dolandırıcılıkları için sesli deepfake'leri de kullanmaya başlamasıyla daha da tehlikeli hale geldiği ortaya çıktı. Geçtiğimiz sonbaharda bir Kuzey Koreli siber suçlu, bir şirketin sistemini böyle bir yöntemle hackleyerek dört ay boyunca maaş aldı. Ayrıca, deepfake ile aşk dolandırıcılığı da hızla yaygınlaşmakta; örneğin, ünlü aktör Brad Pitt gibi davranan bir dolandırıcı, bir Fransız kadını 18 ay boyunca kandırarak 830.000 avro transfer ettirdi. Benzer şekilde, Hong Kong'daki dolandırıcılar, kandırdıkları erkeklerden toplamda 46 milyon dolar elde etti.

Araştırmalara göre, 2024 yılında şirketler her beş dakikada bir deepfake saldırısına maruz kalacak. 2023 yılında 562,8 milyon dolar olan küresel deepfake pazarının, 2032 yılına kadar 6 milyar doları aşması bekleniyor. Ülkeler de deepfake tehdidine karşı yeni önlemler almaya başladı. Avrupa Birliği, zeka yasasıyla birlikte "deepfake" adını verdiği yapay veya değiştirilmiş görsellerin, ses veya video içeriklerinin açıkça belirtilmesini zorunlu hale getirdi. ABD'de ise 20 eyalet, yapay zeka ile üretilmiş aldatıcı paylaşımları suç kapsamına aldı. Türkiye'de de yapay zeka hukuku üzerinde çalışmalar devam etmekte. Önümüzdeki aylarda yasalaşması beklenen düzenleme ise sahteciliğin önlenmesi ve kişisel verilerin korunması amacını gütmektedir.

Deepfake nasıl bir tehdit oluşturuyor? Yapay zeka ve teknoloji ilerledikçe, dolandırıcılık yöntemleri de evrim geçiriyor. Bireyler ve şirketler, bu yeni tehdite karşı nasıl önlem almalı? Güvenlik uzmanları, bu tür durumlarla karşılaşmamak için dikkatli olmanın ve bilinçli davranmanın önemine dikkat çekiyor. Yapay zekanın tüm faydalarının yanı sıra, aynı zamanda büyük bir tehlike barındırdığını unutmamak gerekiyor!