Gigantes da tecnologia estão alardeando sobre os perigos iminentes das deepfakes, uma tecnologia que vem crescendo em popularidade e complexidade. Debby, uma residente da Califórnia, destacou que "há tentativas todos os dias" de enganar as pessoas usando inteligência artificial. "A IA pode ser muito perigosa", acrescentou ela em entrevista à AFP.

Os deepfakes, que frequentemente utilizam imagens de celebridades para fins de desinformação nas redes sociais, também se tornaram ferramentas nas mãos do crime organizado. Em um exemplo alarmante ocorrido em fevereiro, a polícia de Hong Kong revelou que um funcionário de uma multinacional foi enganado por fraudadores que utilizaram avatares realistas gerados por IA. Eles convenciam a vítima a transferir a impressionante quantia de 25 milhões de dólares (aproximadamente 141,6 milhões de reais).

Um estudo da startup iBoom revelou que apenas 0,1% dos americanos e britânicos testados conseguiram detectar imagens ou vídeos falsos. Essa estatística alarmante reflete a dificuldade que a maioria das pessoas tem para identificar fraudes digitais.

A evolução da inteligência artificial tem trazido mudanças substanciais. Há menos de uma década, apenas uma ferramenta chamada Lyrebird podia gerar vozes por IA, mas hoje existem 490 ferramentas disponíveis, mostrando o aumento exponencial da acessibilidade e sofisticação dessa tecnologia. Vijay Balasubramaniyan, diretor da Pindrop Security, destacou que enquanto antes eram necessárias 20 horas de gravação para replicar uma voz, atualmente esse processo pode ser feito em apenas cinco segundos.

A crescente competição entre empresas de tecnologia levou ao desenvolvimento de softwares que conseguem detectar essas fraudes em tempo real, oferecendo soluções tanto para vídeo quanto para áudio. A Reality Defender e Intel, por exemplo, estão na vanguarda dessa luta. A Intel utiliza uma tecnologia chamada fotopletismografia, que analisa alterações na cor dos vasos sanguíneos faciais, enquanto a Pindrop divide o áudio em milhares de fragmentos para compará-los com vozes humanas reais.

Nicos Vekiarides, CEO da Attestiv, alertou que, assim como na cibersegurança, as empresas devem se manter atualizadas em relação a essa tecnologia. “Nos primeiros dias, as imagens de IA eram facilmente identificáveis, mas à medida que a tecnologia avança, torna-se cada vez mais difícil distinguir entre o verdadeiro e o falso com o olho nu”, observou ele.

O fenômeno dos deepfakes está afetando não apenas o setor financeiro e de seguros, que tradicionalmente são alvos de fraudes, mas se tornou uma ameaça global à segurança cibernética. Qualquer empresa pode ver sua reputação manchada por um deepfake, e o aumento do trabalho remoto apenas elevou esses riscos de roubo de identidade.

Além disso, as ameaças não se limitam a empresas; o público em geral pode ser alvo de fraudes, especialmente as ligações manipuladas direcionadas a idosos. Em janeiro, a fabricante chinesa Honor apresentou um novo smartphone, o Magic7, que promete detectar em tempo real se a outra parte de uma chamada de vídeo está utilizando IA.

Diante desse cenário, a questão que fica é: estamos realmente preparados para lidar com as consequências dessa nova era digital? A luta contra as deepfakes pode ser apenas o começo de um desafio muito maior que aguarda a sociedade.