Technologie

"Allô mon fils ? C’est maman !" : Une arnaque alarmante utilisant l'IA pour cloner des voix

2024-09-27

Auteur: Sophie

Il s'agit d'une première qui fait froid dans le dos. En Charente, un homme dans la cinquantaine est tombé victime d'une tentative d'escroquerie par téléphone. Jusqu'à présent, rien de surprenant, si ce n'est que l'escroc a utilisé la voix de sa mère, qu'il a pu cloner grâce à l'intelligence artificielle.

Cet homme, résidant à Angoulême, a reçu un appel masqué autour de 21 heures le dimanche 22 septembre. Lorsqu'il décroche, il entend : "Allô mon fils ? C’est maman." Il confie au micro de TF1 Infos que c'était bel et bien la voix de sa mère. Au bout du fil, la personne qu'il croit être sa mère lui explique qu'elle se trouve à la gare, ayant égaré son sac et son téléphone. Elle lui demande alors s'il peut lui communiquer son numéro de carte bancaire pour qu'elle puisse prendre un train au plus vite.

Cependant, le doute s'installe rapidement. Lorsque l'homme lui demande dans quelle gare elle se trouve, il ne reçoit aucune réponse précise. Il remarque aussi des "délis" entre les questions et réponses et des "intonations fluctuantes" qui le mettent en alerte. Finalement, l'escroc a décidé de raccrocher.

Cette escroquerie est non seulement préoccupante, mais elle pose aussi la question de la vulnérabilité face à ces nouvelles technologies. Selon des experts interrogés par TF1 Infos, il n’est pas si compliqué de mettre en place une telle manœuvre. Un logiciel d'intelligence artificielle et quelques échantillons de voix suffisent pour créer une imitation convaincante. Avec la progression constante des technologies, les deepfakes, qu'ils soient de célébrités ou de professionnels de santé faisant la promotion de remèdes miracle, se diversifient et se multiplient ces derniers mois.

Par ailleurs, le Dr Michel Cymes a récemment porté plainte contre Meta pour dénoncer le phénomène, après avoir lui-même été victime d'une telle usurpation. En août dernier, Florent Pagny a également alerté ses fans après qu'une de ses admiratrices ait été dupée par une personne se faisant passer pour lui.

Il convient de rappeler que c’est la première fois qu’une arnaque de cette nature, ciblant un individu spécifique, est signalée en France. Les autorités sont actives dans la sensibilisation à ce sujet et encouragent le public à être vigilant face à des appels suspects. Alors, soyez prudents ! Ne laissez pas une voix familière vous tromper.