Westfield High School, New Jersey, ottobre 2023. Francesca Mani, una ragazza di appena 14 anni, si trova a scuola quando il suono dell'altoparlante annuncia il suo nome. Qui inizia un incubo inaspettato: quando entra nell'ufficio del preside, viene mostrata una foto di lei nuda, un'immagine che non ha mai visto prima e che, incredibilmente, non è stata scattata realmente. Questa foto è stata creata attraverso la perfida tecnologia dell'intelligenza artificiale, un fenomeno allarmante che sta prendendo piede. Non è solo Francesca: molte altre ragazze nel suo istituto scoprono che immagini simili circolano nelle chat, tutte realizzate con l'IA.

"Quando ho lasciato l'ufficio del preside, ho visto alcuni ragazzi ridere e molte ragazze piangere. È stato in quel momento che ho capito che dovevo smettere di piangere e iniziare a combattere, perché tutto ciò è inaccettabile", ha dichiarato Francesca a CBS News.

L’epidemia dei deepfake è solo all’inizio

I deepfake esistono da tempo, ma con i recenti sviluppi dell'intelligenza artificiale, la creazione di immagini oscene è diventata ancora più accessibile. Secondo un report del gruppo informatico Home Security Heroes, la produzione di foto pornografiche di persone reali utilizzando l'IA è aumentata di un incredibile 464% tra il 2022 e il 2023.

Le vittime di questo fenomeno sono principalmente adolescenti, contattate da sconosciuti che inviano immagini false e le ricattano. "Questa è una forma di estorsione sessuale, amplificata dalla tecnologia", ha spiegato Barbara Strappato, Dirigente della polizia postale. Emma Pickering, esperta di abusi tecnologici, ha avvertito che queste immagini possono avere effetti devastanti sulla salute mentale delle vittime.

Cosa sta accadendo a Francesca e le altre ragazze di Westfield

Il preside della scuola ha inviato una email ai genitori informando che diversi studenti avevano utilizzato l'IA per produrre immagini pornografiche. Ha assicurato che stavano indagando, ma la madre di Francesca, Dorota, sostiene che le immagini continuano a circolare online. "È quasi impossibile eliminare completamente queste immagini una volta pubblicate. Chi le ha stampate o fatte screenshot non permette mai di cancellarle del tutto", ha dichiarato con frustrazione.

Francesca ha sottolineato che le ragazze coinvolte hanno subito conseguenze più gravi rispetto ai ragazzi che hanno creato le immagini. "Viviamo con la paura che un'immagine possa circolare in qualsiasi momento", ha detto. Nonostante abbiano sporto denuncia alla polizia, la madre ha evidenziato che nessuna accusa è stata formulata.

La necessità urgente di nuove leggi

Di fronte a questa emergenza, Francesca e sua madre hanno deciso di prendere posizione. Hanno spinto le scuole a implementare nuove politiche contro l'uso di software per la creazione di immagini pornografiche. Hanno collaborato con membri del Congresso per promuovere una legge chiamata Take It Down Act, sostenuta dai senatori Ted Cruz e Amy Klobuchar, che è stata approvata dal Senato all'inizio di dicembre. Questa legge prevede sanzioni penali per la condivisione di nudi generati dall'intelligenza artificiale e stabilisce che i social media devono rimuovere tali immagini entro 48 ore dalla richiesta.

È fondamentale che la società prenda coscienza dei rischi per la sicurezza e il benessere dei giovani in un'epoca in cui un semplice click può distruggere vite. Questa storia non è solo un campanello d'allarme, ma un appello all'azione per proteggere le nostre future generazioni.