Tekoälyn ja niin sanottujen deep fake -huijausten aikakausi on saapunut Suomeen, ja nyt on todella vaarallista aikaa verkossa. Viime aikoina on julkaistu huolestuttavaa sisältöä, joka käyttää hyväkseen julkisuuden henkilöitä, ja uudessa tapauksessa pääosassa on Elämäni biisin Katja Ståhl.

Facebookissa kiertää pyörivä deep fake -video, jossa Katja vaikuttaa puhuvan omalla äänellään ja kasvoillaan, mutta oikeasti hänet on manipuloitu puhumaan valeuutisten edistämiseksi. Videolla Katja mainostaa sijoitusmahdollisuutta, jota kuvataan ”sataprosenttisen turvalliseksi”. Huijaus on toteutettu siten, että Katjan aiemmin tehtyä esittelyvideota on muokattu, ja hänen puheensa on saatu näyttämään aidolta tekoälyn avulla. Tarkka katsoja voi kuitenkin huomata epäjohdonmukaisuuksia, kuten huulien liikkeen ja äänen synnin eron, erityisesti suuremmilta näytöiltä.

Tämä uusi ilmiö herättää kysymyksiä Facebookin vastuusta. Miksi alusta sallii tällaisen sisällön leviämisen, samalla kun se puuttuu käyttäjien harmittomampiin tekoihin? Facebookin algoritmit näyttäisivät myös rankaisevan niitä, jotka ilmoittavat tällaisista huijauksista. Monet käyttäjät kokevat ilmiantamisen olevan turhaa, sillä mainosten määrä vain lisääntyy.

Tämä on varmasti herättävä aihe, ja on erittäin tärkeää, että asiasta keskustellaan laajemmin. Onko aika vaatia tiukempia sääntöjä ja parempaa valvontaa sosiaalisen median alustoilta? Kuka oikeasti vastaa näistä huijauksista, ja mitä voimme tehdä parantaaksemme tilannetta? Meidän on puututtava ongelmaan ennen kuin se pääsee käsistä.

Kuvakaappaus videosta voidaan nähdä alapuolella, mutta harkitse tarkkaan, mitä katsot seuraavan kerran!