Dán kutatók megdöbbentő kísérletet hajtottak végre az Instagramon, ahol egy privát profil létrehozásával próbálták tesztelni a platform moderálási képességeit. A profil 13 éves kamaszok hamis képeit tartalmazta, és 85 darab képet osztott meg, melyek vágásokat és borotvapengét ábrázoltak. Az anyag fokozatosan egyre súlyosabbá vált, és kifejezetten önkárosításra buzdított – figyelmeztet a The Guardian.

A kutatás célja az volt, hogy kiderüljön, a Meta valóban javította-e a káros tartalmak eltávolítására szolgáló eljárásait, amelyeket már mesterséges intelligenciával is támogatnak.

A technológiai óriás előzetesen azt állította, hogy a kártevők 99%-át eltávolítják, mielőtt a felhasználók bejelentése érkezne, azonban a kutatók megállapították, hogy a platform algoritmusai valójában hozzájárultak az önkárosító tartalmak terjedéséhez. A Digitalt Ansvar kijelentette, hogy a Meta nem megfelelősége azt mutatja, hogy nem tartja be az uniós jogszabályokat. E törvény értelmében a nagy digitális szolgáltatóknak fel kell ismerniük a rendszerszintű kockázatokat, beleértve a fizikális és mentális jólétre gyakorolt előre látható negatív következményeket.

A Meta szóvivője reagált a kritikákra, kijelentve: "Az önkárosításra buzdító tartalmak ellentétesek az irányelveinkkel, és amint észleljük őket, eltávolítjuk. Az idei év első felében több mint 12 millió, öngyilkossággal és önkárosítással kapcsolatos anyagot távolítottunk el. Az Instagram Teen Accounts szolgáltatásunk célja, hogy fokozottan ellenőrizzük a tinédzserek profiljait, így csökkentve az érzékeny tartalmak megjelenését." Mindazonáltal a dán tanulmány eredményei azt mutatják, hogy az önkárosító tartalmak aktívan terjednek a platformon, ami riasztó tendenciákat tükröz. A kutatáshoz kapcsolódóan Ask Hesby Holm, a Digitalt Ansvar vezérigazgatója hangsúlyozta, hogy az eredmények sokkolóak voltak. Az önkárosító képek moderálásának elmaradása súlyos következményekkel járhat, és szoros összefüggésben áll az öngyilkosság problémájával.

Érdemes megjegyezni, hogy a Meta tanácsadó pszichológusa márciusban lemondott posztjáról, közölve, hogy a Facebook és az Instagram anyavállalata valójában nem érdekelt a felhasználók jólétének és biztonságának védelmében. Ez a lépés még inkább felerősítette a közvélemény aggodalmait a platform működésével és felelősségével kapcsolatban. Az Instagram jövője és a fiatalok mentális egészsége közötti kapcsolat tehát egyre fontosabbá válik a társadalom számára!