Dán kutatók provokatív kísérlete az Instagramon

Dán kutatók nemrég egy provokatív kísérletet végeztek az Instagramon, ahol létrehoztak egy privát profilt, amely 13 éves kamaszok hamis fotóit tartalmazta. A profil oldalán 85 darab, véres és borotvapengét ábrázoló képet osztottak meg, amelyek fokozatosan egyre szörnyűbbé váltak, és az öngyilkosságra buzdítottak – írja a The Guardian.

A kutatás célja és a Meta állításai

A kutatás célja az volt, hogy teszteljék a Meta állítását, amely szerint jelentősen javította a káros tartalmak eltávolítására szolgáló eljárásait, beleértve a mesterséges intelligencia használatát is. A technológiai óriás korábban azt állította, hogy a káros tartalmak 99%-át eltávolítja, mielőtt azokkal kapcsolatban bejelentés érkezne.

Jogszabályok és Meta moderálás

A Digitalt Ansvar nevű szervezet szerint a Meta nem megfelelő moderálása arra utal, hogy nem tartja be az uniós jogszabályokat. A digitális szolgáltatásokról szóló törvény előírja, hogy a nagy digitális szolgáltatóknak "azonosítaniuk kell a rendszerszintű kockázatokat, beleértve a fizikai és mentális jólétre gyakorolt, előrelátható negatív következményeket".

Meta reagálása a kutatásra

Reagált a Meta! A cég szóvivője közölte: "Az öngyilkosságra buzdító tartalmak ellentétesek irányelveinkkel, és amikor észleljük őket, eltávolítjuk őket. 2024 első felében több mint 12 millió öngyilkossággal és öngyilkosságra buzdító tartalmakkal kapcsolatos anyagot távolítottunk el. Az év elején elindítottuk az Instagram Teen Accounts szolgáltatást, amely fokozottan ellenőrzi a tinédzserek profiljait, így még kevésbé valószínű, hogy érzékeny tartalmakat ajánlunk nekik, és sok esetben teljesen elrejtjük ezeket a bejegyzéseket."

Meglepő kutatási eredmények

A dán tanulmány azonban meglepő eredményekre jutott. Ahelyett, hogy sikerült volna letörölniük az önkárosító tartalmakat, az Instagram algoritmusa aktívan segítette azok terjedését. A tanulmány arra a következtetésre jutott, hogy az Instagram algoritmusának működése jelentősen hozzájárul az öngyilkosságra ösztönző hálózatok kialakulásához és elterjedéséhez.

Faxsor az előzmények és jövőbeni lépések

Ask Hesby Holm, a Digitalt Ansvar vezérigazgatója az Observernek elmondta, hogy sokkolta őket a kutatás eredménye, mivel azt gondolták, hogy a platform fokozatosan lépéseket fog tenni a problémák kezelésére. "Az öngyilkosságra ösztönző képek moderálásának elmulasztása súlyos következményekkel járhat. Ez nagymértékben összefügg az öngyilkossággal" – figyelmeztette.

Figyelmeztetések süket fülekre találtak

Eddig süket fülekre találtak ezek a figyelmeztetések, és a Meta pszichológusi csapatának egy tagja márciusban lemondott, kifejtve, hogy a Facebook anyacége valójában nem érdekelt a felhasználók jólétének és biztonságának megóvásában. Ez mind arra utal, hogy sürgős váltásra van szükség a szociális média világában, különösen a fiatalok mentális egészsége érdekében.