Megdöbbentő események zajlanak a mesterséges intelligencia világában, különösen, amikor a gombák azonosításáról van szó. Nemrég egy egész család szenvedett mérgezést egy olyan gombától, amelyet egy MI által készített "szakkönyv" alapján fogyasztottak el. Ezzel az esettel újra felmerült a kérdés: mennyire bízhatunk a technológiában olyan esetekben, amelyek életveszélyesek lehetnek?

A legfrissebb botrány a Facebook egyik gombászással foglalkozó csoportjából indult, ahol a Facebook bevezetett egy MI-chatbotot 'FungiFriend' néven, amely magyarul talán GombaBarátként lenne elérhető. A chatbot azonban nem úgy teljesített, ahogy azt elvárták; a felhasználóknak egyre inkább aggasztó és helytelen információkat szolgáltatott.

Például egy felhasználó a gombák főzésére vonatkozó kérdéseire válaszok helyett egy mérgező gombát ajánlott, amelyről köztudott, hogy arzént halmoz fel, és már több halálesetet is okozott a fogyasztása. A chatbot azt az állítást tette, hogy a gomba ehető, különösen vajban sütve, ami a felhasználók számára teljesen elhibázott ajánlásnak bizonyult.

Egyes szakértők arra figyelmeztetnek, hogy a mesterséges intelligencia még nem elég megbízható, és a gombagyűjtéshez szükséges mélyreható ismeretek hiányában a chatbotok használata kifejezetten veszélyes lehet. Az AI néha hallucinál, tehát kitalál, elferdít vagy téves információkat ad, mindezt meggyőzően. Az OpenAI ChatGPT legújabb modelljével, a GPT-4o-val beszélve arra figyelmeztetett, hogy az MI nem képes a gombafajok megbízható megkülönböztetésére.

A Facebook csoport moderátora azt mondta, hogy a chatbot automatikusan készült, és hamarosan el fogják távolítani. Az eset rávilágít, hogy a technológia alkalmazásának felelősségteljes módja létfontosságú lehet. Ha figyelmen kívül hagyjuk a megbízhatóságot, akár tragikus következményekkel is járhat.

A legfrissebb hírek szerint a helyzet tovább fokozódhat, hiszen a közeljövőben terjedhetnek el az AI-alapú gombaazonosítók, és ha ezek nem kapják meg a szükséges felügyeletet és fejlesztéseket, újabb mérgezésekhez vezethetnek. Érdemes tehát óvatosnak lenni és szakértői véleményt kérni, mielőtt az erdőben gombát gyűjtünk!