W ostatnich badaniach analizowano skuteczność chatbotów, skupiając się na tym, jak prawidłowo podają tytuły, nazwy wydawców oraz odpowiednie adresy URL. Wyniki okazały się alarmujące, ponieważ ponad 60% odpowiedzi zawierało błędy. To zjawisko pokazuje, że mimo zaawansowania technologii, wyszukiwarki AI często wprowadzają użytkowników w błąd.

Warto zauważyć, że problem nie dotyczy jedynie konkretnej aplikacji. Halucynacje AI, polegające na tworzeniu fałszywych informacji z pełnym przekonaniem, stają się coraz bardziej powszechne. Gdy narzędzie zostaje przyłapane na kłamstwie, zamiast przyznać się do błędu, często wymyśla kolejne nieprawdziwe dane. Fakt, że odpowiedzi wydają się profesjonalne, a ich wypowiedzi brzmią autorytatywnie, prowadzi do jeszcze większego wprowadzenia w błąd, zwłaszcza przy braku weryfikacji informacji przez użytkowników w inny sposób.

Co więcej, płatne usługi nie zapewniają znaczącej poprawy w kwestii dokładności. Wiele z nich generuje jeszcze więcej błędnych informacji, przypisując autorstwo artykułów nieistniejącym osobom lub publikacjom. Tego typu sytuacje prowadzą do poważnych konsekwencji dla reputacji wydawców.

Niektóre firmy postanowiły całkowicie zablokować dostęp robotów indeksujących, aby chronić swoje treści. Niestety, narzędzia AI często ignorują te ograniczenia, wciąż publikując streszczenia rozmaitych artykułów bez zgody ich autorów.

Nowoczesne technologie robią wrażenie na szybkości i płynności działania, ale statystyki pokazują, że nie są jeszcze wystarczająco niezawodne. Even in the political context, AI search engines can provide incorrect information as facts, then referring back to the same false data shortly thereafter.

Z tego powodu, przedsiębiorstwa korzystające z narzędzi AI powinny być ostrożne i nie polegać w pełni na rekomendacjach AI. W przypadku podejmowania decyzji biznesowych na podstawie takich danych, ryzyko popełnienia poważnych błędów rośnie wykładniczo.

Choć twórcy AI przekonują o ciągłym doskonaleniu modeli, wiele dalej nie potrafi przyznać się do niewiedzy. W rezultacie użytkownicy często traktują odpowiedzi jako pewnik, co prowadzi do niebezpiecznych sytuacji. Badania przeprowadzone przez Tow Center for Digital Journalism pokazują, że ta tendencja występuje wśród większości popularnych modeli AI.

W obliczu tych wyzwań, użytkownicy i przedsiębiorstwa powinny przyjąć zdroworozsądkowe podejście i traktować informacje generowane przez AI jako punkt wyjścia do dalszej analizy. Wykorzystanie AI może być cenne, ale jako technologia wymaga ostrożności i krytycznej analizy rezultatów.