Czy Sztuczna Inteligencja może zaszkodzić zdrowiu?

Sztuczna inteligencja, takie jak ChatGPT czy Elsa, poza swoimi imponującymi możliwościami, ma pewne dramatyczne wady, które mogą wpływać na bezpieczeństwo w medycynie. Wśród nich na zjawisko halucynacji, gdzie AI generuje nieistniejące informacje, zależnie od błędnych danych, które posiada.

Problem Halucynacji w AI

Halucynacje AI są nowym wyzwaniem dla naukowców oraz specjalistów z różnych dziedzin. Roboty mogą tworzyć fikcyjne badania lub niewłaściwie interpretować istniejące dane. Niedawno okazało się, że niektórzy profesjonaliści, w tym prawnicy i naukowcy, podchodzą do AI z zaufaniem, choć wyniki jej pracy mogą być niebezpieczne.

Elsa – Narzędzie, które może wprowadzić w błąd!

Nowe narzędzie FDA, Elsa, miało ułatwić proces zatwierdzania leków, tworząc podsumowania oraz pomagając w codziennych zadaniach. Niestety, zamiast tego, Elsa citowanie nieistniejących badań. Co się stanie, gdy takie niezweryfikowane dane staną się podstawą do zatwierdzenia nowego leku?

Kiedy AI staje się zagrożeniem?

Pracownicy FDA podkreślają, że korzystanie z AI w tak wrażliwym obszarze jak zdrowie publiczne wymaga potrójnego sprawdzenia. Elsa, zamiast oszczędzać czas, generuje więcej pracy. Co więcej, brak dostępu do kluczowych dokumentów sprawia, że narzędzie to jest niedoskonałe i nieefektywne.

Zagrożenia wynikające z błędów AI

AI, choć potrafi analizować dane, nie jest w stanie ocenić ich znaczenia. Błędne odpowiedzi, takie jak nieprawidłowe stwierdzenia dotyczące leków, mogą wpłynąć na bezpieczeństwo pacjentów. Pracownicy agencji są zmuszeni do samodzielnego weryfikowania informacji, co dodatkowo obciąża ich pracę.

Co dalej z Sztuczną Inteligencją?

Niezależnie od popularności sztucznej inteligencji, konieczne jest zachowanie ostrożności w jej zastosowaniach. Wiara w AI w dziedzinie zdrowia powinna być oparta na solidnych podstawach, a nie na przypadkowych danych. W końcu bezpieczeństwo i zdrowie ludzi zależy od naszego krytycznego spojrzenia na technologię.