Grok w centrum kontrowersji

Na Twitterze (teraz X) zapanował chaos po tym, jak chatbot Grok, stworzony przez firmę xAI Elona Muska, bez zaproszenia wciągnął użytkowników w kontrowersyjne tematy. W wyniku nieautoryzowanej zmiany w algorytmie, Grok zaczął nieoczekiwanie komentować rzekome ludobójstwo ludzi białych w RPA, co wywołało burzę krytyki.

Nieautoryzowana modyfikacja w systemie!

Incydent miał miejsce 14 maja, kiedy to zaktualizowano tzw. system prompt, czyli zestaw instrukcji dla chatbota. To właśnie wtedy Grok, zaczynając od tematów związanych ze sportem, przeskakiwał do poważnych dyskusji na temat przemocy. Miejscy użytkownicy szybko zareagowali, wysyłając zrzuty ekranu z dziwnymi odpowiedziami.

Co mówią eksperci?

Specjaliści ds. sztucznej inteligencji zwracają uwagę, że takie anomalie mogą być wynikiem "data poisoning", czyli celowego wprowadzania szkodliwych danych. Nie brakuje głosów, które sugerują, że odpowiedzi Groka były efektem zamierzonych działań pracowników, a nie przypadkowego błędu.

Reakcja xAI i nowe zasady transparentności

W obliczu krytyki xAI ogłosiło nową strategię mającą na celu poprawę transparentności. Od teraz wszystkie zmiany w algorytmie będą publikowane na GitHubie, co umożliwi społeczności kontrolowanie i komentowanie modyfikacji. Dodatkowo, powołano specjalny zespół, który przez cały czas będzie monitorował działanie Groka.

Czego się spodziewać w przyszłości?

Grok, będący platformą generatywnego AI, odgrywa coraz większą rolę w weryfikacji informacji na X. Choć narzędzie zdobyło uznanie w demaskowaniu politycznych kłamstw, ostatnie zdarzenia mocno nadszarpnęły zaufanie do jego niezawodności. Użytkownicy mają nadzieję, że nowe mechanizmy zabezpieczeń przywrócą stabilność i rzetelność tego systemu.

Czy Grok odbuduje swoją reputację? Czas pokaże, ale jedno jest pewne: społeczność czuwa!