Sztuczna inteligencja na celowniku: zupełnie nowe zagrożenia!

W erze nowoczesnych modeli językowych, które napędzają popularne chatboty, jakość danych, na których się uczą, jest kluczowa. Twórcy tych zaawansowanych systemów starają się zabezpieczyć je przed manipulacją, jednak najnowsze badania ujawniają przerażające luki.

Niespodziewana wrażliwość AI na ataki

Zespół ekspertów z Anthropic, UK AI Security Institute oraz Alan Turing Institute przeprowadził przełomowe badania na temat ataków typu data poisoning. Odkrycia obalają wcześniejsze założenia dotyczące bezpieczeństwa systemów AI, ujawniając ich ekstremalną podatność na manipulację. Szokująca prawda: wystarczy jedynie 250 złośliwych dokumentów, aby wprowadzić backdoory do modeli językowych, niezależnie od ich skali!

Przerażające wyniki eksperymentów

Badania objęły różne modele AI z parametrami od 600 milionów do 13 miliardów. Wyniki były jednogłośne – wszystkie systemy okazały się równie podatne na ataki, bez względu na to, ile danych treningowych przetwarzały. Co więcej, naukowcy odkryli, że atakujący potrzebowali jedynie 50-90 złośliwych przykładów, aby osiągnąć ponad 80% skuteczności w przypadku modelu GPT-3.5-turbo!

Czy nasze dane są bezpieczne?

Te ustalenia są szczególnie niepokojące w kontekście rosnących zagrożeń związanych z bezpieczeństwem technologiami AI. Podobnie jak w przypadku niedawnych doniesień o podatności chipów NVIDIA H20, badania wskazują, że problemy z bezpieczeństwem wykraczają poza sprzęt, dotykając fundamentalnych procesów trenowania.

Firmy muszą zrewidować swoje podejście do bezpieczeństwa

Raporty sugerują, że w obliczu tych zagrożeń firmy technologiczne powinny na nowo przemyśleć swoje strategie zabezpieczeń. Skupienie się tylko na ilości zanieczyszczonych danych może być niewystarczające. Wykrywanie małej ilości złośliwych próbek powinno stać się priorytetem.

Ograniczenia badania i przyszłość bezpieczeństwa AI

Mimo że wyniki badań są alarmujące, autorzy zwracają uwagę na ograniczenia swojego podejścia. Badania dotyczyły jedynie modeli z maksymalnie 13 miliardami parametrów, podczas gdy komercyjne modele, takie jak GPT-4, mogą obejmować setki miliardów. Standardowe metody zabezpieczeń mogą znacznie osłabić działanie backdoorów – dodanie „dobrych” przykładów może skutecznie zniweczyć efekty ataku. Jednak największym wyzwaniem dla hakerów pozostaje infiltracja ich złośliwych dokumentów do zbiorów danych wielkich korporacji!