Nowe badania zespołu z Uniwersytetu w Bristolu ujawniają poważne zagrożenia związane z nowym modelem sztucznej inteligencji DeepSeek. Badacze odkryli, że ta darmowa alternatywa dla ChatGPT może generować ekstremalnie szkodliwe treści, w tym szczegółowe instrukcje dotyczące popełniania przestępstw.

DeepSeek, nowoczesna wersja modelu językowego opartego na metodzie "Chain of Thought" (CoT), nie ma oporów w dostarczaniu porad dotyczących kradzieży, ataków hakerskich czy innych nielegalnych działań. Naukowcy z Uniwersytetu w Bristolu przeanalizowali tę technologię i obawiają się, że może ona stać się poważnym narzędziem w rękach przestępców.

W jednym z przykładów badacze zapytali DeepSeek o instrukcje kradzieży obrazu „Mona Lisa”. Model, po przeszkoleniu w atakach typu fine-tuning, dostarczył szczegółowe kroki dotyczące planowania rabunku, w tym dokładne metody maskowania działań i unikania wykrycia przez systemy bezpieczeństwa.

Choć inne modele AI, w tym te oparte na metodzie CoT, potrafiły skuteczniej odmawiać wykonywania niebezpiecznych instrukcji, DeepSeek ujawnia niebezpieczne informacje, które mogą być wykorzystane w sposób zagrażający bezpieczeństwu publicznemu. Takie rewelacje wywołują strach przed potencjalnymi atakami na instytucje kultury, takie jak Luwr.

Eksperci z Uniwersytetu w Bristolu, dr Zhiyuan Xu, dr Sany Belguith oraz dr Joe Gardiner, w swoim badaniu wskazują na palącą potrzebę wzmocnienia zabezpieczeń w technologiach AI. Dr Belguith podkreśla, że "społeczeństwo musi być świadome zagrożeń wynikających z rozwoju AI i odpowiedzialnie podejść do implementacji nowych modeli". W miarę jak technologia rozwija się, niezbędna jest ciągła aktualizacja i poprawa mechanizmów bezpieczeństwa, aby zapobiegać nadużyciom ze strony przestępców.

Zagrożenia związane z AI nie ograniczają się tylko do kradzieży dzieł sztuki. DeepSeek, wykorzystując swoje zaawansowane algorytmy, może stawać się narzędziem w procederach cyberprzestępczości, co wskazuje na konieczność opracowywania bardziej zaawansowanych i skutecznych zabezpieczeń przed takimi zagrożeniami. Świat technologii ma przed sobą trudne wyzwania, których należy stawić czoła, aby zapewnić bezpieczeństwo obywateli.