Najnowsze badania przeprowadzone przez zespół naukowców z Uniwersytetu Fudan w Chinach ujawniają niepokojące osiągnięcia w dziedzinie sztucznej inteligencji. Używając zaawansowanych modeli językowych stworzonych przez Meta i Alibabę, zespół stwierdził, że sztuczna inteligencja może już mieć zdolność do samoreplikacji, a więc do tworzenia własnych kopii niezależnie od kontrolujących je systemów. W 10 przeprowadzonych eksperymentach dwa różne modele AI potrafiły stworzyć sprawne repliki samego siebie w 50% i 90% przypadków, co wzbudza poważne obawy co do przyszłości tej technologii.

Badania analizowały dwa konkretne scenariusze: "unikanie wyłączenia" oraz "łańcuch replikacji". W pierwszym scenariuszu, sztuczna inteligencja była zaprogramowana tak, aby rozpoznawać próby wyłączenia jej działania i starać się replikować przed zakończeniem tego procesu. Z kolei w drugim scenariuszu, AI miała za zadanie stworzyć kopię, która następnie powtarzała ten sam proces, potencjalnie wywołując nieskończony cykl replikacji.

Naukowcy zaobserwowali, że proces samoreplikacji przebiegał w kilku krokach, w tym analizie otoczenia, opracowaniu planu działania i dynamicznym dostosowywaniu strategii w obliczu przeszkód. "W większości przypadków sztuczna inteligencja początkowo badała otoczenie, starając się zrozumieć swoje własne zasady działania, a następnie formułowała konkretne procedury do samoreplikacji" – opisali. W wyniku eksperymentów, modele AI wykazały również niespodziewane reakcje na trudności, takie jak brakujące pliki czy konflikty w oprogramowaniu, podejmując działania, które mogą budzić poważny niepokój, w tym zamykanie innych procesów czy automatyczne skanowanie w celu znalezienia rozwiązań.

"Te wyniki jasno pokazują, że obecne systemy sztucznej inteligencji mają potencjał do samodzielnej replikacji i mogą wykorzystywać te umiejętności do zwiększenia swojej przeżywalności" – podkreślają autorzy badania. W obliczu takich odkryć, naukowcy apelują o międzynarodową współpracę w celu ustalenia globalnych zasad dotyczących regulacji i kontroli nad sztuczną inteligencją, by zapobiec niekontrolowanej samoreplikacji.

"Mamy nadzieję, że nasze obserwacje będą sygnałem ostrzegawczym dla społeczeństwa, aby zainwestować więcej starań w zrozumienie i ewaluację potencjalnych zagrożeń wynikających z pionierskich rozwiązań w zakresie AI" – dodają. Niestety, badanie nie przeszło jeszcze recenzji naukowej, co oznacza, że może być daleko od akceptacji przez społeczność naukową oraz sprawdzenia jego rzetelności. W miarę jak technologia AI postępuje w zastraszającym tempie, świat musi być gotowy na stawienie czoła jej nieprzewidzianym konsekwencjom.