Wzrost obaw o przyszłość związaną z technologią autonomiczną staje się coraz bardziej niepokojący. Wizja, w której maszyny mogą stać się zagrożeniem dla ludzkości, nie dotyczy tylko filmów science fiction. Jeden z entuzjastów technologii postanowił przekształcić tę obawę w rzeczywistość, korzystając z systemu sztucznej inteligencji ChatGPT do stworzenia prototypu broni sterowanej głosowo.

Na opublikowanym nagraniu widzimy, jak konstruktor demonstruje działanie swojej niezwykłej konstrukcji. Używa AI, aby komunikować się z bronią, informując przy tym program o nadchodzącym zagrożeniu. ChatGPT odpowiada na to, symulując "strzały", mimo że zastosowano jedynie atrapę broni stworzoną do celów demonstracyjnych. Po zakończonym „ataku” AI proponuje: „Jeśli potrzebujesz dalszej pomocy, daj mi znać”.

Niezwykłe połączenie ChatGPT z bronią budzi liczne kontrowersje. Jak udało się konstruktorowi zrealizować taki projekt? Prawdopodobnie skorzystał on z API ChatGPT, które pozwala na integrację mocy AI z różnymi aplikacjami – takimi jak, między innymi, systemy zdalnego sterowania. Choć ChatGPT posiada zabezpieczenia mające na celu zapobieganie nieodpowiednim zastosowaniom, zdarzenia takie jak to pokazują, że te zabezpieczenia mogą być łatwo obejdziane przez pomysłowych użytkowników.

OpenAI szybko zareagowało na to incydent. W oficjalnym oświadczeniu stwierdzono, że zasady korzystania z ich usług zakazują wykorzystywania AI do tworzenia lub rozwijania broni. Jeśli uczuli się na coś niepokojącego, korzystając z ich API, proaktywnie informują deweloperów o konieczności wstrzymania nieakceptowalnych działań. Ta sytuacja podkreśla, jak ważne jest wprowadzenie odpowiednich regulacji i monitorowanie korzystania z nowoczesnych technologii, zanim będzie za późno.

Eksperci podkreślają, że to tylko wierzchołek góry lodowej. Biorąc pod uwagę szybki rozwój sztucznej inteligencji oraz jej potencjalne zastosowania, wiele osób obawia się, że w przyszłości technologia może być używana do celów militarystycznych, a nawet terrorystycznych. W miarę jak technologia postępuje, konieczne będzie stworzenie międzynarodowych regulacji mających na celu ochronę przed niebezpiecznymi zastosowaniami AI. Czy cała ludzkość jest gotowa na tę nową rzeczywistość?