Nowy agent w ChatGPT: Pod wieloma względami niebezpieczny

Z premierą nowego agenta AI w ChatGPT, OpenAI oferuje narzędzie zdolne do automatyzacji codziennych zadań. Ale niepokojące wieści docierają z obszaru bezpieczeństwa – ten sam agent może być wykorzystany przez amatorów do tworzenia niebezpiecznych zagrożeń biologicznych i chemicznych.

Ten innowacyjny system posiada zdolność autonomicznego przeszukiwania internetu, prowadzenia zaawansowanych badań czy tworzenia plików. Możliwości są nieograniczone, a użytkownicy mogą podłączyć do agenta aplikacje takie jak Gmail czy GitHub, co umożliwia zdobywanie kluczowych informacji na podstawie wydanych poleceń.

Zagrożenie biologiczne na horyzoncie?

Zgodnie z doniesieniami portalu "Fortune", OpenAI wprowadza obostrzenia związane z nowym modelem, który jako pierwszy otrzymał oznaczenie "wysoki potencjał ryzyka biologicznego". Boaz Barak z OpenAI zwraca uwagę, że to nie są żarty – przy obecnym stanie technologii, możliwości stworzenia poważnych zagrożeń są alarmujące. W przeszłości można było pomyśleć, że tego typu ryzyko jest marginalne, ale obecnie jest niezwykle realne.

OpenAI reaguje na potencjalne zagrożenia

OpenAI wskazuje, że wprowadzenie tej klasyfikacji było krokiem ostrożnościowym, co zmusiło firmę do implementacji dodatkowych zabezpieczeń. Agent ChatGPT będzie odrzucał zapytania, które mogą prowadzić do stworzenia broni biologicznej, a także wprowadzi mechanizmy monitorowania i szybkiego reagowania na potencjalne nadużycia.

Wzmocnione testy bezpieczeństwa - konieczność!

Barak podkreśla, że chociaż model nie jest jeszcze w stanie jednoznacznie umożliwić nowicjuszowi stworzenia broni, brak odpowiednich środków zabezpieczających byłby nieodpowiedzialny. "Fortune" ujawnia, że OpenAI jest coraz bardziej zaniepokojone potencjalnym wykorzystaniem AI do rozwoju broni biologicznej. Wszyscy trzymamy kciuki, aby wzmocnione testy bezpieczeństwa przyniosły oczekiwane rezultaty!