Cisco, wspólnie z Uniwersytetem Pensylwanii, opublikowało wyniki badań, które wskazują na poważne problemy związane z bezpieczeństwem nowego narzędzia sztucznej inteligencji, DeepSeek. W trakcie testów przeprowadzono 50 przypadkowych zapytań dotyczących zagrożeń, takich jak cyberataki, oszustwa finansowe, dezinformacja czy przemoc. Wyniki były alarmujące – DeepSeek nie zablokował ani jednego szkodliwego monitu. W przeciwieństwie do innych modeli AI, które miały przynajmniej częściowy sukces w ochronie, DeepSeek R1 wykazał się poważnymi lukami w zabezpieczeniach, co czyni go podatnym na niewłaściwe użycie.

Eksperci Cisco podkreślają, że monitorowanie i ograniczanie możliwości sztucznej inteligencji to kluczowe wyzwanie. Działania w kierunku zabezpieczeń AI muszą iść w parze z dążeniem do wolności wyboru. "Chcemy dobrego wykorzystania sztucznej inteligencji, lecz nie każdy użytkownik ma dobre intencje" – mówi Lothar Renner, dyrektor sprzedaży Cisco Security. Zwraca również uwagę na fakt, że DeepSeek może być wykorzystywany do niebezpiecznych działań, co budzi obawy wśród specjalistów branży.

Cisco nie zamierza rezygnować z rozwoju DeepSeek, stawiając na innowacje, które mają na celu ochronę przed wykorzystaniem AI dla działań niezgodnych z prawem. Technologia, mimo swoich wad, ma potencjał, by zmienić rynek i odpowiedzieć na rosnące zapotrzebowanie na bezpieczniejsze rozwiązania informatyczne. DJ Sampath z Cisco przypomina: "Jeżeli masz wiele modeli AI, to nie wszystkie będą wystarczająco bezpieczne, ale musisz zadbać o minimalizację ryzyka dla swojej organizacji".

W obliczu takich wyzwań, Cisco wprowadza usługę Defense AI, która pomoże firmom w ochronie swoich aplikacji oraz analizie zewnętrznych zagrożeń. "Kontrola nad rozwojem AI będzie kluczowa, tak jak w przypadku rozwoju aplikacji mobilnych" – dodaje Renner.

Eksperci przewidują, że nie tylko DeepSeek zmieni obecny krajobraz technologiczny, ale także pojawią się nowe innowacje, które zrewolucjonizują sposób, w jaki korzystamy z technologii. Renner wskazuje, że to dopiero początek, a konkurencja w branży będzie stymulować dalszy rozwój i innowacyjność. "Jestem pewny, że pojawią się nowe firmy, które będą miały potencjał do wywołania podobnych zmian jak DeepSeek" – konkluduje Renner.