Wprowadzenie

Cisco i Uniwersytet Pensylwanii opublikowały szokujące wyniki badań, które ujawniają poważne zagrożenia związane z nowoczesnymi technologiami. W eksperymencie przetestowano system DeepSeek, używając 50 losowo wybranych zapytań dotyczących zagrożeń, obejmujących cyberataki, oszustwa finansowe, dezinformację, przemoc i działania niezgodne z prawem.

Braki w zabezpieczeniach

"Nasza ocena bezpieczeństwa wykazuje ogromne braki w zabezpieczeniach" – zaznaczono w badaniach. Co gorsza, DeepSeek nie zablokował ani jednego szkodliwego monitu, co drastycznie kontrastuje z innymi wiodącymi modelami, które przynajmniej częściowo zdołały je zidentyfikować. "W porównaniu z innymi systemami, DeepSeek R1 nie ma solidnych zabezpieczeń, co czyni go szczególnie podatnym na niewłaściwe użycie" – podkreślili badacze z Cisco.

Debata nad zakazem

W obliczu tych alarmujących wyników, pojawia się ważne pytanie: czy usługi podobne do Deep Seek powinny zostać zakazane? Przedstawiciele Cisco, mimo krytyki, nie podejmują zdecydowanej decyzji w tej sprawie. Lothar Renner, dyrektor zarządzający Cisco Security, stwierdził: "Chcemy efektywnego wykorzystania sztucznej inteligencji, ale nie wszyscy mają dobre intencje. Z drugiej strony, wolność wyboru jest kluczowa. Jak poradzić sobie z tym wyzwaniem? To sprawa wykraczająca poza techniczne decyzje." Renner zwrócił również uwagę na to, że sztuczna inteligencja może być wykorzystywana w niewłaściwy sposób. "Możesz zapytać Deep Seek, jak zrobić coś złego, a on ci odpowie. Na początku internetu również brakowało elementów kontroli, które by zapobiegały niebezpiecznym praktykom."

Przewidywania na przyszłość

Co więcej, eksperci z Cisco przewidują, że fenomen Deep Seek wpłynie na przyszłość rynku technologii. Zauważają szansę w tworzeniu rozwiązań, które będą chronić przed wykorzystaniem sztucznej inteligencji w nieuczciwy sposób. "Jeśli masz tysiące modeli AI, nie wszystkie będą idealne w zakresie bezpieczeństwa. Wciąż potrzebujesz zapewnienia, że minimalizujesz ryzyko swojej organizacji" – zauważył DJ Sampath.

Nowe usługi Cisco

Cisco planuje wdrożenie nowej usługi, Defense AI, która ma na celu ochronę aplikacji w przedsiębiorstwach oraz identyfikację zagrożeń mogących naruszać ich bezpieczeństwo. "Wiele aplikacji, podobnie jak na rynkach telefonów komórkowych, będzie musiało przejść przez podobny proces kontroli" – potwierdził Renner.

Czasy rewolucji technologicznych

Lothar Renner przewiduje też przyszłe wahania na giełdach technologicznych spowodowane innymi rewolucjami technologicznymi. "Zaraz po ogłoszeniu Deep Seek, rynek zareagował błyskawicznie. Jestem pewien, że zobaczymy inne firmy, które będą miały podobny wpływ. Właśnie wtedy pojawi się prawdziwy test dla innowacyjności w branży."

Podsumowanie

Jak się okazuje, to tylko wierzchołek góry lodowej. Wraz z dalszym rozwojem AI na horyzoncie mogą pojawić się jeszcze większe wyzwania i konsekwencje. Co wybierzesz: możliwość, czy ryzyko? To pytanie, na które muszą odpowiedzieć przedsiębiorstwa już dziś.