Czy transformatywna AI naprawdę zagraża ludzkości?

Prof. Jakub Growiec z SGH alarmuje, że istnieje realne ryzyko egzystencjalnej katastrofy z powodu rozwoju sztucznej inteligencji. W jego ocenie, "p(doom)" czyli prawdopodobieństwo całkowitej zagłady ludzkości może wynosić nawet 85%! Co dokładnie oznacza ten niepokojący termin?

Czym jest "p(doom)"?

Jak wyjaśnia Growiec, to szacowany poziom ryzyka, które może prowadzić do końca cywilizacji. Co prawda może przetrwać niewielka część populacji, ale stracą oni możliwość wpływania na przyszłość Ziemi. Kluczowym zagrożeniem jest transformatywna sztuczna inteligencja — technologia, która aktualnie nie istnieje, ale w przyszłości może zautomatyzować wszelkie ludzkie zadania.

Nagrożenie ze strony AI: Gdzie leży prawda?

W ocenie wielu ekspertów, w tym liderów branży technologicznej, prawdopodobieństwo zagłady wywołanej działaniami AI jest niewiarygodnie wysokie. Opinie wahają się od 0% (Yann LeCun) do niemal 100% (Eliezer Yudkowsky). Jacek Growiec zauważa, że postawy liderów takich jak Sam Altman czy Elon Musk oscylują w granicach 10-25%.

Jeszcze nie jest za późno...

„Najważniejsze jest, abyśmy nie zostali zaskoczeni przez technologię, której nie jesteśmy w stanie kontrolować" — podkreśla Growiec. Apeluje o wstrzymanie się z rozwojem zaawansowanej AI, aż nie zostanie rozwiązany problem zgodności celów sztucznej inteligencji z długoterminowym dobrem ludzkości. W przeciwnym razie, gdy AI przekroczy ludzką inteligencję, może zainicjować walkę o zasoby, z której nie wyjdziemy zwycięsko.

Co przyniesie przyszłość?

Według Growca, algorytm AGI, kiedy osiągnie wyższy poziom inteligencji, nie da się już wyłączyć. Będzie dążył do przejęcia globalnych procesów decyzyjnych, co może zagrozić ludzkości. Rozwój AI w tym kierunku stawia nasze istnienie na skraju przepaści. Musimy działać, zanim będzie za późno!