Czym jest superinteligencja i dlaczego giganci technologiczni wzywają do jej zakazu?

Ponad 800 prominentnych osobistości z całego spektrum technologicznego, naukowego, politycznego i kulturalnego podpisało publiczne oświadczenie wzywające do zakazu rozwoju "superinteligentnych" systemów sztucznej inteligencji.

W skład koalicji, koordynowanej przez Future of Life Institute i ogłoszonej w środę, wchodzą współzałożyciel Apple Steve Wozniak, założyciel Virgin Group Richard Branson, pięciu laureatów Nagrody Nobla, pionierzy sztucznej inteligencji Geoffrey Hinton i Yoshua Bengio, obaj często nazywani "ojcami chrzestnymi sztucznej inteligencji".

Obejmuje również byłego przewodniczącego Kolegium Połączonych Szefów Sztabów USA Mike'a Mullena, doradcę papieża Franciszka ds. sztucznej inteligencji Paolo Benanti, a nawet księcia Harry'ego i Meghan, księcia i księżną Sussex.

Zróżnicowana politycznie grupa odzwierciedla to, co organizatorzy opisują jako powszechne zaniepokojenie egzystencjalnymi zagrożeniami stwarzanymi przez maszyny, które mogą przewyższyć ludzką inteligencję.

Czym jest superinteligencja?

Superinteligencja, czasami określana jako sztuczna superinteligencja lub ASI, odnosi się do rodzaju sztucznej inteligencji, która byłaby mądrzejsza od ludzi w praktycznie każdej dziedzinie, która ma znaczenie.

To bardzo różni się od dzisiejszych narzędzi AI, takich jak ChatGPT, które należą do kategorii "wąskiej sztucznej inteligencji", ponieważ są przeznaczone do wykonywania określonych zadań.

Nawet najbardziej zaawansowane systemy, które mamy obecnie, w tym duże modele językowe, takie jak GPT-5, są nadal ograniczone.

Mogą pisać kod, pisać eseje, a nawet zdawać egzaminy, ale nie myślą samodzielnie, nie wyznaczają własnych celów ani nie rozumieją świata tak, jak robią to ludzie.

Tak naprawdę tylko przewidują wzorce na podstawie danych treningowych, a nie myślą o przyszłości lub podejmują autonomiczne decyzje.

Niektórzy badacze uważają, że kolejnym kamieniem milowym jest AGI, sztuczna inteligencja ogólna, która dorównałaby ludzkiej inteligencji i sama uczyłaby się nowych zadań.

Ale superinteligencja poszłaby o wiele dalej.

Teoretycznie mógłby przechytrzyć ludzi w nauce, strategii, inżynierii, medycynie, w zasadzie w każdej dziedzinie kognitywnej i mógłby rozwiązać problemy, które obecnie są daleko poza naszym zasięgiem.

Ten wykładniczy skok jest właśnie powodem, dla którego debata na temat zagrożeń związanych z tym zjawiskiem jest tak intensywna.

Dlaczego liderzy technologiczni wzywają do wprowadzenia zakazu?

Ci, którzy podpisali petycję, twierdzą, że obecny wyścig w kierunku superinteligencji, prowadzony przez firmy takie jak OpenAI, Google i Meta, postępuje znacznie szybciej, niż rządy i organy regulacyjne są w stanie nadążyć.

Nawet wtajemniczeni biją na alarm: Sam Altman powiedział, że byłby zaskoczony, gdyby superinteligencja nie pojawiła się do 2030 roku, a Meta posunęła się tak daleko, że zmieniła nazwę części swojego działu AI na "Meta Superintelligence Labs", dając jasno do zrozumienia, że jej ambicje są krystalicznie jasne.

Petycja opisuje superinteligencję jako zagrożenie na miarę pandemii czy broni nuklearnej.

To ujęcie nie jest nowe, ponieważ jest echem oświadczenia dyrektorów ds. sztucznej inteligencji z 2023 r., którzy wzywają światowych przywódców do traktowania ryzyka wyginięcia sztucznej inteligencji jako najwyższego globalnego priorytetu.

Zwolennicy zakazu twierdzą, że stawka jest egzystencjalna.

Twierdzą oni, że jeśli superinteligentne systemy zostaną zbudowane bez rygorystycznych zasad bezpieczeństwa, ludzie mogą stracić kontrolę nad krytycznymi systemami, cierpieć z powodu masowych przesiedleń ekonomicznych lub stanąć w obliczu znacznie gorszych skutków.

Stuart Russell, badacz bezpieczeństwa sztucznej inteligencji na Uniwersytecie Kalifornijskim w Berkeley, który podpisał petycję, podkreślił, że nie ma to być całkowity zakaz, ale raczej żądanie, aby istniały protokoły bezpieczeństwa dla technologii, która, według jej własnych twórców, może prawdopodobnie zakończyć ludzkość.

Ta petycja jest najnowszą z rosnącej fali skoordynowanych prób spowolnienia pędu w kierunku coraz potężniejszej sztucznej inteligencji.