Ce este superinteligența și de ce giganții tehnologici cer interzicerea acesteia?

Peste 800 de personalități proeminente din întregul spectru tehnologic, științific, politic și cultural au semnat o declarație publică prin care solicită interzicerea dezvoltării sistemelor de inteligență artificială "superinteligente".

Coaliția, coordonată de Institutul Viitorului Vieții și anunțată miercuri, include co-fondatorul Apple, Steve Wozniak, fondatorul Virgin Group, Richard Branson, cinci laureați ai Nobelului, pionierii inteligenței artificiale Geoffrey Hinton și Yoshua Bengio, ambii numiți adesea "nașii AI".

De asemenea, îi include pe fostul președinte al Statului Major Întrunit al SUA, Mike Mullen, consilierul AI al Papei Francisc, Paolo Benanti, și chiar Prințul Harry și Meghan, Ducele și Ducesa de Sussex.

Grupul divers din punct de vedere politic reflectă ceea ce organizatorii descriu ca fiind preocuparea universală cu privire la riscurile existențiale reprezentate de mașini care ar putea depăși inteligența umană.

Ce este superinteligența?

Superinteligența, uneori denumită superinteligență artificială sau ASI, se referă la un tip de inteligență artificială care ar fi mai inteligentă decât oamenii în aproape orice domeniu care contează.

Acest lucru este foarte diferit de instrumentele AI de astăzi, cum ar fi ChatGPT, care se încadrează în categoria "AI îngustă", deoarece sunt concepute pentru a îndeplini sarcini specifice.

Chiar și cele mai avansate sisteme pe care le avem acum, inclusiv modele mari de limbaj precum GPT-5, sunt încă limitate.

Ei pot scrie cod, pot redacta eseuri și chiar pot trece examene, dar nu gândesc independent, nu își stabilesc propriile obiective și nu înțeleg lumea așa cum o fac oamenii.

Ei doar prezic modele bazate pe date de antrenament, nu raționează despre viitor sau iau decizii autonome.

Unii cercetători cred că următoarea etapă este AGI, inteligența artificială generală, care s-ar potrivi cu inteligența umană și ar învăța noi sarcini pe cont propriu.

Dar superinteligența ar merge mult mai departe.

În teorie, ar putea gândi mai bine decât oamenii în știință, strategie, inginerie, medicină, practic în fiecare domeniu cognitiv și ar putea rezolva probleme care sunt în prezent în afara îndemânei noastre.

Acest salt exponențial este exact motivul pentru care dezbaterea în jurul riscurilor sale este atât de intensă.

De ce liderii din domeniul tehnologiei cer o interdicție?

Cei care au semnat petiția spun că cursa actuală către superinteligență, condusă de companii precum OpenAI, Google și Meta, se mișcă mult mai repede decât guvernele sau autoritățile de reglementare pot ține pasul.

Chiar și cei din interior trag un semnal de alarmă: Sam Altman a spus că ar fi surprins dacă superinteligența nu ar fi aici până în 2030, iar Meta a mers atât de departe încât a redenumit o parte din divizia sa AI "Meta Superintelligence Labs", făcându-și ambițiile clare.

Petiția descrie superserviciile ca fiind un risc la scara pandemiilor sau a armelor nucleare.

Această încadrare nu este nouă, deoarece reflectă o declarație din 2023 a directorilor AI care îndeamnă liderii mondiali să trateze riscul de dispariție AI ca o prioritate globală de top.

Susținătorii interdicției spun că miza este existențială.

Dacă sistemele superinteligente sunt construite fără reguli puternice de siguranță, oamenii ar putea pierde controlul asupra sistemelor critice, ar putea suferi deplasări economice în masă sau s-ar putea confrunta cu rezultate mult mai rele.

Stuart Russell, cercetătorul în domeniul siguranței AI de la UC Berkeley care a semnat petiția, a subliniat că aceasta nu este menită să fie o interdicție generală, ci mai degrabă o cerere ca protocoalele de siguranță să fie în vigoare pentru o tehnologie care, potrivit propriilor săi creatori, ar putea pune capăt umanității.

Această petiție este cea mai recentă dintr-un val tot mai mare de încercări coordonate de a încetini goana către o inteligență artificială din ce în ce mai puternică.