Che cos'è la superintelligenza e perché i giganti della tecnologia ne chiedono il divieto?

Più di 800 figure di spicco di tutto lo spettro tecnologico, scientifico, politico e culturale hanno firmato una dichiarazione pubblica che chiede il divieto di sviluppo di sistemi di intelligenza artificiale "superintelligenti".

La coalizione, coordinata dal Future of Life Institute e annunciata mercoledì, comprende il co-fondatore di Apple Steve Wozniak, il fondatore di Virgin Group Richard Branson, cinque premi Nobel, i pionieri dell'intelligenza artificiale Geoffrey Hinton e Yoshua Bengio, entrambi spesso chiamati "padrini dell'intelligenza artificiale".

Comprende anche l'ex presidente del Joint Chiefs degli Stati Uniti Mike Mullen, il consigliere per l'intelligenza artificiale di Papa Francesco Paolo Benanti e persino il principe Harry e Meghan, il duca e la duchessa del Sussex.

Il gruppo politicamente eterogeneo riflette ciò che gli organizzatori descrivono come una preoccupazione universale per i rischi esistenziali posti dalle macchine che potrebbero superare l'intelligenza umana.

Che cos'è la superintelligenza?

La superintelligenza, a volte indicata come superintelligenza artificiale o ASI, si riferisce a un tipo di intelligenza artificiale che sarebbe più intelligente degli esseri umani praticamente in ogni area che conta.

Questo è molto diverso dagli strumenti di intelligenza artificiale di oggi, come ChatGPT, che rientrano nella categoria dell'"intelligenza artificiale ristretta" perché sono progettati per eseguire compiti specifici.

Anche i sistemi più avanzati di cui disponiamo ora, compresi i modelli linguistici di grandi dimensioni come GPT-5, sono ancora limitati.

Possono scrivere codice, redigere saggi e persino superare esami, ma non pensano in modo indipendente, non si pongono i propri obiettivi o non comprendono il mondo come fanno gli esseri umani.

In realtà stanno solo prevedendo modelli basati sui dati di addestramento, non ragionando sul futuro o prendendo decisioni autonome.

Alcuni ricercatori pensano che la prossima pietra miliare sia l'AGI, l'intelligenza artificiale generale, che corrisponderebbe all'intelligenza umana e apprenderebbe nuovi compiti da sola.

Ma la superintelligenza andrebbe ben oltre.

In teoria, potrebbe superare gli esseri umani nella scienza, nella strategia, nell'ingegneria, nella medicina, praticamente in ogni dominio cognitivo, e potrebbe risolvere problemi che attualmente sono ben al di fuori della nostra portata.

Questo salto esponenziale è esattamente il motivo per cui il dibattito sui suoi rischi è così intenso.

Perché i leader tecnologici chiedono un divieto?

Coloro che hanno firmato la petizione affermano che l'attuale corsa verso la superintelligenza, guidata da aziende come OpenAI, Google e Meta, si sta muovendo molto più velocemente di quanto i governi o le autorità di regolamentazione possano tenere il passo.

Anche gli addetti ai lavori lanciano l'allarme: Sam Altman ha detto che sarebbe sorpreso se la superintelligenza non fosse qui entro il 2030, e Meta è arrivata al punto di rinominare parte della sua divisione AI "Meta Superintelligence Labs", rendendo le sue ambizioni cristalline.

La petizione descrive la superintelligenza come un rischio sulla scala delle pandemie o delle armi nucleari.

Questa inquadratura non è nuova, in quanto fa eco a una dichiarazione del 2023 dei dirigenti dell'IA che esortavano i leader mondiali a considerare il rischio di estinzione dell'IA come una priorità globale assoluta.

I sostenitori del divieto dicono che la posta in gioco è esistenziale.

Se i sistemi superintelligenti vengono costruiti senza forti regole di sicurezza, sostengono, gli esseri umani potrebbero perdere il controllo sui sistemi critici, subire uno spostamento economico di massa o affrontare risultati molto peggiori.

Stuart Russell, il ricercatore sulla sicurezza dell'intelligenza artificiale dell'UC Berkeley che ha firmato la petizione, ha sottolineato che non si tratta di un divieto generale, ma piuttosto di una richiesta di protocolli di sicurezza per una tecnologia che, secondo i suoi stessi creatori, potrebbe plausibilmente porre fine all'umanità.

Questa petizione è l'ultima di una crescente ondata di tentativi coordinati di rallentare la corsa verso un'intelligenza artificiale sempre più potente.