O que é superinteligência e por que os gigantes da tecnologia estão pedindo sua proibição?

Mais de 800 figuras proeminentes de todo o espectro tecnológico, científico, político e cultural assinaram uma declaração pública pedindo a proibição do desenvolvimento de sistemas de inteligência artificial "superinteligentes".

A coalizão, coordenada pelo Future of Life Institute e anunciada na quarta-feira, inclui o cofundador da Apple, Steve Wozniak, o fundador do Virgin Group, Richard Branson, cinco ganhadores do Prêmio Nobel, os pioneiros da IA Geoffrey Hinton e Yoshua Bengio, ambos frequentemente chamados de "padrinhos da IA".

Também inclui o ex-presidente do Estado-Maior Conjunto dos EUA, Mike Mullen, o conselheiro de IA do Papa Francisco, Paolo Benanti, e até o príncipe Harry e Meghan, o duque e a duquesa de Sussex.

O grupo politicamente diverso reflete o que os organizadores descrevem como preocupação universal com os riscos existenciais representados por máquinas que podem superar a inteligência humana.

O que é Superinteligência?

Superinteligência, às vezes chamada de superinteligência artificial ou ASI, refere-se a um tipo de IA que seria mais inteligente do que os humanos em praticamente todas as áreas importantes.

Isso é muito diferente das ferramentas de IA atuais, como o ChatGPT, que se enquadram na categoria de "IA estreita" porque são projetadas para executar tarefas específicas.

Mesmo os sistemas mais avançados que temos agora, incluindo grandes modelos de linguagem como GPT-5, ainda são limitados.

Eles podem escrever códigos, redigir redações e até passar em exames, mas não pensam de forma independente, estabelecem seus próprios objetivos ou entendem o mundo da maneira que os humanos entendem.

Eles estão apenas prevendo padrões com base em dados de treinamento, não raciocinando sobre o futuro ou tomando decisões autônomas.

Alguns pesquisadores acham que o próximo marco é a AGI, inteligência artificial geral, que corresponderia à inteligência humana e aprenderia novas tarefas por conta própria.

Mas a superinteligência iria muito além disso.

Em teoria, poderia superar os humanos em ciência, estratégia, engenharia, medicina, basicamente todos os domínios cognitivos, e poderia resolver problemas que atualmente estão bem fora de nosso alcance.

Esse salto exponencial é exatamente o motivo pelo qual o debate em torno de seus riscos é tão intenso.

Por que os líderes de tecnologia estão pedindo uma proibição?

Aqueles que assinaram a petição dizem que a atual corrida em direção à superinteligência, liderada por empresas como OpenAI, Google e Meta, está se movendo muito mais rápido do que os governos ou reguladores podem acompanhar.

Até mesmo os insiders estão soando alarmes: Sam Altman disse que ficaria surpreso se a superinteligência não estivesse aqui até 2030, e a Meta chegou ao ponto de renomear parte de sua divisão de IA para "Meta Superintelligence Labs", deixando suas ambições claras.

A petição descreve a superinteligência como um risco na escala de pandemias ou armas nucleares.

Esse enquadramento não é novo, pois ecoa uma declaração de 2023 de executivos de IA pedindo aos líderes mundiais que tratem o risco de extinção da IA como uma prioridade global.

Os defensores da proibição dizem que as apostas são existenciais.

Se os sistemas superinteligentes forem construídos sem regras de segurança fortes, eles argumentam, os humanos podem perder o controle sobre sistemas críticos, sofrer deslocamento econômico em massa ou enfrentar resultados muito piores.

Stuart Russell, o pesquisador de segurança de IA da UC Berkeley que assinou a petição, enfatizou que isso não pretende ser uma proibição geral, mas sim uma exigência de que os protocolos de segurança estejam em vigor para uma tecnologia que, de acordo com seus próprios criadores, poderia plausivelmente acabar com a humanidade.

Esta petição é a mais recente de uma onda crescente de tentativas coordenadas de desacelerar a corrida em direção a uma IA cada vez mais poderosa.