Was ist Superintelligenz und warum fordern Tech-Giganten ihr Verbot?

Mehr als 800 prominente Persönlichkeiten aus dem gesamten technologischen, wissenschaftlichen, politischen und kulturellen Spektrum haben eine öffentliche Erklärung unterzeichnet, in der sie ein Verbot der Entwicklung von "superintelligenten" Systemen der künstlichen Intelligenz fordern.

Zu der Koalition, die vom Future of Life Institute koordiniert und am Mittwoch bekannt gegeben wurde, gehören Apple-Mitbegründer Steve Wozniak, der Gründer der Virgin Group, Richard Branson, fünf Nobelpreisträger, die KI-Pioniere Geoffrey Hinton und Yoshua Bengio, die beide oft als "Paten der KI" bezeichnet werden.

Dazu gehören auch der ehemalige Vorsitzende der US Joint Chiefs, Mike Mullen, der KI-Berater von Papst Franziskus, Paolo Benanti, und sogar Prinz Harry und Meghan, der Herzog und die Herzogin von Sussex.

Die politisch vielfältige Gruppe spiegelt das wider, was die Organisatoren als universelle Besorgnis über die existenziellen Risiken beschreiben, die von Maschinen ausgehen, die die menschliche Intelligenz übertreffen könnten.

Was ist Superintelligenz?

Superintelligenz, manchmal auch als künstliche Superintelligenz oder ASI bezeichnet, bezieht sich auf eine Art von KI, die in praktisch jedem wichtigen Bereich intelligenter ist als der Mensch.

Das unterscheidet sich stark von den heutigen KI-Tools wie ChatGPT, die unter die Kategorie "schmale KI" fallen, weil sie für bestimmte Aufgaben konzipiert sind.

Selbst die fortschrittlichsten Systeme, die wir derzeit haben, einschließlich großer Sprachmodelle wie GPT-5, sind immer noch begrenzt.

Sie können Code schreiben, Aufsätze verfassen und sogar Prüfungen bestehen, aber sie denken nicht unabhängig, setzen sich keine eigenen Ziele und verstehen die Welt nicht so, wie es Menschen tun.

Sie prognostizieren wirklich nur Muster auf der Grundlage von Trainingsdaten, denken nicht über die Zukunft nach oder treffen autonome Entscheidungen.

Einige Forscher glauben, dass der nächste Meilenstein AGI (Artificial General Intelligence) ist, die mit der menschlichen Intelligenz mithalten und neue Aufgaben von selbst erlernen würde.

Aber Superintelligenz würde weit darüber hinausgehen.

Theoretisch könnte es den Menschen in Wissenschaft, Strategie, Ingenieurwesen, Medizin und im Grunde jedem kognitiven Bereich übertreffen und Probleme lösen, die derzeit weit außerhalb unserer Reichweite liegen.

Genau dieser exponentielle Sprung ist der Grund, warum die Debatte über die Risiken so intensiv geführt wird.

Warum fordern Technologieführer ein Verbot?

Diejenigen, die die Petition unterzeichnet haben, sagen, dass der derzeitige Wettlauf um Superintelligenz, angeführt von Unternehmen wie OpenAI, Google und Meta, viel schneller voranschreitet, als Regierungen oder Regulierungsbehörden Schritt halten können.

Selbst Insider schlagen Alarm: Sam Altman sagte, er wäre überrascht, wenn es die Superintelligenz nicht bis 2030 gäbe, und Meta ist sogar so weit gegangen, einen Teil seiner KI-Abteilung in "Meta Superintelligence Labs" umzubenennen und damit seine Ambitionen glasklar zu machen.

Die Petition beschreibt die Superintelligenz als ein Risiko in der Größenordnung von Pandemien oder Atomwaffen.

Dieses Framing ist nicht neu, denn es spiegelt eine Erklärung von KI-Führungskräften aus dem Jahr 2023 wider, in der die Staats- und Regierungschefs der Welt aufgefordert werden, das Risiko des Aussterbens von KI als oberste globale Priorität zu betrachten.

Die Befürworter des Verbots sagen, dass es auf dem Spiel steht.

Wenn superintelligente Systeme ohne strenge Sicherheitsvorschriften gebaut würden, könnten die Menschen die Kontrolle über kritische Systeme verlieren, massive wirtschaftliche Verdrängungen erleiden oder weitaus schlimmere Folgen haben.

Stuart Russell, der KI-Sicherheitsforscher der UC Berkeley, der die Petition unterzeichnet hat, betonte, dass dies kein pauschales Verbot sein soll, sondern vielmehr eine Forderung, dass Sicherheitsprotokolle für eine Technologie eingeführt werden, die nach Ansicht ihrer eigenen Schöpfer plausibel die Menschheit auslöschen könnte.

Diese Petition ist die jüngste in einer wachsenden Welle koordinierter Versuche, den Ansturm auf immer leistungsfähigere KI zu verlangsamen.