Deutsche Banken prüfen Risiken des Anthropic-AI-Modells wegen Cyber-Bedenken

Deutsche Banken und nationale Behörden prüfen potenzielle Risiken im Zusammenhang mit einem neuen von Anthropic entwickelten KI-Modell, sagte ein Beamter am Donnerstag.

Im Mittelpunkt der Bedenken steht, ob die Technologie die Gefahr von Cyberangriffen auf Finanzinstitute erhöhen könnte.

Kolja Gabriel, Vorstandsmitglied beim Deutschen Bankenverband, sagte, die Gruppe konsultiere aktiv Cybersicherheitsexperten in ihren Mitgliedsbanken.

Er fügte hinzu, dass nach Angaben von Reuters auch Gespräche mit dem deutschen Finanzministerium und anderen Behörden stattfinden.

Abstimmung mit Regulatoren und Behörden

An den laufenden Gesprächen sind die Bundesbank und Deutschlands Finanzaufsicht BaFin beteiligt.

Die BaFin bestätigte, dass sie regelmäßigen Austausch mit nationalen, europäischen und internationalen Akteuren pflegt.

Die Aufsicht betonte, dass der Finanzsektor vorbereitet sein müsse.

Mythos sorgt bei Cybersicherheitsexperten für Besorgnis

Das von Anthropic entwickelte Modell Mythos hat die Aufmerksamkeit von Cybersicherheitsexperten geweckt, die der Ansicht sind, dass es für Banken, insbesondere solche mit veralteten IT-Systemen, erhebliche Herausforderungen darstellt.

Diese Bedenken haben auch in Großbritannien und den Vereinigten Staaten regulatorisches Interesse ausgelöst.

„Mythos wird von IT-Sicherheitsfirmen kontrolliert eingesetzt, um potenzielle Schwachstellen so schnell wie möglich zu schließen.

Wir erwarten in Kürze eine Reihe von Software-Updates und beobachten die Entwicklungen genau“, schrieb Gabriel in einer per E-Mail versandten Stellungnahme.

Er ist beim Verband für Technologie und Innovation zuständig.

Aufseher der Europäischen Zentralbank bereiten sich darauf vor, Banker zu den mit dem Modell verbundenen Risiken zu befragen.

Begrenzte Einführung und Branchen-Tests

Anthropic hat erklärt, dass seine aktuelle Version, Claude Mythos Preview, nicht für die allgemeine Nutzung freigegeben wird.

Stattdessen hat das Unternehmen eine Initiative namens Project Glasswing gestartet.

Das Programm lädt große Technologieunternehmen, Cybersicherheitsanbieter und Organisationen wie JPMorgan Chase ein, das Modell privat zu prüfen und die Abwehr zu stärken.

Diese kontrollierte Einführung spiegelt die allgemeinere Vorsicht in der Branche wider, während Akteure versuchen, die Auswirkungen fortschrittlicher KI-Systeme zu verstehen.

Anthropics zunehmender Einfluss in der KI-Landschaft

Die Prüfung erfolgt zu einem Zeitpunkt, an dem Anthropic an Bedeutung im globalen KI-Sektor gewinnt.

Das Unternehmen ist nach einer bedeutenden Finanzierungsrunde, die es mit $380 billion bewertete, zu einem wichtigen Akteur geworden.

Laut Dave Kasten von Palisade Research hat Anthropic durch den Fokus auf Sicherheit und Zuverlässigkeit eine starke Position aufgebaut.

Er wies darauf hin, dass der Ansatz des Unternehmens zur „constitutional integrity“ gegenüber Wettbewerbern einen strukturellen Vorteil geschaffen habe.

Kasten hob die Fähigkeit des Modells hervor, Schwachstellen durch fortgeschrittenes Schlussfolgern zu erkennen, statt sich ausschließlich auf historische Muster zu stützen.

Er nannte ein Beispiel, bei dem das System einen zuvor unentdeckten Fehler in einer FreeBSD-Implementierung identifizierte und damit sein Potenzial für proaktive Cybersicherheit demonstrierte.

Strategische Bedeutung und politische Spannungen

Trotz der Bedenken reicht das Interesse an Mythos über Europa hinaus.

Ein Politico-Bericht deutete darauf hin, dass US-Behörden und Kongressmitarbeiter weiterhin die Fähigkeiten des Modells nutzen, selbst nachdem Beschränkungen für die Zusammenarbeit mit Anthropic verhängt worden waren.

Der Bericht schrieb, dass das Center for AI Standards and Innovation des Handelsministeriums die Cybersecurity-Funktionen von Mythos testet.

Mitarbeiter mehrerer Kongressausschüsse haben ebenfalls um Briefings zum Modell gebeten.

Die Situation macht eine grundsätzliche Spannung deutlich.

Während das Pentagon Anthropic als Risiko für die Lieferkette eingestuft und Geschäftsbeziehungen abgebrochen hat, scheint ein Teil der US-Regierung nicht bereit zu sein, eine als strategisch wichtig angesehene Technologie zu ignorieren.

Das Ausmaß dieses Engagements bleibt unklar.

Das anhaltende Interesse deutet jedoch darauf hin, dass fortschrittliche KI-Tools wie Mythos zunehmend zentral für Überlegungen zu Cybersicherheit und nationaler Sicherheit werden, selbst angesichts regulatorischer Vorsicht.