Was bringt das neue KI-Gesetz der Europäischen Union? Erster Teil

In diesem Monat tritt ein historisches und bahnbrechendes neues Gesetz zur KI in Kraft.

Das EU-Gesetz zur künstlichen Intelligenz wird nach eigenen Angaben die erste umfassende Regulierung der KI durch einen großen Regulierer überhaupt sein.“

Doch was bedeutet das nun für den Durchschnittsbürger? Und welche Konsequenzen hat es im Übrigen für die Finanzmärkte?

Wer muss das EU-KI-Gesetz kennen?

Glauben Sie nicht, dass Sie nicht betroffen sind, wenn Sie nicht in der EU sind. Jeder, der KI-Dienste nutzt oder innerhalb der Europäischen Union anbietet, ist betroffen – aber das KI-Gesetz ist noch nicht alles.

Robert Jain, Partner bei der Anwaltskanzlei Holland & Knight, sagt: „Das vorgeschlagene KI-Gesetz gilt für Anbieter und Entwickler von KI-Systemen, die innerhalb der EU vermarktet oder genutzt werden (einschließlich frei nutzbarer KI-Technologie), unabhängig davon, ob diese Anbieter oder Entwickler in der EU oder einem anderen Land ansässig sind.“

„Das bedeutet, dass in den USA ansässige Unternehmen, die KI-basierte Technologie innerhalb der EU vermarkten oder bereitstellen, bei Nichteinhaltung mit möglichen Strafen gemäß dem Gesetz belegt werden können.“ ¹

Ein hoher Preis

Und die Strafen können saftig sein. Laut Gesetz können sie zwischen 7,5 und 35 Millionen Euro liegen – für Megakonzerne können die Strafen sogar noch höher ausfallen.

Das AI ACT sieht zudem eine gleitende Strafskala von 1,5 bis 7 Prozent des weltweiten Gesamtumsatzes eines Unternehmens vor.

Wenn diese umsatzabhängige Geldbuße umgesetzt würde, würde das EU-KI-Gesetz zu den strengsten Geldbußen weltweit gehören. Die Microsofts dieser Welt würden sich vielleicht nicht allzu sehr vor einer Geldbuße von 35 Millionen Euro scheuen – aber fast ein Zehntel aller Einnahmen, die noch vor Gewinnabzug anfallen?

Welche Ziele verfolgt der europäische KI-Act?

Vereinfacht ausgedrückt zielt das Gesetz darauf ab, die Einhaltung bestimmter vorgeschriebener Standards bei der Nutzung von KI und bewährter Verfahren durch Unternehmen und Entwickler zu erzwingen.

Dies ist ein ganz anderer Ansatz als beispielsweise in den USA, wo die Regulierung von KI weit weniger normativ und strafend ist und für viele beinahe schon eine freiwillige Konformitätsübung darstellt.

Genauer gesagt kategorisiert das KI-Gesetz verschiedene mögliche Einsatzmöglichkeiten der KI-Technologie in unterschiedliche „Risiko“-Stufen und verbietet den „risikoreichen“ Einsatz von KI.

Einige verbotene Hochrisikoaktivitäten sind:

• Scraping von Gesichtsbildern, entweder aus dem Internet oder aus Filmmaterial, zur Verwendung in Dingen wie „Deepfakes“
• KI segmentiert Menschen anhand ihrer persönlichen Daten wie Biometrie in Gruppen, wobei Geschlecht, Rasse, Religion, politische Zugehörigkeit und andere persönliche Informationen einer Person entweder eingeschränkt oder diskriminiert werden.
• „Social Scoring“, also die Kategorisierung und Diskriminierung einer Person aufgrund persönlicher Merkmale
• „Manipulative KI“ – eine vage formulierte, potenziell problematische Definition des „Einsatzes unterschwelliger, manipulativer oder irreführender Techniken, um das Verhalten zu verzerren und fundierte Entscheidungen zu beeinträchtigen, wodurch erheblicher Schaden verursacht wird“

Wann tritt das Gesetz in Kraft?

Die Frist für das Inkrafttreten des EU-KI-Gesetzes läuft von Mai bis Juli 2024.

Das Weltwirtschaftsforum geht jedoch davon aus, dass das Gesetz noch im Juni, also genauer gesagt in diesem Monat, in Kraft treten wird.

Als nächstes werden wir im zweiten Teil speziell diskutieren, was das KI-Gesetz der Europäischen Union voraussichtlich für die Finanzmärkte bedeuten wird.

Quellen:

¹ Holland & Knight, 2024; die offizielle Website des EU-Gesetzes zur künstlichen Intelligenz