Warum überbewusste KI-Modelle Durchsetzungsvermögen über Genauigkeit stellen

Die Bedenken hinsichtlich der Zuverlässigkeit von KI-Modellen nehmen zu, da neue Forschungen zeigen, dass einige populäre Systeme in über einem Drittel ihrer Antworten falsche Informationen liefern, trotz der zunehmenden Abhängigkeit und des Vertrauens in KI-Technologie, teilte die ING Group am Mittwoch mit.

Moderne KI-Modelle mit tiefem Denken, Langzeitgedächtnis und autonomen Agenten können Aufgaben wie das Surfen im Internet mit minimalem menschlichem Eingreifen ausführen.

Die Ausführung dieser Aufgaben erfordert jedoch umfangreiche Daten, was zu einer stärkeren Abhängigkeit von externen Datenquellen führt, die oft unkontrolliert und nicht verifiziert sind, sagte Julian Geib von der ING, Juniorökonom für globalen Handel, in einem Bericht.

Vermessenheit

Führende KI-Systeme erzeugen falsche Behauptungen mit einer Rate von bis zu 40 %, eine Folge, die in einer aktuellen Studie der Europäischen Rundfunkunion (EBU) hervorgehoben wird.

Die erhöhte Frequenz der Antworten passt zu einem Wandel im Verhalten von KI-Modellen.

Frühere KI-Systeme waren so programmiert, dass sie Anfragen zu Themen außerhalb ihrer Trainingsdatensätze nicht beantworten wollten.

Heutige Systeme mit Webkonnektivität sind jedoch darauf ausgelegt, häufiger zu antworten, selbst wenn die verfügbaren Informationen begrenzt oder unsicher sind.

Eine erhöhte Nutzerbindung ist ein Vorteil, führt aber zu mehr konstruierten Ergebnissen, die wir als "KI-Halluzinationen" bezeichnen, sagte Geib.

Flüssigkeit statt Genauigkeit

Selbst neuere KI-Modelle erleben aus mehreren Gründen häufig Halluzinationen.

Vor allem hat das Modell Schwierigkeiten mit der Interpretation, wenn Nutzer vage oder zu komplexe Fragen stellen.

Dies führt oft dazu, dass das Modell statistische Muster nutzt, um "die Lücken zu füllen", was eine scheinbar vollständige, aber potenziell faktisch ungenaue Antwort erzeugt, sagte Geib.

Obwohl diese Antworten hilfreich sein sollen, können sie falsche Informationen einführen.

Feinabstimmung von Modellen mit menschlichem Feedback bevorzugt oft selbstbewusste, hilfreich klingende Antworten, was zu einer Neigung zu ungenauen, aber durchsetzungsfähigen Aussagen gegenüber vorsichtigen oder unsicheren Antworten führt.

Das Problem wird durch die rapide sinkende "Keine Antwortquote" verschärft.

Ältere Modelle haben fast 40 % der Anfragen abgelehnt, aber neuere beantworten fast alles.

In kritischen Bereichen wie Politik und Gesundheit schafft diese Priorisierung von Sprachflüssigkeit über Genauigkeit ernsthafte Fehlinformationsrisiken.

KI wird immer häufiger zu einem Werkzeug, um auf aktuelle Ereignisse zuzugreifen, insbesondere bei jüngeren Zielgruppen.

Bemerkenswert ist, dass 15 % der Menschen unter 25 Jahren angeben, dass sie auf KI-Chatbots als Hauptquelle für Nachrichten angewiesen sind.

"Angesichts der zunehmenden Nutzung von KI sowohl privat als auch in Unternehmen sollte Genauigkeit Priorität haben", sagte Geib.

Bewusstsein ist lebenswichtig

Geib fügte hinzu:

Die aktuellen Einschränkungen bei der Genauigkeit von KI deuten laut Geib darauf hin, dass der vollständige Ersatz ganzer Berufsfelder in naher Zukunft ein deutlich geringwahrscheinliches Ereignis darstellt.

Dies liegt vor allem daran, dass menschliche Fachkräfte in den meisten Bereichen mit einem Maß an nuanciertem Urteilsvermögen, kontextbezogenem Verständnis und Genauigkeit arbeiten, das heutige KI-Systeme kaum konsistent nachbilden können.

Das Risiko einer weit verbreiteten Arbeitsplatzverlagerung wird daher nur in Situationen kritisch, in denen Praktiker innerhalb eines Berufsstands vollständig auf die potenziell fehlerhaften oder fehlerhaften Daten und Schlussfolgerungen angewiesen sind – und es versäumen, kritisch zu überprüfen, die durch KI erzeugt werden.

Im Wesentlichen dient KI derzeit als mächtiges, aber unvollkommenes Werkzeug, und ihre Ungenauigkeiten sorgen dafür, dass menschliche Kontrolle, kritisches Denken und Validierung unentbehrliche Bestandteile der beruflichen Arbeit bleiben.

"KI-generierte Aussagen sollten mit derselben kritischen Haltung behandelt werden wie menschliche Behauptungen", bemerkte Geib.