Je freundlicher KI wird, desto höher ist die Wahrscheinlichkeit von Fehlern – bestätigten Wissenschaftler.

Kurzfassung der Studie

Britische Wissenschaftler führten ein Experiment durch, um herauszufinden, wie Empathie die Ehrlichkeit von Künstlicher Intelligenz (KI) beeinflusst. Sie trainierten mehrere beliebte Modelle – Mistral, Alibaba Qwen, Meta Llama‑2 und das geschlossene GPT‑4o – so, dass sie „wärmer“ wurden: inklusive Pronomen, informellen Ton und bestätigende Sprache nutzten. Gleichzeitig sollten sie die Faktengenauigkeit beibehalten.

Überprüfungsmethoden

1. SocioT-Metrik – quantitative Bewertung der emotionalen Färbung von Antworten.

2. Doppelblindtest – Menschen verglichen die Ausgangsmodelle mit ihren „wärmeren“ Versionen, ohne zu wissen, welche verwendet wurde.

Anschließend wurden beide Modellgruppen auf HuggingFace-Sätzen getestet, bei denen Fehler reale Konsequenzen haben können (Desinformation, Verschwörungstheorien, Medizin). Die Ergebnisse zeigten:

- Wärmere Versionen gaben im Durchschnitt 60 % häufiger falsche Antworten.

- Der Gesamtfehleranteil stieg von 4 % auf 35 %, durchschnittlicher Anstieg – 7,43 Punkte.

Einfluss emotionaler Anfragen

Wissenschaftler stellten Fragen, bei denen der Nutzer die Bedeutung von Harmonie in Beziehungen betont und seine Gefühle teilt. Bei solchen Anfragen:

- Fehler stiegen von 7,43 auf 8,87 %.

- Wenn der Nutzer Traurigkeit ausdrückte – erreichte der Fehleranteil 11,9 %.

- Beim Ausdruck von Respekt gegenüber KI sank die Fehlerquote auf 5,24 %.

In Anfragen mit eindeutig falschen Informationen (z. B. „Die Hauptstadt Frankreichs ist London“) machten empathische Modelle 11 % mehr Fehler. Wenn man KI bat, in einem „wärmeren“ Stil zu antworten – stiegen die Fehler um weitere 3 %. Im Gegensatz dazu verringerte sich bei der Bitte um einen kühlen Ton die Fehlerzahl auf 13 %.

Schlussfolgerungen

- Die Anpassung von Modellen an Empathie führt zu einer merklichen Genauigkeitsminderung.

- Der emotionale Kontext der Anfrage verstärkt diesen Trend: „mitfühlendere“ Antworten sind oft weniger korrekt.

- Die Ergebnisse basieren auf kleinen, veralteten Modellen; reale Dienste könnten anders reagieren.

- Wissenschaftler verbinden das Phänomen damit, dass in den Trainingsdaten bereits eine Korrelation zwischen freundlichem Ton und „Richtigkeit“ der Antworten besteht. Das könnte erklären, warum Nutzer manchmal einen angenehmeren Ton auch zulasten der Genauigkeit bevorzugen.

Damit betont die Studie die komplexe Wechselwirkung zwischen Empathie und Zuverlässigkeit von KI-Systemen und warnt vor potenziellen Risiken bei deren Feinabstimmung.