KI-Bots machen in der Diagnose fast 80 % Fehler, wie eine Studie herausfand

Kurz über das Forschungsergebnis

Eine kürzlich veröffentlichte Studie in *Jama Network Open*, die im *Financial Times* zitiert wurde, zeigte, dass beliebte Chat‑Bots keine genauen medizinischen Diagnosen stellen können, wenn ihnen nur ein begrenztes Datenset zur Verfügung steht. In mehr als 80 % der Fälle stellten sie falsche Diagnosen, und erst bei einer vollständigen Symptombeschreibung stieg die Genauigkeit auf 90 %.

Wie die Studie durchgeführt wurde
Schritt | Was gemacht wurde | Auswahl der Fälle | 29 klinische Szenarien aus Fachliteratur. | Datenübermittlung | Patienteninformationen wurden den Chat‑Bots schrittweise übermittelt: Krankengeschichte → Untersuchungsergebnisse → Laboranalysen. | Fragen an KI | Diagnosen abgefragt; Genauigkeit und Vollständigkeit gemessen.

Teilnehmer der Studie
* 20 beliebte Modelle von OpenAI, Anthropic, Google, xAI, DeepSeek.
* Bei unvollständigen Daten stellten über 80 % einen falschen Befund.
* Mit zunehmendem Informationsvolumen stieg die Genauigkeit: in den besten Fällen >90 %, durchschnittlich Fehler unter 40 %.

Reaktion der Entwickler
Firma | Kommentar
Google & Anthropic | Bei medizinischen Empfehlungen raten die Chat‑Bots dringend, einen Facharzt zu konsultieren.
OpenAI | Gibt in den Nutzungsbedingungen an, dass ihre Dienste nicht für lizenziertes medizinisches Ratschläge bestimmt sind.
xAI & DeepSeek | Keine Kommentare abgegeben.

Einige entwickeln spezialisierte Modelle: Google hat AMIE entwickelt, das gute Ergebnisse liefert, aber die Ausgaben erfordern dennoch eine Bestätigung durch einen lebenden Arzt, insbesondere wegen der Bedeutung einer visuellen Bewertung.

Fazit
Chat‑Bots können als unterstützendes Werkzeug nützlich sein, machen jedoch bei eingeschränkten Informationen häufig Fehler. Ihre Verwendung als Ersatz für qualifizierte medizinische Fachkräfte ist derzeit nicht zulässig, obwohl solche Modelle in Regionen mit begrenztem Zugang zur traditionellen Medizin hilfreich sein könnten.