KI schreibt immer häufiger wissenschaftliche Artikel, und es wird unmöglich, sie von menschlichen zu unterscheiden, was beunruhigend ist.

KI in wissenschaftlichen Publikationen: Wachstum und Herausforderungen

Was passiert
- Zunahme des Umfangs

Laut *Nature* übersteigt die Anzahl der Artikel, in denen KI verwendet wird, bereits die Zahl der ausschließlich von Menschen verfassten (Graphite-Forscher analysierten bis Ende März 55 000 neue Webseiten).

- Vor- und Nachteile

KI beschleunigt den Forschungsprozess, gleichzeitig entstehen viele Arbeiten niedriger Qualität.

Wie misst man KI-Beteiligung
Studie Zeitraum Datenvolumen Schlüsselbefunde Pangram Labs (7 000 Artikel + 8 000 Rezensionen) Jan‑Feb 2021–Feb 2026 7 000/8 000 Seit November 2022 Wachstum der Arbeiten um 42 % verbunden mit KI.
Seit Anfang 2024 haben Artikel, in denen >70 % des Textes von KI stammt, ihr Volumen verdoppelt; 30 % der Rezensionen enthalten KI-Text. Biomedizinische Zeitschriften (Science, Nature, Cell) – ~5 000 Artikel, 6 vollständig von KI verfasst; jede achte enthält Elemente von KI‑Text. arXiv (Computerwissenschaften) 2020–2025 >124 000 Manuskripte Review-Artikel mit KI sind von 7 % auf 43 % gestiegen. Einzigartige Studien mit KI‑Text – von 3 % bis 23 %.

Probleme und Beschränkungen
1. Zuverlässigkeit der Detektoren

- Moderne Tools unterscheiden nicht zwischen „bearbeitetem“ Text und vollständig generiertem KI-Text.

- Falschpositive sind möglich – menschlich verfasster Inhalt wird als KI markiert.

2. Fehlende genaue Messgrößen

Es gibt keine universelle Methode, den Anteil von KI-erstelltem Inhalt in der gesamten wissenschaftlichen Literatur zu bestimmen.

3. Technologische Evolution

- Mit der Weiterentwicklung von KI entstehen neue Methoden zur „Humanisierung“ von Texten und zum Umgehen von Detektoren.

- Lösungen wie *Wasserzeichen*, die eindeutig auf KI-Beteiligung hinweisen, werden eingesetzt; deren Anwendung führte bereits zur Ablehnung von 497 Artikeln einer Konferenz.

Ergebnis
Die wissenschaftliche Gemeinschaft steht vor einem schnellen Anstieg von Publikationen mit KI‑Beteiligung. Dies eröffnet neue Möglichkeiten zur Beschleunigung der Forschung, erfordert jedoch gleichzeitig die Entwicklung zuverlässiger Erkennungs- und Qualitätskontrollinstrumente, um die Vertrauenswürdigkeit der wissenschaftlichen Literatur zu erhalten.