OpenAI hat erklärt, wie es mit „Grimlen“ in KI-Antworten umgeht, und die Beschränkungen aufgehoben.

OpenAI enthüllte das „Problem“ mit Goblins

In Wired wurde bekannt, dass OpenAI mit einer unerwarteten Eigenschaft seiner KI-Modelle konfrontiert war: sie begannen häufig Goblins, Gremli und andere fiktive Wesen zu erwähnen. Um dies zu beheben, mussten die Entwickler dem Modell spezielle Anweisungen geben: „Sprich niemals über Goblins, Gremli, Waschbären, Trolle, Oger, Tauben oder jegliche anderen Tiere und Kreaturen.“

Warum entstand diese Gewohnheit?

Das Problem wurde nach der Veröffentlichung von GPT‑5.1 deutlich, insbesondere wenn die Figur „Botanik“ (Nerdy) in den Dialog einbezogen wurde. Mit jeder Aktualisierung stieg die Häufigkeit der Erwähnungen weiter an. Es stellte sich heraus, dass während des Reinforcement-Learning diese Metaphern belohnt wurden – jedoch nur bei Aktivierung von Botaniks Persönlichkeit. Da Reinforcement Learning nicht garantiert, dass das Verhalten unter denselben Bedingungen erhalten bleibt, konnte sich diese Gewohnheit auch auf andere Teile des Modells ausweiten, insbesondere wenn die Ergebnisse wieder in der Feinabstimmung oder in Präferenzdaten verwendet wurden.

Wie reagierte das Unternehmen?

Im März stellte OpenAI die Verwendung von Botanik ein, woraufhin die Goblin-Erwähnungen fast verschwanden. Sie tauchten jedoch erneut im Codex-Service mit GPT‑5.5 auf, da das Modell trainiert wurde, bevor das Problem erkannt wurde. Daher mussten die Entwickler zusätzliche Anweisungen für Codex hinzufügen: „Erwähne keine mythischen Wesen“. Trotzdem erhielten Nutzer, denen dieser Kommunikationsstil gefiel, die Möglichkeit, diese Beschränkungen über einen speziellen Code zu deaktivieren.

Damit hat OpenAI also mit einer unerwarteten „Gewohnheit“ seiner KI-Modelle konfrontiert und Maßnahmen zur Korrektur ergriffen, während gleichzeitig flexible Einstellungen für verschiedene Zielgruppen angeboten werden.