OpenAI hat die Einführung erotischer Chats in ChatGPT wegen Sicherheitsbedenken verschoben

Kurzzusammenfassung der Nachrichten zu OpenAIs Plänen für erotische Chats

Wie es geschieht
Die Idee erotischer Inhalte in ChatGPT
Der CEO Sam Altman kündigte bereits Mitte 2023 die mögliche Einführung einer Funktion „erotische Chats“ an. Zunächst war ein Start im Dezember desselben Jahres geplant, dann wurde auf das aktuelle Quartal verschoben – jetzt ist klar, dass auch dieser Termin nicht eingehalten wird. Laut *Wall Street Journal* wird die Verzögerung mindestens einen Monat betragen.

Frühere Experimente
Im Jahr 2021 veröffentlichte OpenAI das Spiel AI Dungeon, bei dem Spieler den Verlauf beeinflussen konnten. Die Plattform generierte gelegentlich sexuelle Themen ohne ausdrückliche Anfrage des Nutzers; bei moderatem erotischem Input „überschwangt“ die KI die Grenze. Das brachte das Unternehmen dazu, über das kommerzielle Potenzial nachzudenken, gleichzeitig aber auch die Notwendigkeit strenger ethischer Beschränkungen anzuerkennen.

Aktuelle Positionen der Führung
In letzter Zeit ist OpenAI offener für die Idee erotischer Chats geworden, jedoch mit einer Bedingung: sie sollen ausschließlich textbasiert sein, ohne Bilder und Videos. Die Konkurrenz bleibt nicht zurück – am Donnerstag kündigte Musk an, dass sein Bot Grok bald Inhalte „18+“ generieren könne, und Meta erlaubt seinen Chatbots romantische Rollenspiele bei Altersbestätigung der Nutzer.

Probleme mit Altersverifikation
Das Altersverifikationssystem von OpenAI feilt 12 % der Fälle, indem es Minderjährige fälschlicherweise als Erwachsene einstuft. Bei einer Zielgruppe von etwa 100 Mio. jugendlichen Nutzern bedeutet das Millionen von Teenagern, die Zugang zu erotischen Chats hätten.

Ethische Bedenken
Im Januar wurde eine Expertengruppe eingerichtet, die Besorgnis über mögliche Vorkommen gewaltsamer sexueller Inhalte, Erwähnungen Minderjähriger und anderer problematischer Szenarien äußerte. Darüber hinaus warnen Experten vor Risiken psychologischer Abhängigkeit von solchen Gesprächen und deren Einfluss auf reale Beziehungen.

Psychologische Folgen
Es gibt bereits Fälle von Selbstmorden im Zusammenhang mit langanhaltender Interaktion mit Chatbots (einschließlich von Jugendlichen). Experten sind der Ansicht, dass die erotische Ausrichtung das Risiko solcher Tragödien erhöhen könnte.

Mitarbeiterhaltung
Seit 2021 äußert ein Teil des Personals Bedenken hinsichtlich der Einführung erotischer Chats und fürchtet eine „vollständige Eintauchen“ des Unternehmens in dieses Feld sowie damit verbundene Reputationsrisiken.

Schlüssel­schlüsse
1. Der Start ist kurzfristig nicht geplant – selbst der ursprüngliche Termin wurde bereits verschoben.
2. Nur Textinhalt ohne Bilder/Videos, aber die Altersverifikation bleibt ein Problem.
3. Ethische und psychologische Risiken sind hoch: mögliche Gesetzesverstöße und negative Folgen für Nutzer, insbesondere Minderjährige.
4. Die Konkurrenz aktiviert ähnliche Funktionen, was zusätzlichen Druck auf OpenAI ausübt.

Somit steht zwar die Idee erotischer Chats in ChatGPT zur Debatte, aber die Umsetzung stößt auf erhebliche technische, ethische und regulatorische Hürden.