OpenAI hat die Erstellung von Erwachseneninhalten in ChatGPT verschoben und das Projekt eines KI-Bots für Erwachsene „in den langen Schrank“ gelegt.

OpenAI verschiebt erotischen Chatbot

Im Zuge der Überprüfung der Geschäftsstrategie kam die Unternehmensführung zu dem Schluss, welche Bereiche tatsächlich die geplanten Milliardeninvestitionen rechtfertigen. Das Ergebnis war, dass die Entscheidung zur Unterstützung des Video-Generators Sora plötzlich gestrichen wurde und das Projekt des erotischen Chatbots in den „langen Schrank“ verlegt wurde.

Warum es Zweifel gab
1. Soziale Verantwortung

Investoren und Mitarbeiter von OpenAI äußerten Bedenken hinsichtlich möglicher negativer Folgen des Produkts: Verstärkung einer toxischen Atmosphäre um Bots, Risiko, dass Minderjährige Zugang zu Erwachseneninhalt erhalten.

2. Fehlende empirische Daten

Bislang gibt es keine überprüften Studien über die Auswirkungen erotischer KI auf die Gesellschaft. Daher plant das Unternehmen eine gründliche Analyse, bevor eine Entscheidung getroffen wird.

3. Fokus auf die Kernmission

Derzeit bevorzugt OpenAI, Ressourcen in Werkzeuge zu investieren, die die Produktivität geistiger Arbeit steigern und deren Monetarisierung fördern. Die geplante Desktop-Anwendung mit ChatGPT-Modulen hat Priorität.

4. Regulatorisches Risiko

Nach dem Skandal um den Chatbot Grok von xAI ist die Aufmerksamkeit der Aufsichtsbehörden für ähnliche Produkte gestiegen. Das Auftauchen einer erotischen KI-Lösung könnte Investoren verunsichern, insbesondere angesichts der IPO-Perspektiven des Unternehmens.

5. Technische Hürden

ChatGPT wurde unter strengen ethischen Beschränkungen entwickelt. Für ein erotisches Projekt müsste man diese teilweise aufheben, gleichzeitig aber die Sperrung tabuierter Themen beibehalten – eine äußerst schwierige Aufgabe.

Aktuelle Sicherheitsprobleme
Das neue System zur Altersverifikation der Nutzer macht immer noch Fehler in mehr als 10 % der Fälle. Das bedeutet, dass Millionen Minderjährige Zugang zu Erwachseneninhalt erhalten könnten, was erhebliche rechtliche Risiken für OpenAI schafft.

Somit ist das Projekt des erotischen Chatbots offiziell ohne konkrete Umsetzungstermine verschoben worden. Das Unternehmen plant, dessen gesellschaftlichen Einfluss und technische Anforderungen genauer zu untersuchen, bevor eine endgültige Entscheidung getroffen wird.