Der Leiter der KI‑Cybersicherheitsabteilung bei Anthropic hat das Unternehmen verlassen und gesteht, dass die Welt in Gefahr sei.

Mrinank Sharma verlässt Anthropic: Brief an Kollegen und Zukunftspläne

Der ehemalige Leiter der KI-Sicherheitsforschungsabteilung bei Anthropic, Mrinank Sharma, veröffentlichte Anfang dieser Woche seinen Abschiedsbrief im Internet. Darin erklärt er die Gründe für seinen Weggang, teilt seine Gedanken zu aktuellen Risiken und berichtet darüber, was er künftig tun wird.

Was im Brief gesagt wird
* Erfolge – Sharma betont, dass er „alles erreicht hat, was er wollte“. Zu den genannten Projekten gehören der Aufbau von Schutzmechanismen gegen Bioterrorismus mithilfe von KI sowie Untersuchungen zum Einfluss neuronaler Netze auf die Gesellschaft.

* Grund für den Weggang – Der Autor kam zu dem Schluss, es sei Zeit weiterzugehen. Er dachte ständig über „die Gefahren nachzudenken, die KI mit sich bringen kann, biologische Waffen und die Kette miteinander verbundener Krisen, die gerade stattfinden“. Seiner Meinung nach nähern wir uns einer Schwelle, nach der Weisheit proportional zu unserer Fähigkeit wachsen muss, die Welt zu beeinflussen; sonst erwarten uns unvorhersehbare Folgen.

* Kulturbarrieren – Sharma betont, wie schwierig es ist, Werte unter Druck zu bewahren. Er sah dies sowohl in sich selbst als auch im Unternehmen, wo manchmal wichtige Dinge zugunsten äußerer Einflüsse aufgegeben werden müssen, sowie in der Gesellschaft insgesamt.

* Zukunftspläne – Nach dem Weggang beabsichtigt er, Arbeit zu leisten, die seinen Prinzipien entspricht, und Poesie sowie andere kreative Bereiche zu erforschen.

Was bei Anthropic passiert
* Mehrere führende Entwickler haben das Unternehmen bereits verlassen, was die Fluktuationswelle verstärkt.

* Anthropic führt Verhandlungen über zusätzliche Investitionen. Bei erfolgreichem Abschluss könnte der Marktwert bis 350 Mrd. USD steigen.

* Letzte Woche wurde eine neue Version des Modells Claude Opus 4.6 gestartet. Sie verbessert die Büroproduktivität und Programmiereffizienz, erweitert das Kontextfenster für große Dokumente und unterstützt komplexere Aufgaben.

Wo man den Brief finden kann
Der vollständige Abschiedsbrief von Sharma ist in einem Business Insider‑Artikel veröffentlicht worden. Dort erhält man einen detaillierteren Einblick in seine Gedanken und Motivation.