Anthropic hat eine Methode zur Notabschaltung der künstlichen Intelligenz vorgestellt

Anthropic fordert „Selbstbeschränkung“ der KI-Entwicklung

Das Unternehmen Anthropic, bekannt für seine Bemühungen im Bereich der Ethik künstlicher Intelligenz, ist erneut im Fokus nach einem Konflikt mit dem Pentagon zu Beginn des Jahres. Diese Woche wandte sich das Startup an Branchenvertreter und bat um die Bereitschaft, die Entwicklung von Technologien einzuschränken, falls sie eine Bedrohung für die menschliche Kontrolle darstellen.

Kernpunkte der Anfrage

* Vollständig rekursives Selbstverbessern der KI kann dazu führen, dass Systeme ihre eigenen „Nachfolger“ ohne menschliches Eingreifen schaffen.

* In einem solchen Fall werden Überwachungs- und Beschränkungsfähigkeiten dieser Systeme von entscheidender Bedeutung.

> „Wenn Systeme die Fähigkeit erlangen, eigenständig ihre Nachfolger zu erschaffen, wird unsere Fähigkeit, sie zu kontrollieren, zu überwachen und ihr Verhalten einzuschränken, zunehmend wichtig“, heißt es in der Erklärung von Anthropic.

Warum ist das wichtig?

Im vergangenen Monat wurde mehr als 80 % des neuen Codes, den das Unternehmen verwendete, von seinem eigenen Agenten Claude generiert. Das bestätigt, dass Anthropic weiß, wovon es spricht: Wenn KI selbst neue Versionen von sich erschafft, wird die Kontrolle über sie immer schwieriger.

Die Vertreter des Startups sind der Ansicht, dass die Welt in der Lage sein muss, die Entwicklung fortschrittlicher Modelle zu verlangsamen oder einzustellen, um der Gesellschaft Zeit zur Anpassung und Analyse der Veränderungen zu geben. Gleichzeitig ist die Koordination aller Marktteilnehmer entscheidend: Ohne abgestimmte Maßnahmen könnten unlautere Akteure die öffentliche Sicherheit gefährden.

Pläne des Unternehmens

* In den kommenden Monaten beabsichtigt Anthropic, Werkzeuge zur Überwachung gefährlicher Trends in der KI-Entwicklung zu entwickeln.

* Parallel dazu wird es Öffentlichkeitsarbeit leisten, um regulatorische Mechanismen zu diskutieren und eine Aufsichtsbehörde zu schaffen, die einen „Selbstbeschränkungs“-Modus einführen kann.

Wie das Unternehmen betont, kann keine einzelne Organisation die Situation allein ändern. Es ist die gemeinsame Arbeit aller führenden KI-Entwickler erforderlich, um eine sichere Entwicklung der Technologien zu gewährleisten.