Anthropic lehnte den Antrag des Pentagon auf uneingeschränkten militärischen Einsatz von KI ab, selbst bei Vorhandensein von Warnungen.

Kurzzusammenfassung

* Situation:

Das Unternehmen Anthropic hat dem US-Verteidigungsministerium (MoD) den uneingeschränkten Zugang zu seinen KI-Modellen verweigert, obwohl eine Vertragsverlängerung in Höhe von 200 Mio. USD drohte.

* Kontext:

Während eines Treffens im Weißen Haus gab der Verteidigungsminister Pete Hegseth Anthropic bis zum Ende des Arbeitstages am Freitag Zeit, über das Angebot nachzudenken; jedoch kündigte das Unternehmen bereits am Donnerstag seine Ablehnung an.

* Positionen der Parteien:

- Das MoD verlangt vollen Zugang zu KI-Technologien für die freie Nutzung in militärischen Zwecken.

- Andere große Akteure (OpenAI, Google, xAI von Musk) haben zugestimmt, dem Pentagon ihre Systeme „für alle legitimen Zwecke“ in ungeheimen Netzwerken zur Verfügung zu stellen und arbeiten an Vereinbarungen für geheime Netzwerke.

* Reaktion von Anthropic:

In einer Stellungnahme des CEO Dario Amodei wird betont, dass das Unternehmen aktiv mit militärischen Strukturen zusammenarbeitet und die existenzielle Bedeutung der KI für den Schutz der USA anerkennt. Dennoch hat es nie gegen spezifische militärische Operationen protestiert und hält es für möglich, dass KI nur in sehr begrenzten Fällen demokratische Werte verletzen kann.

Amodei nennt zwei „rote Linien“:

1) kein massives Überwachung von US-Bürgern;

2) Verbot der Entwicklung von tödlichen autonomen Waffen (oder jeglicher Waffe, die Ziele ohne menschliche Kontrolle zerstören kann).

Das Unternehmen ist derzeit nicht bereit, vollständig autonome Systeme einzusetzen.

* Mögliche Konsequenzen:

Das Pentagon hat bereits große Verteidigungsauftragsnehmer gebeten, die Abhängigkeit von Claude zu bewerten. Wenn das MoD Anthropic als „Risiko für die Lieferkette“ ansieht, könnte dies zur Einstufung des Unternehmens als Bedrohung der nationalen Sicherheit führen, was üblicherweise chinesischen und russischen Firmen zugeschrieben wird.

Das Pentagon hat erklärt, bereit zu sein, von allen Lieferanten und Auftragnehmern eine Bestätigung einzuholen, dass sie keine „anthropogenen“ Modelle nutzen. Im Falle einer Ablehnung von Anthropic ist das Unternehmen bereit, einen reibungslosen Übergang zu einem anderen Anbieter ohne Unterbrechungen militärischer Operationen sicherzustellen.

* Gesetzgeberische Maßnahmen:

Das Pentagon prüft die Anwendung des „Defense Production Act“ von 1950, der es der Bundesregierung erlaubt, in die Tätigkeit privater Unternehmen einzugreifen, um MoD-Anforderungen zu erfüllen.

* Kernbotschaft von Anthropic:

Die Bedrohung durch das Ministerium ändert nichts an der Position des Unternehmens: sie können mit reinem Gewissen nicht den vollen Zugang gewähren. Bei einer Abbruch der Zusammenarbeit ist Anthropic bereit, einen reibungslosen Übergang zu unterstützen und weiterhin seine Modelle unter vereinbarten Bedingungen bereitzustellen.

Fazit:

Anthropic bleibt seinen Prinzipien von Vertraulichkeit und Beschränkungen im militärischen Einsatz von KI treu, trotz des Risikos eines erheblichen Vertragsverlustes. Das Verteidigungsministerium hingegen strebt einen uneingeschränkten Zugang zu fortschrittlichen Technologien aller Schlüsselzulieferer an. Lösungsmöglichkeiten umfassen mögliche staatliche Eingriffe oder den Wechsel zu alternativen Anbietern.