CEO Anthropic lehnt Überwachung und automatische Waffen ab, wird vom Pentagon als „Lieferkettenrisiko“ eingestuft

Der CEO des KI-Unternehmens Anthropic, Dario Amodei, hat auf das US-Verteidigungsministerium und das Weiße Haus reagiert, nachdem Verteidigungsauftragnehmer, die mit dem US-Verteidigungsministerium zusammenarbeiten, aufgefordert wurden, die Nutzung der Produkte von Anthropic einzustellen.

In einem Interview mit CBS News am Samstag erklärte Amodei, dass Anthropic die Verwendung ihrer KI-Modelle für Massenüberwachung im Inland sowie die Entwicklung vollständig autonomer Waffensysteme, die ohne menschliches Eingreifen feuern können, ablehnt.

Er betonte, dass Anthropic den meisten Vorschlägen der US-Regierung zur Nutzung von KI zustimmt, außer bei den beiden genannten Bereichen. Laut Amodei sind dies zentrale Themen für die amerikanische Bevölkerung, einschließlich des Rechts auf Privatsphäre vor staatlicher Überwachung und des Rechts der Militärangehörigen, Entscheidungen im Krieg selbst zu treffen, anstatt die Kontrolle vollständig an Maschinen abzugeben.

Zuvor hatte das US-Verteidigungsministerium Anthropic als „Lieferkettenrisiko“ eingestuft, was bedeutet, dass Verteidigungsauftragnehmer die Produkte des Unternehmens in Verteidigungsverträgen nicht verwenden dürfen. Amodei bezeichnete diese Maßnahme als „beispiellos“ und „sanktionierend“.

Gleichzeitig stellte der CEO von Anthropic klar, dass er die Entwicklung autonomer Waffensysteme in Zukunft nicht grundsätzlich ablehnt, insbesondere wenn ausländische Streitkräfte diese Technologie einsetzen. Seiner Ansicht nach ist das aktuelle Problem, dass KI noch nicht zuverlässig genug ist, um vollständig autonom in militärischen Umgebungen zu operieren.

Amodei argumentierte, dass der rechtliche Rahmen mit der Geschwindigkeit der KI-Entwicklung nicht Schritt hält, und forderte den US-Kongress auf, „Schutzbarrieren“ zu errichten, um den Einsatz von KI in Massenüberwachung im Inland zu verhindern.

In einer verwandten Entwicklung erklärte Verteidigungsminister Pete Hegseth am Freitag, dass Anthropic ein „Lieferkettenrisiko für die nationale Sicherheit“ darstelle, und forderte sofort alle Auftragnehmer, Lieferanten oder Partner, die mit dem US-Militär zusammenarbeiten, auf, ihre Geschäftsaktivitäten mit dem Unternehmen einzustellen.

Nur wenige Stunden nach dieser Ankündigung kündigte der Rivale von Anthropic, OpenAI, an, einen Vertrag mit dem US-Verteidigungsministerium abgeschlossen zu haben, um ihre KI-Modelle im militärischen Netzwerk einzusetzen.