Pentagon, OpenAI
& Autonome Waffen

Es war nur eine kleine Nachricht. Aber lasst uns mal schauen, was genau sie bedeutet. Und ob wir Skynet schon näher sind als gedacht.

Das Pentagon-OpenAI-Abkommen

Wie es dazu kam

Verteidigungsminister Pete Hegseth bestellte Anthropic-CEO Dario Amodei ins Pentagon — mit einer klaren Forderung: Anthropic solle alle Vertragsklauseln streichen, die den Einsatz von KI für Massenüberwachung von US-Bürgern und vollautonome Waffen verbieten. Als Anthropic sich weigerte, drohte Hegseth mit der Einstufung als „Supply-Chain-Risiko".[13][39]

Kurz darauf brachen die Verhandlungen zwischen Anthropic und dem Pentagon endgültig zusammen — und OpenAI schloss umgehend seinen eigenen Vertrag.[02]

Wofür will das Pentagon OpenAIs KI einsetzen?

OpenAIs Vertrag erlaubt es dem US-Militär, seine KI-Modelle für klassifizierte Militäroperationen einzusetzen — für „alle rechtmäßigen Zwecke". Das ist ein Novum für OpenAI, das bis dato nur bei nicht-klassifizierten Regierungsprojekten mitgewirkt hatte.[03]

Die drei „roten Linien" laut OpenAI

OpenAI besteht vertraglich auf drei Grenzen:[01][03]

• Keine Massenüberwachung von US-Bürgern
• Keine vollautonomen Waffensysteme ohne menschliche Kontrolle
• Keine hochriskanten autonomen Entscheidungen ohne menschliche Freigabe

Altman räumt Fehler ein

Interne Konsequenzen bei OpenAI

Die Leiterin von OpenAIs Robotik-Team, Caitlin Kalinowski, trat aus Protest zurück:[05]

Was „autonome Waffen" bedeuten

Definition: Autonome Waffen

Die UN-Definition: Ein autonomes Waffensystem ist eine Waffe, die ein Ziel selbstständig identifizieren, auswählen und bekämpfen kann — ohne dass ein Mensch eingreift.[28]

Das Pentagon nennt konkrete Szenarien: automatische Abwehrlaser, die eingehende Drohnen abschießen, ohne dass ein Soldat den Abzug betätigt. Drohnenschwärme, U-Boot-Roboter, automatisierte Raketenabwehr und weltraumgestützte Systeme — alles mit KI gesteuert, ohne menschliche Freigabe im Einzelfall.[13]

Pentagon-Technologiechef Emil Michael betrachtet Anthropics ethische Einschränkungen als „irrationales Hindernis": Das Militär brauche KI für autonome Drohnen und Fahrzeuge, um mit China mithalten zu können.[13][39]

Was bereits existiert — und was gerade gebaut wird

Systeme, die heute schon töten

Was gerade gebaut und getestet wird

• Anduril YFQ-44A (USA): Halbautonomer Kampfjet, erstmals geflogen am 31. Oktober 2025. Soll mit menschlichen Piloten zusammenarbeiten, aber eigenständig Ziele angreifen können.[51]
• ASGARD (Großbritannien): Soll die Zeit vom Erkennen eines Ziels bis zur Angriffsentscheidung auf unter eine Minute reduzieren — und die Armee laut eigener Aussage „10-mal tödlicher" machen. Fertigstellung: 2027.[11]
• Uranos KI (Deutschland): Plant ein eigenes autonomes System — bereits ab 2026.[11]
• Helsing — Autonome U-Boot-Drohnen (Europa): Sollen bis zu 3.000 Fuß tief tauchen und 90 Tage ohne menschliche Kontrolle operieren.[11]

Ukraine: Das reale Testlabor

Die Ukraine hat ihre Drohnenproduktion von 2,2 Millionen (2024) auf 4,5 Millionen Stück im Jahr 2025 gesteigert. Ukrainische Streitkräfte nutzen bereits dutzende KI-gestützte Systeme, die Drohnen ohne menschliche Piloten autonom zu Zielen navigieren — auch in Gebieten mit starker elektronischer Kriegsführung.[11][14]

Internationale Lage: 156 gegen 5

156 Nationen stimmten im November 2025 in der UN-Vollversammlung für einen verbindlichen Vertrag zur Regulierung autonomer Waffen. Nur fünf Länder lehnten ihn ab — darunter ausdrücklich die USA und Russland.[33]

Was Forscher als Worst-Case-Szenarien beschreiben

Szenario 1: Der „Flash War" — Krieg durch Missverständnis

RAND-Forscher fanden in Kriegsspielen, dass die Geschwindigkeit autonomer Systeme zu unbeabsichtigter Eskalation führte.[25] Das UN-Institut für Abrüstungsforschung bestätigt: Weit verbreitete KI könnte zu „unbeabsichtigter Eskalation und Kriseninstabilität" führen.[22][48]

Ein konkretes Beispiel: Eine autonome Patrouillendrohne, die Warnschüsse nahe einer Grenze abfeuert, könnte als Beginn von Kampfhandlungen fehlgedeutet werden und Gegenschläge auslösen — obwohl sie nur eine Routine-Grenzüberwachung durchführte.

Szenario 2: KI eskaliert zu Atomwaffen

Eine Studie des King's College London ließ GPT-5.2, Claude Sonnet 4 und Gemini 3 Flash gegeneinander in Kriegsspielen antreten.[08][09] Jedes Modell spielte einen Staatsführer einer Atommacht in einer Krisensituation.

Szenario 3: Hacker lösen Atomschlag aus

Forscher beschreiben das Konzept des „katalytischen Atomkriegs": Ein nicht-staatlicher Akteur — Terroristen, kriminelle Gruppen oder staatliche Stellvertreter — könnte KI-gestützte Militärsysteme manipulieren, um einen Atomschlag zwischen zwei Großmächten auszulösen, ohne selbst beteiligt zu sein.[27]

Russland integriert KI in seine Raketenkräfte — und schafft damit neue Angriffsvektoren für sogenannte „Integrity Attacks", bei denen das KI-System mit falschen Daten trainiert wird. Dritte könnten so über Russlands Systeme einen Angriff auf die USA auslösen — mit verschleierter Verantwortung.[30]

Szenario 4: „Moral Hazard" — Kriege werden leichter

Tausende KI-Forscher warnen: Indem autonome Waffen das persönliche Risiko, die Zurechenbarkeit und die Schwierigkeit des Tötens beseitigen, könnten sie zu mächtigen Instrumenten für Gewalt und Unterdrückung werden.[45] Forscher sprechen vom „Moral Hazard": Wenn niemand persönlich für den Tod von Zivilisten verantwortlich gemacht werden kann — weder die Maschine, noch der Entwickler, noch der Befehlshaber — werden Verstöße gegen das humanitäre Völkerrecht „prozedural unvermeidlich, aber rechtlich nicht verfolgbar".[17]

Szenario 5: Das Proliferations-Fenster schließt sich

Das Future of Life Institute beschreibt autonome Waffen als „die dritte Revolution in der Kriegsführung — nach Schießpulver und Atomwaffen".[18][44] Im Gegensatz zu Atomwaffen können autonome Waffensysteme im Geheimen entwickelt und getestet werden. Experten sprechen vom aktuellen Moment als dem „Pre-Proliferation Window" — dem letzten Zeitfenster der Geschichte, bevor autonome Waffen so verbreitet und unkontrollierbar werden wie Kleinwaffen.[33]

Historische Warnung: Der Petrov-Vorfall (1983)

KI-Halluzinationen & das Ende menschlicher Kontrolle

Was eine Halluzination im Waffenkontext bedeutet

Im Alltag halluziniert eine KI, wenn sie eine nicht existierende Quelle zitiert. Im Waffenkontext bedeutet das: Fehlerhafte Trainingsdaten führen zu Verzerrungen, Anfälligkeit und Fehlausrichtungen bei der Zielidentifikation und -auswahl.[26] Die zentrale Frage lautet: Können wir hinnehmen, dass Tötungen das Produkt eines „Glitches" oder einer „Halluzination" sind?

Das „Human in the Loop"-Problem ist weitgehend eine Illusion

Israels KI-gestütztes Zielerfassungssystem im Gaza-Krieg nutzt hunderttausende Datenpunkte zur Klassifizierung von Zielen — es ist zu komplex, um in Echtzeit hinterfragt zu werden, wenn Entscheidungen in Minuten oder Sekunden fallen müssen. Der menschliche Bediener drückt im Wesentlichen einen „Go"-Knopf, ohne wirklich zu verstehen, was das System tut oder warum.[29]

Das Tempo-Problem: Menschen können nicht mithalten

In einem Pentagon-Test im Jahr 2020 verfolgten Sensoren simulierte feindliche Kräfte, KI-Computer verarbeiteten die Daten und erteilten Artilleriebefehle — die gesamte Sequenz dauerte 20 Sekunden. In diesem Zeitfenster ist menschliche Kontrolle faktisch nicht möglich.[35]

Das Diskriminierungsproblem: Zivilist oder Kämpfer?

Da KI unbeabsichtigte Verzerrungen aus ihren Trainingsdaten übernimmt, werden die Kriterien dafür, wer als Kämpfer oder Ziel gilt, wahrscheinlich Faktoren wie Geschlecht, Alter, Hautfarbe und körperliche Fähigkeiten einschließen — laut einem Vorabgutachten einer UN-Expertengruppe.[32] Selbst wenn man eine angeblich geringe Fehlerquote bestätigen könnte: KIs Kapazität, Ziele in einem beispiellosen Tempo zu liefern, würde dennoch tausende zivile Leben gefährden.

Das Accountability-Vakuum

Wenn eine autonome Waffe einen Fehler begeht, verteilt sich die Verantwortung auf Ingenieure, Bediener, Führungskräfte und Komponentenhersteller — ohne dass jemand klar haftbar gemacht werden kann. Internationales humanitäres Recht verlangt aber, dass Individuen für Kriegsverbrechen rechtlich verantwortlich gemacht werden können. Das ist bei autonomen Systemen strukturell nicht möglich.[17][22][48]