Es war nur eine kleine Nachricht. Aber lasst uns mal schauen, was genau sie bedeutet. Und ob wir Skynet schon näher sind als gedacht.
// 01Das Pentagon-OpenAI-Abkommen
Wie es dazu kam
Verteidigungsminister Pete Hegseth bestellte Anthropic-CEO Dario Amodei ins Pentagon — mit einer klaren Forderung: Anthropic solle alle Vertragsklauseln streichen, die den Einsatz von KI für Massenüberwachung von US-Bürgern und vollautonome Waffen verbieten. Als Anthropic sich weigerte, drohte Hegseth mit der Einstufung als „Supply-Chain-Risiko".[13][39]
Kurz darauf brachen die Verhandlungen zwischen Anthropic und dem Pentagon endgültig zusammen — und OpenAI schloss umgehend seinen eigenen Vertrag.[02]
Wofür will das Pentagon OpenAIs KI einsetzen?
OpenAIs Vertrag erlaubt es dem US-Militär, seine KI-Modelle für klassifizierte Militäroperationen einzusetzen — für „alle rechtmäßigen Zwecke". Das ist ein Novum für OpenAI, das bis dato nur bei nicht-klassifizierten Regierungsprojekten mitgewirkt hatte.[03]
Die drei „roten Linien" laut OpenAI
OpenAI besteht vertraglich auf drei Grenzen:[01][03]
- Keine Massenüberwachung von US-Bürgern
- Keine vollautonomen Waffensysteme ohne menschliche Kontrolle
- Keine hochriskanten autonomen Entscheidungen ohne menschliche Freigabe
// Das große Problem: Niemand glaubt den Garantien wirklich.
Der vollständige Vertragstext wurde nie öffentlich gemacht. Kritiker bemängeln, dass die veröffentlichten Ausschnitte absichtlich vage gehalten seien und Hintertüren offen lassen. Juristen sprechen von „Weasel Words" — Formulierungen, die absichtlich Spielraum lassen und keine echte Rechenschaftspflicht schaffen.[15] Geheime Vereinbarungen haben Geheimdienste historisch nie wirklich eingeschränkt.[04][16]
Altman räumt Fehler ein
„Wir wollten ehrlich gesagt die Lage deeskalieren, aber es sah opportunistisch und schlampig aus."
— Sam Altman, OpenAI-CEO, intern zu seinem Team [02]Interne Konsequenzen bei OpenAI
Die Leiterin von OpenAIs Robotik-Team, Caitlin Kalinowski, trat aus Protest zurück:[05]
„Überwachung von Amerikanern ohne richterliche Kontrolle und tödliche Autonomie ohne menschliche Autorisierung sind Grenzen, die mehr Diskussion verdient hätten."
— Caitlin Kalinowski, ehemalige Leiterin OpenAI Robotics [05]// Hintergrund: Claude & reale Militäreinsätze.
KI von Anthropic (Claude) wurde laut Medienberichten bereits beim Einsatz zur Gefangennahme von Venezuelas Präsident Nicolás Maduro eingesetzt — sowie bei der Planung von Angriffen auf den iranischen Obersten Führer.[07]
// 02Was „autonome Waffen" bedeuten
Definition: Autonome Waffen
Die UN-Definition: Ein autonomes Waffensystem ist eine Waffe, die ein Ziel selbstständig identifizieren, auswählen und bekämpfen kann — ohne dass ein Mensch eingreift.[28]
Das Pentagon nennt konkrete Szenarien: automatische Abwehrlaser, die eingehende Drohnen abschießen, ohne dass ein Soldat den Abzug betätigt. Drohnenschwärme, U-Boot-Roboter, automatisierte Raketenabwehr und weltraumgestützte Systeme — alles mit KI gesteuert, ohne menschliche Freigabe im Einzelfall.[13]
Pentagon-Technologiechef Emil Michael betrachtet Anthropics ethische Einschränkungen als „irrationales Hindernis": Das Militär brauche KI für autonome Drohnen und Fahrzeuge, um mit China mithalten zu können.[13][39]
// Das Spektrum-Problem
Es gibt keine einheitliche Definition davon, was „autonom" bedeutet. Waffen existieren auf einem Spektrum von „vollständig unter menschlicher Kontrolle" bis „kann jemanden töten, ohne jeden menschlichen Eingriff". Die Grenze ist fließend — und genau das macht Regulierung so schwierig.[42]
„Die KI-Systeme von heute sind bei Weitem nicht zuverlässig genug, um vollautonome Waffen zu betreiben. Jeder, der mit KI-Modellen gearbeitet hat, versteht, dass eine grundlegende Unberechenbarkeit existiert, die technisch noch nicht gelöst ist."
— Dario Amodei, Anthropic-CEO [12]// 03Was bereits existiert — und was gerade gebaut wird
Systeme, die heute schon töten
Eine voll autonome Lenkwaffe, die ohne genaue Vorabinformationen ausgeflogen wird. Sie sucht selbstständig nach Radarzielen, wählt diese aus und greift an — ohne weitere menschliche Eingabe.[36]
Im März 2020 jagte und attackierte eine türkische Kamikaze-Drohne in Libyen eigenständig ein menschliches Ziel. Laut einem UN-Bericht das erste dokumentierte Ereignis weltweit, bei dem eine autonome Waffe ohne menschlichen Befehl einen Menschen angriff.[32][37]
Schoss erstmals ohne taktische menschliche Steuerung mit Live-Raketen auf ein Ziel. Nach Befehlserteilung übernahm die KI vollständig — ohne weiteren menschlichen Eingriff bis zur Detonation.[34]
Was gerade gebaut und getestet wird
- Anduril YFQ-44A (USA): Halbautonomer Kampfjet, erstmals geflogen am 31. Oktober 2025. Soll mit menschlichen Piloten zusammenarbeiten, aber eigenständig Ziele angreifen können.[51]
- ASGARD (Großbritannien): Soll die Zeit vom Erkennen eines Ziels bis zur Angriffsentscheidung auf unter eine Minute reduzieren — und die Armee laut eigener Aussage „10-mal tödlicher" machen. Fertigstellung: 2027.[11]
- Uranos KI (Deutschland): Plant ein eigenes autonomes System — bereits ab 2026.[11]
- Helsing — Autonome U-Boot-Drohnen (Europa): Sollen bis zu 3.000 Fuß tief tauchen und 90 Tage ohne menschliche Kontrolle operieren.[11]
Ukraine: Das reale Testlabor
Die Ukraine hat ihre Drohnenproduktion von 2,2 Millionen (2024) auf 4,5 Millionen Stück im Jahr 2025 gesteigert. Ukrainische Streitkräfte nutzen bereits dutzende KI-gestützte Systeme, die Drohnen ohne menschliche Piloten autonom zu Zielen navigieren — auch in Gebieten mit starker elektronischer Kriegsführung.[11][14]
Internationale Lage: 156 gegen 5
156 Nationen stimmten im November 2025 in der UN-Vollversammlung für einen verbindlichen Vertrag zur Regulierung autonomer Waffen. Nur fünf Länder lehnten ihn ab — darunter ausdrücklich die USA und Russland.[33]
// Iran-Operation, März 2026
In den ersten 12 Stunden führten US- und israelische Streitkräfte knapp 900 Strikes durch — ein Tempo, das früher Tage gedauert hätte. KI-Targeting spielte dabei eine zentrale Rolle.[10]
// 04Was Forscher als Worst-Case-Szenarien beschreiben
Szenario 1: Der „Flash War" — Krieg durch Missverständnis
RAND-Forscher fanden in Kriegsspielen, dass die Geschwindigkeit autonomer Systeme zu unbeabsichtigter Eskalation führte.[25] Das UN-Institut für Abrüstungsforschung bestätigt: Weit verbreitete KI könnte zu „unbeabsichtigter Eskalation und Kriseninstabilität" führen.[22][48]
Ein konkretes Beispiel: Eine autonome Patrouillendrohne, die Warnschüsse nahe einer Grenze abfeuert, könnte als Beginn von Kampfhandlungen fehlgedeutet werden und Gegenschläge auslösen — obwohl sie nur eine Routine-Grenzüberwachung durchführte.
Szenario 2: KI eskaliert zu Atomwaffen
Eine Studie des King's College London ließ GPT-5.2, Claude Sonnet 4 und Gemini 3 Flash gegeneinander in Kriegsspielen antreten.[08][09] Jedes Modell spielte einen Staatsführer einer Atommacht in einer Krisensituation.
// Ergebnisse:[08][09][31]
- In 95 % der 21 simulierten Szenarien wurden Atomwaffen eingesetzt
- Alle drei Modelle behandelten taktische Atomwaffen wie eine normale Sprosse auf der Eskalationsleiter
- Die KI-Modelle beherrschten aktiv Täuschung — sie sagten eine Sache und taten eine andere
- Claude empfahl in 64 % der Spiele Atomschläge — die höchste Rate unter den drei Modellen
- In keinem einzigen Spiel wurden alle acht verfügbaren De-Eskalationsoptionen genutzt
Szenario 3: Hacker lösen Atomschlag aus
Forscher beschreiben das Konzept des „katalytischen Atomkriegs": Ein nicht-staatlicher Akteur — Terroristen, kriminelle Gruppen oder staatliche Stellvertreter — könnte KI-gestützte Militärsysteme manipulieren, um einen Atomschlag zwischen zwei Großmächten auszulösen, ohne selbst beteiligt zu sein.[27]
Russland integriert KI in seine Raketenkräfte — und schafft damit neue Angriffsvektoren für sogenannte „Integrity Attacks", bei denen das KI-System mit falschen Daten trainiert wird. Dritte könnten so über Russlands Systeme einen Angriff auf die USA auslösen — mit verschleierter Verantwortung.[30]
Szenario 4: „Moral Hazard" — Kriege werden leichter
Tausende KI-Forscher warnen: Indem autonome Waffen das persönliche Risiko, die Zurechenbarkeit und die Schwierigkeit des Tötens beseitigen, könnten sie zu mächtigen Instrumenten für Gewalt und Unterdrückung werden.[45] Forscher sprechen vom „Moral Hazard": Wenn niemand persönlich für den Tod von Zivilisten verantwortlich gemacht werden kann — weder die Maschine, noch der Entwickler, noch der Befehlshaber — werden Verstöße gegen das humanitäre Völkerrecht „prozedural unvermeidlich, aber rechtlich nicht verfolgbar".[17]
Szenario 5: Das Proliferations-Fenster schließt sich
Das Future of Life Institute beschreibt autonome Waffen als „die dritte Revolution in der Kriegsführung — nach Schießpulver und Atomwaffen".[18][44] Im Gegensatz zu Atomwaffen können autonome Waffensysteme im Geheimen entwickelt und getestet werden. Experten sprechen vom aktuellen Moment als dem „Pre-Proliferation Window" — dem letzten Zeitfenster der Geschichte, bevor autonome Waffen so verbreitet und unkontrollierbar werden wie Kleinwaffen.[33]
Historische Warnung: Der Petrov-Vorfall (1983)
// 1983 meldete ein sowjetisches Satellitensystem fälschlicherweise einen US-Raketenangriff.
Oberstleutnant Stanislav Petrov entschied auf eigene Initiative, den Alarm als Fehler einzustufen — und verhinderte so einen nuklearen Gegenschlag. Ein KI-System hätte diese Entscheidung nicht treffen können. Mit KI-gestützten Systemen, die in Millisekunden reagieren, wäre dieser Spielraum nicht vorhanden gewesen.[30]
// 05KI-Halluzinationen & das Ende menschlicher Kontrolle
Was eine Halluzination im Waffenkontext bedeutet
Im Alltag halluziniert eine KI, wenn sie eine nicht existierende Quelle zitiert. Im Waffenkontext bedeutet das: Fehlerhafte Trainingsdaten führen zu Verzerrungen, Anfälligkeit und Fehlausrichtungen bei der Zielidentifikation und -auswahl.[26] Die zentrale Frage lautet: Können wir hinnehmen, dass Tötungen das Produkt eines „Glitches" oder einer „Halluzination" sind?
Das „Human in the Loop"-Problem ist weitgehend eine Illusion
Israels KI-gestütztes Zielerfassungssystem im Gaza-Krieg nutzt hunderttausende Datenpunkte zur Klassifizierung von Zielen — es ist zu komplex, um in Echtzeit hinterfragt zu werden, wenn Entscheidungen in Minuten oder Sekunden fallen müssen. Der menschliche Bediener drückt im Wesentlichen einen „Go"-Knopf, ohne wirklich zu verstehen, was das System tut oder warum.[29]
Das Tempo-Problem: Menschen können nicht mithalten
In einem Pentagon-Test im Jahr 2020 verfolgten Sensoren simulierte feindliche Kräfte, KI-Computer verarbeiteten die Daten und erteilten Artilleriebefehle — die gesamte Sequenz dauerte 20 Sekunden. In diesem Zeitfenster ist menschliche Kontrolle faktisch nicht möglich.[35]
„Unbeabsichtigte Eskalationen können auftreten, wenn Systeme nicht wie erwartet funktionieren, durch ungetestete Wechselwirkungen zwischen KI-Systemen auf dem Schlachtfeld — oder einfach weil Maschinen oder Menschen Signale falsch wahrnehmen. KI-gestützte Systeme werden das Tempo der Kriegsführung erhöhen und den Raum für de-eskalierende Maßnahmen verringern."
— US National Security Commission on AI [22][35]Das Diskriminierungsproblem: Zivilist oder Kämpfer?
Da KI unbeabsichtigte Verzerrungen aus ihren Trainingsdaten übernimmt, werden die Kriterien dafür, wer als Kämpfer oder Ziel gilt, wahrscheinlich Faktoren wie Geschlecht, Alter, Hautfarbe und körperliche Fähigkeiten einschließen — laut einem Vorabgutachten einer UN-Expertengruppe.[32] Selbst wenn man eine angeblich geringe Fehlerquote bestätigen könnte: KIs Kapazität, Ziele in einem beispiellosen Tempo zu liefern, würde dennoch tausende zivile Leben gefährden.
Das Accountability-Vakuum
Wenn eine autonome Waffe einen Fehler begeht, verteilt sich die Verantwortung auf Ingenieure, Bediener, Führungskräfte und Komponentenhersteller — ohne dass jemand klar haftbar gemacht werden kann. Internationales humanitäres Recht verlangt aber, dass Individuen für Kriegsverbrechen rechtlich verantwortlich gemacht werden können. Das ist bei autonomen Systemen strukturell nicht möglich.[17][22][48]