# taz.de -- Internationale Abkommen über KI-Waffen: Vereint gegen Turbo-Killer-Roboter
       
       > Deutschland und andere Industriestaaten rüsten auf – auch mit künstlicher
       > Intelligenz. Wie kann man verhindern, dass Algorithmen über Leben und Tod
       > entscheiden?
       
 (IMG) Bild: Können autonome Waffensysteme noch rechtzeitig unschädlich gemacht werden und wenn ja wie?
       
       Es braucht nur knapp 20 Sekunden und wenige Klicks am Rechner. Daraufhin
       folgt eine Explosion mitten in einem Wohnviertel. [1][„Lavender“ heißt das
       KI-gestützte System], mit dem ein Offizier der israelischen Armee in unter
       einer Minute einen Namen markieren und einen Menschen zum Angriffsziel
       machen kann.
       
       Dann übernimmt ein zweites System mit dem Namen „Where’s Daddy?“, auf
       Deutsch „Wo ist Papa?“. Es ist darauf spezialisiert, Personen zu Hause zu
       orten. Das Ziel, ein Mann, befindet sich meist in einem Wohnhaus. Genau
       dort, mitten in der Nachbarschaft, bei Frau und Kindern, schlägt die
       nächste Bombe ein. So berichten das [2][israelisch-palästinensische
       Onlinemagazin] [3][+972 und das Schwestermedium Local Call] über den
       Einsatz von KI-Systemen durch das israelische Militär. Die Recherche stützt
       sich auf Aussagen von israelischen Geheimdienstmitarbeitenden, die anonym
       bleiben möchten. Das Militär selbst dementiert den Bericht.
       
       37.000 Menschen soll „Lavender“ kurz nach dem Hamas-Massaker als
       mutmaßliche Mitglieder der Hamas oder des Islamischen Dschihad eingestuft
       haben. So steht es in dem Bericht der israelisch-palästinensischen Medien.
       Zudem berichten sie über eine Fehlerquote von rund 10 Prozent, das sind
       mehrere tausend mögliche Fehlurteile. Dazu kommen die eingepreisten
       Kollateralschäden: die zahlreichen zivilen Opfer, die ihr Leben verlieren,
       wenn „Where’s Daddy“ eine Person erfolgreich geortet hat und eine Bombe in
       ein Wohnhaus einschlägt.
       
       Wo früher Geheimdienstanalyst:innen ein paar Dutzend sorgfältig
       recherchierte Ziele pro Woche schafften, liefert eine KI-gestützte Software
       wie Lavender nun Tausende Ziele in kürzester Zeit. Die Gefahr: Künstliche
       Intelligenz wird im Krieg zu einer Maschine, die so schnell Todeslisten
       schreibt und Ziele anfliegt, dass Überprüfung und Steuerung durch Menschen
       Fiktion werden.
       
       ## Keine Regeln für KI-Waffen
       
       Die [4][Auswirkungen von KI-Waffensystemen] sind nicht nur in Gaza
       verheerend. Auch in Iran etwa starben im Frühjahr 2026 Dutzende Kinder und
       Lehrkräfte, als eine [5][Mädchenschule durch KI-Technologie aus den USA
       angegriffen] wurde, weil die Schule mutmaßlich in einer veralteten
       Datenbank als Militärobjekt codiert war. Im Sudankrieg werden billige,
       autonome Drohnen in dicht besiedelten Gebieten eingesetzt, wo kaum zwischen
       Zivilist:innen und Kombattant:innen zu unterscheiden ist. Die Liste
       lässt sich fortsetzen.
       
       Heute beraten Large-Language-Modelle, also KI-Modelle, die menschliche
       Sprache verarbeiten und Texte generieren, Soldat:innen.
       Navigations-Algorithmen helfen militärische Ziele anzufliegen,
       Entscheidungs-Algorithmen schlagen Angriffe vor. Unbemannte Kamikazedrohnen
       und andere sogenannte Killerroboter dienen als Waffen. Letztere nennt man
       im militärischen Fachjargon „LAWS“, letale autonome Waffensysteme. Es sind
       hochkomplexe Systeme, in denen KI in unterschiedlichem Grad eingesetzt wird
       und die so auch eigenständig töten können.
       
       KI-Waffensysteme haben weitreichende Folgen, weitgreifende Regeln für ihren
       Einsatz fehlen jedoch noch. Während Österreich als einer der Pioniere bei
       Verbotsverfahren für risikoreiche Hochtechnologiewaffen gilt, bleibt
       Deutschland bei der Regulierung automatisierter Waffensysteme auffällig
       still.
       
       George-Wilhelm Gallhofer ist Leiter der [6][Abrüstungsabteilung im
       österreichischen Außenministerium]. „Wir haben 2023 die erste Resolution
       der UN-Generalversammlung auf den Weg gebracht, um mehr Bewusstsein zu
       schaffen und die Regulierung von LAWS voranzutreiben“, sagt Gallhofer.
       Trotzdem gibt es bislang weder eine internationale Grundsatzverständigung
       noch eine Resolution, auf die sich international geeinigt wurde. Sehr wohl
       existieren aber Ideen und Wege, um zu verbindlichen Verboten von autonomen
       Waffensystemen zu kommen, die als besonders riskant gelten. Wie sehen diese
       aus? Und woran hapert es bislang?
       
       ## Auch Peter Thiel investiert
       
       Die Verbotsdebatte ist nicht ganz neu. Von Atomwaffen bis Landminen: Für
       einige hochriskante Waffen hat die Weltgemeinschaft schon Regularien
       gefunden. Die folgten jedoch oft erst nach einem gewissen Druck, etwa als
       der Schock durch die Kubakrise einen drängenden Anlass für die Restriktion
       von Atomwaffen gab.
       
       Nur heute ist einiges anders: Landminen kann man zählen und Bestände
       vernichten. KI-Software in Kriegsgeräten ist dagegen unsichtbar und mit
       wenig Aufwand kopierbar. Und: KI-Autonomie ist ein Spektrum – allein die
       Frage, ab wann ein System autonom ist, spaltet bereits Verhandlungen. Eine
       Regulation, die am Ist-Zustand Maß nimmt, hinkt immer den Realverhältnissen
       hinterher. Denn das Entwicklungstempo autonomer Systeme überschlägt sich
       förmlich. Expert:innen sprechen von einer Aufrüstungsspirale: Staaten
       bauen ihre Waffenbestände immer weiter aus. Das Credo, gerade der führenden
       Industrieländer, scheint zu lauten: Innovation first – und bitte bei uns!
       
       Immer mehr Gelder fließen in den Rüstungssektor. Die Bundeswehr verfügt im
       Jahr 2026 über knapp 108 Milliarden Euro, in 2027 sollen es knapp 140
       Milliarden Euro werden. Davon profitieren nicht mehr nur etablierte Firmen
       wie Rheinmetall oder Hensoldt, sondern auch [7][Start-ups], die
       verschiedene autonome Waffensysteme entwickeln.
       
       Rüstung galt noch bis vor dem russischen Angriffskrieg bei Investoren als
       eher unbeliebt. Nun aber schließen Jungfirmen große Finanzierungsrunden ab.
       Sie entwickeln Waffensysteme bevor der Bund diese überhaupt geordert hat,
       in Teilen finanziert von rechtslibertären Kräften wie US-Techmilliardär
       Peter Thiel. Wollen wir es tatsächlich dem moralischen Kompass von
       Tech-Enthusiasten und Unternehmern überlassen, wie tödlich Kriege durch KI
       noch werden könnten?
       
       ## Entscheiden Maschinen bald ohne Mensch?
       
       Laut den Genfer Konventionen muss die letzte Entscheidung für eine Tötung
       von Menschen oder Zerstörung von Objekten beim Waffeneinsatz beim Menschen
       liegen, so Jutta Weber, Professorin für Mediensoziologie am Institut für
       Medienwissenschaften der Universität Paderborn und Expertin für KI-basierte
       Kriegsführung.
       
       Ein Beispiel aus der Geschichte zeigt: Der Mensch ist als Korrektiv
       unverzichtbar. Am 26. September 1983 schlug ein sowjetisches Frühwarnsystem
       Alarm. Fünf US-Atomraketen seien vermeintlich im Anflug. Die Vorschrift
       verlangte, den Angriff sofort zu melden, um einen vernichtenden Gegenschlag
       zu starten. Doch der diensthabende Offizier zögerte. Nur eine Handvoll
       Raketen für einen Erstangriff erschienen ihm ungewöhnlich. Also meldete er
       – entgegen den Empfehlungen des Systems – den vermeintlichen Angriff nicht.
       Er verhinderte so womöglich einen Atomkrieg.
       
       Bei KI-Waffensystemen gilt heute der „Human-in-the-loop“-Ansatz als
       Goldstandard. Das heißt, dass ein Mensch im Prozess eingebunden ist. Sein
       Urteilsvermögen ist gefragt und er bewacht Prozesse mit. Es ist zumindest
       eine Regel, auf die sich viele Länder bislang einigen konnten. Doch die
       Schutzwirkung ist begrenzt: Selbst wenn ein Mensch einbezogen ist, sind
       bereits automatisierte Teilentscheidungen gefallen, die er kaum
       nachvollziehen kann. Und viele Systeme sind schon jetzt darauf ausgelegt,
       perspektivisch völlig autark zu funktionieren.
       
       So können die Genfer Konventionen, Herzstück des internationalen
       Völkerrechts, nicht richtig umgesetzt werden, warnt Jutta Weber im Gespräch
       mit der taz: „Wenn Entscheidungen in Maschinengeschwindigkeit getroffen
       werden, kann das nicht funktionieren.“
       
       ## Minderheit in der UN blockiert
       
       Wie diskutiert die Weltgemeinschaft über KI-Waffensysteme? Dazu lohnt der
       Blick an die Spitze der Vereinten Nationen. UN-Generalsekretär António
       Guterres sieht sich schon seit Beginn seiner Amtszeit 2018 einem kleinen,
       aber beachtlich störrischen Haufen gegenüber: Eine Minderheit der 193
       Mitgliedstaaten blockiert strikte Regeln oder gar ein Verbot bestimmter
       KI-Waffen. Zu den Blockierern gehören vor allem die USA, Russland, Indien
       und Israel.
       
       Erst vor wenigen Wochen appellierte Guterres an die Vereinten Nationen:
       „Wir sind gefährlich nah dran, eine moralische rote Linie zu überschreiten:
       die autonome Zielerfassung von Menschen durch Maschinen.“ Es ist nicht
       seine erste Mahnung an die politischen Entscheider:innen. Doch sie ist
       drängender als je zuvor, ab einem gewissen Punkt ist die technologische
       Verbreitung und geopolitische Eigendynamik nicht mehr regulierbar. Das
       betont auch Gallhofer, der Leiter der Abrüstungsabteilung in Österreich.
       
       Die Mehrheit der Staaten sieht das ein, die vertretenen Nationen wären
       durchaus in der Lage, international bindende Regularien für den KI-Einsatz
       durchzusetzen. Das Europäische Parlament fordert ein vollständiges Verbot
       bestimmter Waffen. Die Menschenrechtsorganisation Amnesty International
       vertritt die Ansicht, „dass der Einsatz von autonomen Waffensystemen zur
       direkten Anwendung von Gewalt gegen Menschen niemals mit den
       internationalen Menschenrechtsnormen und dem humanitären Recht vereinbar
       sein kann.“ Der Vatikan wünscht sich einen vorläufigen Stopp von KI-Nutzung
       im Krieg, bis es eine rechtsverbindliche globale KI-Waffensystemregelung
       gibt.
       
       Die Länder, die sich im UN-Büro in Genf bei der UN-Waffenkonvention (CCW)
       querstellen, haben eins gemeinsam, sagt Thomas Küchenmeister von der
       Kampagne „Stop Killer Robots“. „Die Länder, die blockieren, sind die
       Technologieführer und Anwender von KI-gestützten, autonomen Systemen“.
       Küchenmeister ist Koordinator des deutschen Zweigs der internationalen
       Kampagne für ein weltweites, völkerrechtlich verbindliches Verbot von
       vollständig autonomen Waffensystemen. Er sagt: „Nach Schwarzpulver und
       Nuklearwaffen stehen autonome Waffen für die dritte Revolution der
       Kriegsführung.“ Die bremsenden Länder aber pochten auf unverbindliche
       Verhaltenskodizes. KI-Regulation wird also besprochen, aber möglichst
       wirkungsschwach. „Auf dem geringsten, unverbindlichsten Level hat man
       Einigungen erzielt“, sagt Küchenmeister über die Vereinten Nationen.
       
       Übrigens: Die Bundesregierung hielt sich in der Vergangenheit auffällig
       zurück in Sachen KI-Restriktionen. Ein Koalitionsversprechen, sich des
       Themas anzunehmen, gibt es bereits seit 2013. Die Kampagne „Stop Killer
       Robots“ kritisiert, dass es immer wieder gebrochen wird. CDU/CSU, FDP und
       AfD lehnen ein komplettes Verbot KI-gestützter Waffen ab. Als eines der
       letzten Nato-Mitglieder war Deutschland bis vor wenigen Monaten ohne
       KI-Strategie für sein Militär. Die gerade vorgelegte [8][KI-Konzeption der
       Bundeswehr] gehe nicht über allgemeine ethische Grundsätze hinaus, meint
       Küchenmeister. Es fehlten klare Grenzen für autonome Gewaltanwendung,
       überprüfbare Sicherheitsstandards, transparente Verantwortungsstrukturen
       und Vorgaben für wirksame unabhängige Kontrolle.
       
       Dabei könnte in der Debatte um Verbote und Regulierung der Westen von
       Ländern des sogenannten Globalen Südens lernen, meint Ishmael Bhila. Er ist
       Friedensforscher an der Universität Paderborn. Schon im Jahr 2025 etwa
       unterstützten 49 von 54 afrikanischen Staaten die jüngste Resolution der
       Vereinten Nationen zu [9][völlig autarken KI-Waffen]. Zeitgleich werden
       seit Jahren eigene Ansätze formuliert, da einige Länder des Globalen Südens
       eher Importeure als Entwickler autonomer Waffensysteme sind und/oder dem
       Einsatz dieser Waffen besonders ausgesetzt. Da hier in Kriegen KI-Waffen
       eingesetzt werden, sind die dadurch entstehenden Schäden unmittelbar
       spürbar. Sierra Leone brachte bereits 2021 im Namen von elf Staaten eine
       gemeinsame Erklärung für ein verbindliches Instrument ein. Die
       Blockfreien-Bewegung aus 120 Ländern, die sich im Kalten Krieg weder dem
       westlichen Lager noch dem Ostblock anfügen wollten, forderte 2022 ebenfalls
       ein verbindliches Instrument.
       
       ## Gibt es noch Hoffnung?
       
       Für ein internationales Abkommen für autonome Waffensysteme und das Verbot
       von LAWS gäbe es gangbare Wege: Einer davon ist eine Einigung im Rahmen der
       UN-Waffenkonvention CCW in Genf. Anstoß gab es dafür bereits: „Eine Gruppe
       von 16 Ländern aus dem Globalen Süden schlug vor, dass wir im CCW ein
       sechstes Protokoll über autonome Waffensysteme einführen“, sagt
       Friedensforscher Bhila. Bislang gab es fünf Protokolle, etwa zu Landminen,
       Bio- und Laserwaffen.
       
       In Protokoll VI würde geregelt werden, wie autonome Waffensysteme definiert
       und reguliert werden – und, viel wichtiger, wann sie verboten sind. Das
       hätte den Vorteil, dass fast alle relevanten Militärmächte von vornherein
       mit am Tisch säßen: die USA, Russland und China. Die Vereinbarung wäre
       international belastbar. Allerdings gibt es eine große Hürde, denn der
       Prozess arbeitet [10][nach einem Konsensprinzip]. Stimmt nur eine Nation
       mit einem Veto, sind die verbindlichen Regelungen blockiert. „Das heißt,
       auch Länder, die gerade andere angreifen, müssten zustimmen“, sagt Bhila.
       Die Aussicht, so eine Einigung zu erzielen, ist gelinde gesagt gering.
       Immerhin versucht man es schon seit über einem Jahrzehnt.
       
       Einen kleinen Erfolg gab es zwischenzeitlich auf UN-Ebene. Am 5. September
       2026 einigten sich 128 Nationen erstmals auf eine vorläufige gemeinsame
       Definition von LAWS. Auch Deutschland stimmte für eine gemeinsame Basis für
       Verhandlungen über ein völkerrechtlich verbindliches Abkommen. Diese
       Definition war dringend notwendig, damit in die nächste Verhandlung
       gegangen werden kann. Vom 16. bis zum 20. November werden die Delegierten
       in Genf zum siebten Mal versuchen, was sechs Mal zuvor gescheitert ist:
       internationale Verbindlichkeiten herzustellen.
       
       Ist ein Konsens in Genf nicht möglich, gibt es noch einen zweiten Weg für
       internationale Regeln. Das Paradebeispiel dafür ist die Ottawa-Konvention.
       Im Herbst 1996 steckte die internationale Gemeinschaft fest. Bei den Genfer
       Verhandlungen über ein Minenverbot blockierte das Konsensprinzip jeden
       Fortschritt. Doch außerhalb der Konferenzsäle hatte sich etwas aufgebaut.
       Eine Schlüsselrolle spielte die 1992 gegründete Internationale Kampagne zum
       Verbot von Landminen (ICBL), ein Bündnis aus Hilfsorganisationen, das
       Opfer, Minenräumer:innen und Ärzt:innen an einen Tisch brachte und
       prominente Unterstützung hatte. Bilder von Prinzessin Diana, die durch ein
       Minenfeld in Angola schreitet, gingen um die Welt.
       
       Auf einer Konferenz in Ottawa kam dann der Schlüsselmoment: Kanadas
       Außenminister Lloyd Axworthy forderte die Staaten auf, nicht länger auf
       Genf zu warten und binnen eines Jahres in Ottawa einen Vertrag zu
       unterzeichnen. 14 Monate später, im Dezember 1997, war es so weit. Die
       Ottawa-Konvention gilt als Meilenstein humanitärer Abrüstung. Aus einer
       Koalition der Willigen wurde ein völkerrechtlicher Vertrag, der Landminen
       ächtet. Über 160 Staaten haben das Abkommen mittlerweile ratifiziert,
       mehrere Millionen gelagerte Landminen wurden unschädlich gemacht.
       
       Was damals gelungen ist, könnte auch heute funktionieren. Staaten finden
       sich außerhalb der Konsensgremien eigenständig zusammen, um dem blockierten
       UN-Forum zu entkommen. Der Vorteil wäre, dass eine Einigung deutlich
       schneller umsetzbar wäre und den Druck auf Nichtunterzeichner erhöhen
       wurde. Allerdings gibt es auch Hürden: Der Weg über Ottawa funktionierte,
       weil das Verbot umzusetzen vergleichsweise wenig kostete. Zudem ließ sich
       das Ziel – Antipersonenminen zu verbieten – viel klarer fassen als heute.
       Dagegen definieren sich LAWS, also hochriskante KI-Waffensysteme, unter
       anderem über den Grad ihrer Autonomie. Sich darauf zu einigen, was genau
       verboten gehört, ist schwieriger greifbar und die Durchsetzung eines
       Verbots später auch schwieriger kontrollierbar. Noch dazu würden die
       Großmächte der Verhandlung aller Wahrscheinlichkeit fernbleiben. Heißt: Die
       Wirkung wäre erst mal viel mehr symbolisch und weniger verbindlich für die
       Entwickler von sogenannten KI-Killer-Robotern.
       
       Ob am Ende ein Zusatzprotokoll für den Umgang mit KI-Waffensystemen steht
       oder aber ein Vertrag, den einige Staaten an Genf vorbei schließen, ist
       zweitrangig. Entscheidend ist, was darin steht. Ein Abkommen, das den Namen
       verdient, muss Systeme ächten, die sich nicht völkerrechtskonform einsetzen
       lassen, und für alle anderen festschreiben, was eine „bedeutsame
       menschliche Kontrolle“ tatsächlich ausmacht.
       
       Wenn man die Verhandlungen weg von der konsensgebundenden
       UN-Waffenkonvention auf die UN-Generalversammlung in New York City
       verlagert, tut sich ein dritter Weg für die Weltgemeinschaft auf, hier kann
       eine Resolution mit einer einfachen oder Zweidrittelmehrheit verabschiedet
       werden. Das würde politischen Druck erzeugen und wäre deutlich schneller
       umsetzbar. Allerdings wäre eine solche Resolution nicht rechtlich bindend,
       und es bräuchte einen weiteren Schritt für einen echten Vertrag mit
       Ratifizierungspflicht. Den Anstoß müssten Vorreiter unter den
       UN-Mitgliedern geben, etwa Österreich, das sich in der Vergangenheit schon
       durch Anstöße für Verhandlungen hervorgetan hat.
       
       Der Begriff Oppenheimer-Moment wurde geprägt, als Oppenheimer, der Erfinder
       der Atomwaffe, ihre tödlichen Auswirkungen realisierte. Er wird seither für
       neue, besonders mächtige Technologien verwendet, die die Welt grundlegend
       verändern können und deren Kontrolle den Menschen entgleitet. In Bezug auf
       KI-Waffen wird sich bald zeigen, was die gegenwärtige Weltgemeinschaft mit
       ihrem Oppenheimer-Moment anfangen wird.
       
       Mitarbeit: Bartholomäus Laffert
       
       29 Oct 2026
       
       ## LINKS
       
 (DIR) [1] /Israel-nutzt-KI-System-Lavender-in-Gaza/!6002476
 (DIR) [2] https://www.972mag.com/lavender-ai-israeli-army-gaza/
 (DIR) [3] https://www.972mag.com/lavender-ai-israeli-army-gaza/
 (DIR) [4] /Kuenstliche-Intelligenz-im-Krieg/!6165983
 (DIR) [5] https://www.bloomberg.com/graphics/2026-iran-school-attack/
 (DIR) [6] https://www.bmeia.gv.at/ministerium/geschaeftseinteilung/abteilung-ii10
 (DIR) [7] https://www.brandeins.de/magazine/brand-eins-wirtschaftsmagazin/2026/fuehrung/ruestung-flug-ins-ungewisse
 (DIR) [8] https://www.bmvg.de/resource/blob/6143700/9954e2b6b993b17cd3d09ca31c506774/dl-ki-konzeption-data.pdf
 (DIR) [9] /KI-Anwendungen-beim-Militaer/!6137870
 (DIR) [10] /Konsens-ist-Nonsens/!5237769/
       
       ## AUTOREN
       
 (DIR) Olivia Samnick
       
       ## TAGS
       
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) Drohnen
 (DIR) Autonome Waffen
 (DIR) Vereinte Nationen
 (DIR) Aufrüstung
 (DIR) Reden wir darüber
 (DIR) wochentaz
 (DIR) Zukunft
 (DIR) GNS
 (DIR) Lesestück Recherche und Reportage
 (DIR) Longread
 (DIR) Reportage
       
       ## ARTIKEL ZUM THEMA
       
 (DIR) Solarpionier insolvent: Sonnen-Untergang in Allgäu
       
       Seit Jahren schreibt der Batteriehersteller und Ökostrompionier Sonnen GmbH
       rote Zahlen, nun meldet er Insolvenz an. Der Service für Bestandskunden
       bleibt erhalten.
       
 (DIR) Rechter Investor Peter Thiel beteiligt: US-Start-up eröffnet in Leipzig Werk für Marschflugkörper
       
       Die Rüstungsindustrie verspricht viel Geld, das lockt auch Investoren wie
       Peter Thiel an. Nun eröffnet eines seiner Start-ups eine Fabrik in Sachsen.
       
 (DIR) Rüstungsunternehmen auf der ILA: „Man kann die Dollarzeichen in den Augen sehen“
       
       Auf der Luft- und Raumfahrtmesse ILA zeigt sich, dass bei Waffenherstellern
       Partystimmung herrscht. Doch es gibt auch Protest. Ein Ortsbesuch.