# taz.de -- Künstliche Intelligenz: Staatschefs fordern Regeln für menschliche Kontrolle
       
       > Bundeskanzler Merz (CDU) und 17 weitere Staats- und Regierungschefs
       > unterzeichnen einen Aufruf zur KI-Regulierung. Sie wollen verbindliche
       > Standards.
       
 (IMG) Bild: Die Kontrolle von künstlicher Intelligenz (engl. Artificial Intelligence) ist Thema bei der diesjährigen UN-Vollversammlung
       
       afp | Im Vorfeld der UN-Generaldebatte haben Bundeskanzler Friedrich Merz
       (CDU) und 17 weitere Staats- und Regierungschefs einen Aufruf für
       verbindliche Sicherheitsregeln für besonders leistungsfähige KI-Modelle
       unterzeichnet. Solche Systeme würden bei unzureichender Kontrolle „ernste
       Risiken für Sicherheit und Schutz“ bergen, heißt es in der Erklärung.
       
       [1][Künstliche Intelligenz (KI)] müsse „unter menschlicher Leitung,
       Aufsicht und Kontrolle“ bleiben, fordern die Unterzeichner weiter.
       Unternehmen sollten unter anderem zu Tests, unabhängigen Prüfungen und
       transparenten Sicherheitsprotokollen verpflichtet werden.
       
       Zur Begründung verweisen die Unterzeichner auf jüngste Fälle, in denen
       leistungsfähige KI-Systeme Schutzmechanismen umgingen, Schwachstellen
       ausnutzten und sich unbefugt Zugang zu realen Computersystemen
       verschafften. Die rasante Entwicklung könne die Möglichkeiten überholen,
       [2][neu entstehende Risiken zu kontrollieren].
       
       Zu den insgesamt 22 Unterzeichnern der Erklärung gehören neben Merz unter
       anderem die Staats- und Regierungschefs von Australien, Dänemark, Finnland,
       Kanada, den Niederlanden, Norwegen, Singapur und Spanien. Zudem schlossen
       sich ihr EU-Kommissionspräsidentin Ursula von der Leyen sowie die
       Außenminister aus Bahrain, der Türkei und den Vereinigten Arabischen
       Emiraten an. Initiiert wurde der Aufruf von Finnlands Präsident Alexander
       Stubb und Norwegens Ministerpräsident Jonas Gahr Støre.
       
       ## Überprüfbare Standards
       
       Die USA, China, Großbritannien, Frankreich, Japan und Indien sind bislang
       nicht unter den Unterzeichnern. Die Erklärung bleibt für weitere
       Unterzeichner aber offen.
       
       In der Erklärung heißt es weiter, die UN-Mitgliedstaaten sollten die
       Schaffung einer internationalen Institution prüfen, die Standards setzen,
       deren Einhaltung überprüfbar machen und Staaten bei Überschreiten
       bestimmter Leistungsgrenzen zusammenrufen könnte.
       
       Die [3][UN-Generaldebatte in New York] beginnt am Dienstag.
       
       22 Sep 2026
       
       ## LINKS
       
 (DIR) [1] /Schwerpunkt-Kuenstliche-Intelligenz/!t5924174
 (DIR) [2] /KI-Forscherin-Theresa-Zueger/!6208301
 (DIR) [3] /81-UN-Generalversammlung-in-New-York/!6214845
       
       ## TAGS
       
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) Vereinte Nationen
 (DIR) Friedrich Merz
 (DIR) GNS
       
       ## ARTIKEL ZUM THEMA
       
 (DIR) Künstliche Intelligenz und Klimakrise: UN-Klimachef sieht Tech-Konzerne in der Pflicht
       
       Die großen Tech-Konzerne müssten mehr tun gegen die Klimakrise, fordert der
       Klimachef der UN – gerade in Hinblick auf künstliche Intelligenz.
       
 (DIR) 81. UN-Generalversammlung in New York: Kriege und KI im Fokus des UN-Gipfels
       
       Bei der jährlichen UN-Vollversammlung stehen wieder aktuelle Krisen und
       Herausforderungen im Mittelpunkt, echte Durchbrüche sind nicht zu erwarten.
       
 (DIR) China, USA und KI: Gespräche über ein Meldesystem für KI-Sicherheitsrisiken
       
       Am Sonntag sprach der US-Finanzminister mit Chinas Vize-Ministerpräsident.
       Ergebnis: Die Länder wollen künftig Informationen über KI-Vorfälle
       austauschen.