# taz.de -- Risiken und Regulierung von KI: Menschengecodete Krise
       
       > Auf einmal ist der Aufschrei nach Regulierung der KI-Entwicklung groß.
       > Dabei ist die Debatte um die Gefahren unkontrollierter Systeme nichts
       > Neues für die Menschheit.
       
 (IMG) Bild: Schlaf, Menschlein, schlaf, die KI bleibt nicht dein Schaf, dein Wohlbefinden ist ein KPI, schlaf, Menschlein, schlaf
       
       Bis zum Ende der Dekade könnten wir alle tot sein – das, sagt der
       KI-Entwickler Jacob Coxon, sei eine ernsthafte Einschätzung der Branche und
       der Grund, warum er bei Anthropic kündigt. 169 Millionen Menschen haben
       [1][seinen Tweet] gesehen, seitdem tourt er durch Nachrichtensendungen.
       Mittlerweile hat nicht nur Anthropic-Chef Dario Amodei ihm zugestimmt,
       sondern auch Sam Altman, CEO von OpenAI, und Tech-Unternehmer Elon Musk
       sprechen sich für [2][langsamere Entwicklung und mehr Regulierung] aus.
       
       Die Menschen haben Angst vor KI, und das ist verständlich. Denn wenn KIs
       heute Millenniumprobleme der Mathematik lösen, wer sagt dann, dass sie
       nicht morgen einem Terroristen helfen, einen Supervirus herzustellen? Oder
       ganz selbstständig kritische Infrastruktur lahmlegen? Die Fortschritte sind
       beeindruckend, aber die Diskussion um die Risiken übersieht eine
       entscheidende Sache: Die Gefahr geht nicht von abstrakten „KIs“ aus,
       sondern von Menschen.
       
       KI-Modelle brechen nicht einfach so aus einer Sicherheitsumgebung aus, um
       ein fremdes Unternehmen zu hacken. Sie tun es, weil ihnen gewisse Aufgaben
       gestellt werden, weil ihnen gewisse Werkzeuge in die Hand gegeben werden,
       weil sie wieder und wieder darauf gedrillt wurden, ein gewisses Verhalten
       zu zeigen. Wer einen Hund monatelang darauf trainiert, zu jagen, darf sich
       nicht wundern, wenn er am Ende bei den Nachbarn ein Kaninchen reißt.
       
       ## Hinter KI stehen noch immer Menschen
       
       Und bei KI ist die Situation noch klarer: Ein Sprachmodell kann nicht
       agieren, wenn es nicht gefragt wird. Es existiert quasi nur im Moment der
       Antwort. Die [3][sogenannten Agenten], die für die Vorfälle verantwortlich
       gemacht werden, sind Schleifen von Fragen und Antworten, die nur laufen,
       wenn Menschen explizit ein Programm schreiben, das Frage um Frage stellt.
       Kein KI-Modell der Welt kann sich von alleine aufwecken.
       
       Hinter jedem Vorfall in den Schlagzeilen stehen menschliche Entscheidungen:
       die Modelle auf Hacking-Fähigkeiten zu trainieren, die Agentenloops so zu
       gestalten, dass sie stundenlang laufen, sie unbeaufsichtigt zu lassen.
       [4][Cyberrisiken erzeugen und dann Cybersicherheit verkaufen]: Das kennen
       wir normalerweise unter dem mafiösen Begriff der Schutzgelderpressung.
       
       Jacob Coxon weiß das, und deshalb prangert er die Verantwortungslosigkeit
       der KI-Firmen an. Und gleichzeitig ist die Diskussion großartige PR für
       eine Branche, die davon lebt, dass ihre Produkte mächtiger aussehen, als
       sie sind. Und auch davon, dass die Verantwortung den Produkten
       zugeschrieben wird statt den Menschen, die sie machen.
       
       Was in der Debatte um Coxon untergeht: Die Gefahren unkontrollierter
       Systeme sind für die Menschheit absolut nichts Neues. Wir kennen Autos,
       Züge, Flugzeuge, die großen Schaden anrichten können, wenn die steuernden
       Menschen sie nicht im Griff haben. Wir arbeiten mit Giften, Medikamenten
       und Viren, und wir müssen dabei enorm vorsichtig sein, dass sie nicht
       unvorhergesehene Nebenwirkungen hervorrufen oder sich autonom verbreiten.
       
       ## Höhere Strafen, Prüfsysteme, Regulierung
       
       Wir haben Wege gefunden, damit umzugehen: Wir überprüfen die Sicherheit.
       Wir erlauben Forschung nur unter strengen Auflagen. Wer sich jetzt die
       Platine heiß denkt darüber, wie man einen kompletten Entwicklungsstopp für
       KI durchsetzen könnte, vergisst all diese Mechanismen.
       
       Durchsetzbar wären hohe Strafen für fahrlässiges Verhalten, wie sie im EU
       AI Act stehen. Durchsetzbar wäre die Überprüfung von Modellen durch
       Sicherheitsbehörden für KI, die viele Länder bereits haben – auch die USA,
       wenn Trump sie nicht entkernt hätte. [5][Durchsetzbar wären Melde- und
       Prüfsysteme], wie es sie in China gibt, wo übrigens die
       Innovationsgeschwindigkeit nicht stark unter der Regulierung zu leiden
       scheint.
       
       Scheinheilig dagegen wirkt die US-Tech-Branche, die jetzt eine gemeinsame
       Verlangsamung und Selbstregulierung verhandelt. Amodei fordert dafür etwa
       eine Kartellrechts-Ausnahme. Die Grenzen sollen die Firmen setzen, der
       Staat soll das nur absegnen. Absprachen im Sinne der globalen Sicherheit
       klingen einfach besser als: „Wir kriegen es nicht hin, gute und sichere
       Produkte zu bauen.“ Mit dem praktischen Nebeneffekt, dass man sich den
       technischen Vorsprung etwas absichert und kein Konkurrent durch ein
       überraschend gutes Modell einen Börsengang gefährden kann.
       
       Menschliche Kooperation bei Sicherheitsthemen ist komplex. Sie schützt uns
       nicht vor jedem Terroristen, jeder böswilligen Handlung und vor jedem
       Fehler. Aber sie existiert und ist auch den neuen Risiken der KI-Industrie
       gewachsen, wenn der Wille zur Durchsetzung da ist. Es sind Menschen, die
       jede Entscheidung hinter KI-Produkten treffen. Das macht sie nicht weniger
       gefährlich. Aber mit gefährlichen Menschen haben wir Erfahrung.
       
       13 Sep 2026
       
       ## LINKS
       
 (DIR) [1] https://x.com/hilbertspaess/status/2097476196791709843
 (DIR) [2] /Kuenstliche-Intelligenz/!6212710
 (DIR) [3] /Cyberattacke-von-OpenAI-Bots-im-Juli-Das-sollte-uns-beunruhigen/!6209416
 (DIR) [4] https://x.com/KanowskiJoris/status/2098073291801997525
 (DIR) [5] /Gefahren-von-Kuenstlicher-Intelligenz/!6211549
       
       ## AUTOREN
       
 (DIR) Marie Kilg
       
       ## TAGS
       
 (DIR) talkshow
 (DIR) Big Tech
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) Elon Musk
 (DIR) Sam Altman
 (DIR) Reden wir darüber
 (DIR) Social-Auswahl
       
       ## ARTIKEL ZUM THEMA
       
 (DIR) Künstliche Intellligenz: Auch Chinas KP-Führung fürchtet Kontrollverlust durch KI
       
       US-Tech-Bosse warnen vor der Auslöschung der Menschheit durch KI. Derweil
       sorgen sich Pekings Parteikader in erster Linie um den eigenen Machterhalt.
       
 (DIR) Rückschlag für Trump-Regierung: US-Gericht stoppt Visa-Regeln für Studenten und Journalisten
       
       Die US-Regierung wollte ein Gesetz ändern, so dass Journalisten und
       Studenten nur noch 240 Tage am Stück im Land hätten bleiben dürfen. Ein
       Gericht hat das gestoppt.
       
 (DIR) Panikmache der KI-Firmen: Kommt mal wieder runter!
       
       Tech-Bosse verbreiten Panik: KI könnte demnächst die Menschheit auslöschen.
       Dahinter steckt vermutlich mehr eine Marketingstrategie als echte Gefahr.
       
 (DIR) Künstliche Intelligenz: US-Techbosse pochen auf langsamere Entwicklung
       
       Seit Jahren gibt es Aufrufe, KI-Entwicklung zu verlangsamen. Nach
       Zwischenfällen gibt es nun unter KI-Unternehmern erste Schritte in diese
       Richtung.
       
 (DIR) Gefahren von Künstlicher Intelligenz: Wer haftet, wenn die KI uns umbringen will?
       
       Jeder Eierkocher wird reguliert. Bei KI ist das - trotz sich häufender
       Warnungen - anders. Der Rechtsstaat sollte auch mal was dazu sagen.
       
 (DIR) Vivian Wilson gegen KI: Mensch, Maschine, Mode
       
       In der neuen Werbekampagne von Desigual wird Kritik an KI geübt. Und das
       ausgerechnet mit der Tochter von Elon Musk, der Milliarden in KI
       investiert.