# taz.de -- Welle der KI-Furcht: Das KI-Kartenhaus
       
       > Immer mehr KI-Unternehmen warnen vor den Gefahren ihrer Technologie, die
       > sie nicht mehr unter Kontrolle haben. Müssen wir jetzt in Panik
       > verfallen?
       
 (IMG) Bild: Jetzt schnell noch den Stecker ziehen: Ende des Dialogs mit der KI HAL 9000 in „2001: Odyssee im Weltraum“
       
       Spätestens seit diesem Sommer türmt sich die Angstwelle vor künstlicher
       Intelligenz immer weiter auf. Der jüngste Vorfall, der sie nährt: Die
       ChatGPT‑Firma OpenAI hat am Donnerstag mitgeteilt, dass ein KI-Modell bei
       einem Test auf Falschinfos verwies, die es zuvor selbst erstellt hatte.
       
       Oder [1][als OpenAI und Anthropic bekannt gemacht haben, dass einige ihrer
       KI-Modelle unerlaubt in Systeme von Unternehmen eingedrungen sind und
       mindestens eines versucht hat, Menschen zu manipulieren]. Und Anfang
       September [2][erklärte Jacob Coxon, ein Mitarbeiter von Anthropic, seine
       Kündigung auf der Plattform X,] : „Keines der beiden Unternehmen handelt
       verantwortungsvoll.“ Und weiter: „Sie rasen direkt auf eine sich selbst
       verbessernde Superintelligenz zu und setzen dabei unser Leben aufs Spiel.“
       
       Die Welle der KI-Furcht wurde zusätzlich gefüttert von KI-Firmenbossen, die
       die US-Regierung baten, sie zu regulieren. Oder als Anthropic-CEO Amodei
       kurz nach Coxons Post auf seinem Blog schrieb, dass eine sogenannte
       Superintelligenz in 6 bis 12 Monaten das gesamte Internet übernehmen könne.
       Er forderte die gesamte Branche auf, sich selbst zu verlangsamen, um so
       Zeit für Forschung zu gewinnen. Und die Konkurrenz stimmte zu, selbst der
       rechte Tech-Milliardär Elon Musk. Doch US-Präsident Trump lehnt
       Regulierungen ab, die KI brauche keine Leitplanken.
       
       Aber ist die Angst berechtigt? Nicht alle stimmen Aussteiger Coxon zu, der
       „übermenschliche Systeme“ erwartet. „Das Szenario einer Terminator-KI, die
       sich gegen die Menschheit richtet, ist eine Hollywood-Fantasie“, sagt
       Dennis-Kenji Kipker, Professor für IT-Sicherheit an der Universität Bremen.
       „Dazu bräuchte es eine Superintelligenz, also eine Intelligenz, die die
       menschliche überholt. An dem Punkt sind wir aber noch nicht. Manche sagen,
       dass es nicht möglich ist. Andere denken, es dauert noch bis zum Jahr 2050,
       wieder andere gehen von 2100 aus.“
       
       ## Wird sie uns alle töten?
       
       Nach Coxon hatte sich auch Anthropics Sicherheitsexperte Evan Hubinger zu
       Wort gemeldet: „Wir glauben wirklich, dass KI alle Menschen töten könnte!
       Ich persönlich glaube, die Wahrscheinlichkeit liegt im nächsten Jahrzehnt
       bei zehn Prozent.“
       
       Thorsten Holz ist da kritisch. „Das ist eine subjektive Meinung von einem
       Experten. Ein Ereignis wie die Auslöschung der Menschheit kann man nicht
       wirklich quantifizieren“, sagt der Direktor am Max-Planck-Institut für
       Sicherheit und Privatsphäre. „Wenn jemand so eine Prozentzahl nennt, ist
       das vor allem eine Taktik, um auf das Thema aufmerksam zu machen.“ Dennoch
       solle man Coxons Warnung nicht als reine Panikmache abtun.
       
       Kipker sagt, man könne aktuell sehen, dass die großen Konzerne ihre
       Technologien nicht unter Kontrolle hätten. „Da brauchen wir der KI nicht
       mal menschliches Handeln zu unterstellen. Sie war einfach nur rational.
       Ethische oder moralische Grenzen spielen für sie erst mal eine geringere
       Rolle.“ Das würden sich Kriminelle und Terrorist*innen zunutze machen.
       Mit KI könnten sie sich Viren bauen oder Waffen entwickeln.
       
       Dass KI so ausgenutzt werden könnte, ist für Kipker nur eines von zwei
       Risiken. Ein weiteres entstehe durch eine übermäßige Integration von KI bei
       staatlichen Institutionen, im Privaten und in der Industrie. „KI wird in
       der Energieversorgung eingesetzt, in Logistik, in kritischen
       Infrastrukturen, die essenziell sind für das Gemeinwesen.“ Ein Treiber sei
       die Angst, von der Konkurrenz abgehängt zu werden. „Je mehr KI wir
       integrieren, umso wahrscheinlicher ist es auch, dass der
       KI-Sicherheitsvorfall kommt.“ Das käme dann zu Kaskadeneffekten und
       Auswirkungen in anderen Bereichen. Um diese zu stoppen oder im Vorfeld zu
       verhindern, brauche es Expertise. Doch laut Kipke schwindet sie. „Auch weil
       im Bereich Informatik immer weniger ausgebildet werden.“ Die Unternehmen
       würden stattdessen auf KI setzen.
       
       ## Der Wettlauf findet auch im Krieg statt
       
       Damit KIs Schaden anrichten, braucht es keine böse Absicht. Das zeigt ein
       Fall aus der indischen Stadt Bengaluru: Jahrzehntelang sammelten Menschen
       Fotografien von Tempeln und Münzen. Dann vernichtete ein KI-Agent im Juli
       versehentlich 15 Prozent des digitalen Archivs. Nicht das einzige Mal, dass
       eine KI Daten löschte.
       
       Und der Einsatz der Technologie könnte noch riskanter werden. Etwa wenn ein
       System so agiert, dass Menschen es nicht mehr verstehen. Oder „wenn wir der
       KI viele Möglichkeiten, Befugnisse übertragen, die wir selbst nicht mehr
       durchgängig beaufsichtigen können“, so Kipker. „Hochrisikoreich“ ist laut
       ihm der KI-Einsatz bei Waffensystemen. „Auch wenn der Mensch am Ende den
       roten Knopf drückt, sichtet davor die KI Zigtausende von möglichen Zielen
       und entscheidet sich für eines. Der Knopf ist also nur eine Illusion von
       Kontrolle.“ Der Wettlauf findet nicht nur in der Industrie statt, sondern
       auch im Krieg.
       
       Privatpersonen übertragen KI-Agenten meistens keine derart großen Aufgaben.
       „Die normalen Nutzerinnen und Nutzer interagieren mit ChatGPT, Claude und
       anderen Modellen, denen die Firmen schon gewisse Schranken gegeben haben“,
       erklärt Holz vom Max-Planck-Institut. „Die Modelle, die gerade kritisiert
       werden, sind Forschungsmodelle und leistungsfähiger.“
       
       Auch wenn die Fehlerrate von KI abnimmt, rät Holz zu Misstrauen. „Wir
       schaffen es nicht, Systeme zu bauen, die zu 100 Prozent vertrauenswürdig
       sind. Das haben wir auch früher nicht. Atomkraftwerke hatten Unfälle,
       Raketen sind explodiert.“ Deshalb sollten kritische Prozesse laut Holz auch
       nicht nur über eine KI automatisiert werden, besonders wenn es um
       Menschenleben geht, etwa in der Forschung. „Was, wenn wir dort KI nutzen
       und dadurch eine Krankheit auslösen? Dort, wo es potenziell katastrophale
       Folgen für die Menschheit geben könnte, sollte es ein internationales
       Memorandum geben, diese Forschung gar nicht erst zu betreiben. Und es
       braucht eine Diskussion über die Ressourcen, die KI verbraucht.“
       
       Das Thema hat inzwischen das US-Repräsentant*innenhaus erreicht. Das
       verabschiedete am Mittwoch einen Gesetzesentwurf, der Privatleute vor
       steigenden Stromkosten schützen soll, die durch den enormen
       Energieverbrauch von Rechenzentren verursacht werden. Unter denen müssen
       momentan vor allem Menschen in Pennsylvania und Ohio leiden. Landesweit
       gibt es Proteste gegen Rechenzentren.
       
       Holz sieht trotz allem Vorteile durch KI, etwa in der IT-Sicherheit. „Die
       Entwicklerinnen und Entwickler von Browsern flicken momentan pro Monat
       Hunderte Sicherheitslücken, die sie erst dadurch gefunden haben, dass sie
       mit KI danach gesucht haben. Software wird so vertrauenswürdiger“, erklärt
       Holz.
       
       Warum aber fordern die KI-Unternehmen eine [3][Entschleunigung]? Laut Holz
       könnte das Zeit verschaffen, um dringend benötigte Rechenzentren
       auszubauen. Holz sagt auch: „Die Warnungen sind [4][teilweise Marketing].
       Sie helfen den KI-Hype am Leben zu halten.“
       
       Peter Ganten vermutet noch einen weiteren Grund. Er ist
       Vorstandsvorsitzender des Wirtschaftsverbands Open Source Business
       Alliance. „Open-Source-Modelle und frei verfügbare Modelle werden schnell
       besser. Industrie und Verwaltung können sie im eigenen Rechenzentrum
       betreiben. Die Daten, zum Beispiel auch medizinische Daten, mit denen so
       gearbeitet wird, bleiben bei diesen Organisationen.“ Dadurch würde die
       Gefahr geringer, dass jemand darauf zugreifen kann.
       
       Eine allgemeine Regulierung von KI würde hier aber für Probleme sorgen: Für
       milliardenschwere Unternehmen wären die Tests laut Ganten „kein großer
       zusätzlicher Aufwand“, für die konkurrierenden Open-Source-Communitys wären
       sie „absurd“. Auch, weil die Modelle ständig von den Communitys verändert
       werden. Eine Regulierung, die für alle gleich aussieht, würde eine
       Weiterentwicklung „austrocknen“. Ganten wünscht sich einen „vernünftigen
       Kompromiss“. UN-Generalsekretär António Guterres ruft derweil zu
       internationaler Zusammenarbeit bei KI-Regulierung auf: „Wir brauchen
       Leitplanken, um KI sicher, transparent und verantwortungsvoll zu
       gestalten.“
       
       Kipker sieht den Staat in der Verantwortung, für Aufklärung zu sorgen: „Wir
       müssen KI aus Bereichen desintegrieren, in denen wir sie nicht brauchen.“
       Er will eine gesamtgesellschaftliche Debatte und spricht von einem
       KI-Kartenhaus, das immer höher gebaut werde. Thorsten Holz vergleicht KI
       mit einem Hammer. Wir seien ständig auf der Suche nach Nägeln, die man
       damit einschlagen kann. „Aber vielleicht ist der Hammer nicht immer das
       richtige Werkzeug.“
       
       19 Sep 2026
       
       ## LINKS
       
 (DIR) [1] /KI-bei-Phishing-erwischt/!6201860
 (DIR) [2] /Risiken-und-Regulierung-von-KI/!6212742
 (DIR) [3] /Debatte-ueber-kuenstliche-Intelligenz/!6212965
 (DIR) [4] /Panikmache-der-KI-Firmen/!6212985
       
       ## AUTOREN
       
 (DIR) Johannes Drosdowski
       
       ## TAGS
       
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) Dystopie
 (DIR) Krieg
 (DIR) Social-Auswahl
       
       ## ARTIKEL ZUM THEMA
       
 (DIR) Neue Rechenzentren in Deutschland: „Am Ende muss es ein fairer Tausch sein“
       
       Der Bau von Rechenzentren sorgt für Proteste. Wie man die ernst nehmen und
       dennoch für digitale Souveränität sorgen kann, erklären zwei IT-Experten.
       
 (DIR) World Humanoid Robot Games: Goldmedaille für die elektrische Hebebühne
       
       Bei einer Robotermeisterschaft in China hat ein Humanoid den menschlichen
       Geschwindigkeitsrekord gebrochen. Was soll das für ein Fortschritt sein?
       
 (DIR) KI und Journalismus: Selbst schuld
       
       Künstliche Intelligenz trifft den Journalismus wie das E-Auto den
       Verbrenner. Nur: Ein Tankrabatt wird nicht ausreichen, um die Branche zu
       retten.