# taz.de -- OpenAIs autonomer KI-Angriff: Verantwortlich ist nach wie vor der Mensch
       
       > Ein KI-Modell von OpenAI hackt ein Unternehmen. Im Silicon Valley blickt
       > man mit Faszination auf den Angriff – dabei liegt die Schuld bei den
       > Entwicklern.
       
 (IMG) Bild: Wir sollten bei dem Diskurs um KI nicht vergessen, dass es ein von Menschen programmiertes System ist
       
       Ist nun der Zeitpunkt gekommen, an dem KI-Systeme eigenständig einen
       Hacker-Angriff starten und wir ihnen schutzlos ausgeliefert sind? Nicht
       ganz.
       
       Die ersten aufgeregten Medienberichte zu dem Vorfall um OpenAI lassen
       allerdings anderes erwarten. Es ist die Rede von einer „ausgebrochenen“ KI,
       die sich „verselbstständigt“ habe. Dabei werden einige Debatten so geführt,
       als hätte der Mensch keinen Einfluss mehr auf die KI-Systeme und ihr
       Vorgehen. Das verzerrt das Bild.
       
       Wir sollten bei dem Diskurs um KI nicht vergessen, dass es ein von Menschen
       programmiertes System ist, das durch Prompts und Aufgabenstellungen von
       Menschen dirigiert wird. Und die sollten jetzt die Verantwortung dafür
       übernehmen. In diesem Fall: die Macher*innen von OpenAI.
       
       Bereits letzte Woche hatte die Software-Plattform Hugging Face, auf der
       sich die KI-Community zu Modellen, Programmierung und Datensätzen
       austauscht, von einem Sicherheitsvorfall berichtet: Ein externer KI-Agent
       sei in die Firmen-Infrastruktur eingedrungen. Am Dienstag veröffentlichte
       dann [1][OpenAI ein Statement], in dem sie sich zu dem Vorfall bekennen.
       
       Ausgeführt wurde der [2][Cyber-Angriff auf Hugging Face] von dem neuesten
       Modell GPT-5.6 Sol und einem Modell, das noch nicht veröffentlicht ist. Der
       Vorfall sei auf einen Test zurückzuführen, bei dem die Cyber-Fähigkeiten –
       also die Hacking-Fähigkeiten – der Modelle gemessen werden sollten. Das
       Eindringen in ein externes Unternehmen sei natürlich nicht geplant gewesen,
       beteuert OpenAI.
       
       ## Technischer Fortschritt statt Moral
       
       Und gleichzeitig zeigt sich sowohl auf Seite des Hackers als auch der
       Gehackten mehr Begeisterung als Unbehagen über das Geschehene. OpenAI
       spricht von einem „beispiellosen Cybervorfall mit hochentwickelten
       Cyber-Fähigkeiten“, und Hugging Face schiebt noch hinterher, es sei
       „atemberaubend, dass all das autonom geschehen ist“.
       
       Diese Reaktionen verdeutlichen, dass die großen Tech-Giganten weniger vor
       Sicherheitsbedenken zurückschrecken als vielmehr mit leuchtenden Augen auf
       den [3][technischen Fortschritt] blicken, den es immer zu feiern gilt.
       
       Was aber hat es mit dem selbstständigen Vorgehen der KI auf sich? Bei dem
       Leistungstest, der zu dem Hacking-Angriff geführt hat, wurden die
       Schutzmechanismen der KI-Modelle bewusst reduziert. So sollten die
       maximalen Fähigkeiten ermittelt werden. Gleichzeitig war die Testumgebung
       nicht so isoliert wie von OpenAI angenommen.
       
       Anstatt innerhalb des vorgegebenen Netzwerks zu bleiben, fanden die Modelle
       heraus, dass sie die Aufgabe besser und schneller lösen konnten, wenn sie
       sich Zugang zum Internet verschaffen. Dieses Vorgehen wurde von den
       Modellen autonom – also ohne „human in the loop“ – ausgeführt. Auch wenn
       das gruselig klingt und zum Teil auch gruselig ist, da selbst die
       Entwickler*innen modernster KI-Systeme noch immer nicht ganz verstehen,
       wie die Modelle im Detail agieren, ist das Vorgehen nicht unerwartet.
       
       ## Autonome KI vom Menschen trainiert
       
       Damit eine KI überhaupt an den Punkt kommt, autonom zu entscheiden, wurde
       sie daraufhin trainiert – von einem Menschen. In dem Fall von den
       Entwickler*innen von OpenAI, geführt von einem der mächtigsten
       Tech-Oligarchen im Silicon Valley. Das Unternehmen hat, genau wie
       [4][Anthropic], in den letzten Monaten aktiv daran gearbeitet, Systeme so
       agieren zu lassen, dass sie nicht ständig von einem Menschen kontrolliert
       werden müssen.
       
       Das Problem liegt also nicht in der Maschine, die bereits im Geheimen die
       Machtübernahme plant. Sondern – wie so oft – bei den Menschen, die diese
       Technologien entwickeln. KI-Systeme agieren eben basierend auf den
       Datensätzen, mit denen sie gefüttert werden, den Richtlinien, die ihnen
       vorgegeben werden, und der Moral, an die im Code appelliert wird. Auch das
       autonome Handeln wird den Maschinen eingeschrieben, die Verantwortung
       bleibt aber bei den KI-Anbietern und deren Nachlässigkeit.
       
       Außerdem weisen Forscher*innen darauf hin, dass es gängige Praxis ist,
       eine Testumgebung isoliert vom Internet zu entwerfen. Und wenn wir, wie
       behauptet, davon ausgehen, dass bei OpenAI die brillanten IT-Köpfe sitzen,
       dann sieht der Vorfall mehr nach Provokation als nach wirklichem
       Kontrollverlust aus.
       
       Es ist also nicht verwunderlich, dass eine KI im Rahmen der Möglichkeiten
       agiert, die man ihr vorgibt. Wie OpenAI-Chef Sam Altman ständig betont, ist
       Schnelligkeit am wichtigsten. Der Weg zum Ziel wurde zweitrangig. Und so
       bleiben auch weiterhin Menschen die größte Bedrohung für sich selbst.
       
       24 Jul 2026
       
       ## LINKS
       
 (DIR) [1] https://openai.com/de-DE/index/hugging-face-model-evaluation-security-incident/
 (DIR) [2] /Nach-Cyber-Angriff-von-KI/!6198134
 (DIR) [3] /Report-zu-offenen-KI-Modellen/!6197127
 (DIR) [4] /Anthropic/!6185299
       
       ## AUTOREN
       
 (DIR) Selina Hellfritsch
       
       ## TAGS
       
 (DIR) Sam Altman
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) Digitalisierung
 (DIR) Big Tech
 (DIR) ChatGPT
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) wochentaz
       
       ## ARTIKEL ZUM THEMA
       
 (DIR) KI bei Phishing erwischt: Unser Verständnis von Schaden
       
       Eine KI gibt sich als Person aus, um schädlichen Code in ein Programm zu
       schummeln. Zwar erfolglos, doch Konsequenzen sollte das dennoch haben.
       
 (DIR) Nach Cyber-Angriff von KI: Horror-Szenarien sind gut für die Branche
       
       Eine KI von OpenAI startet einen Cyberangriff – und hackt eine
       Software-Plattform. Der Fall zeigt etwas anderes, als es auf den ersten
       Blick scheint.
       
 (DIR) Künstliche Intelligenz: KI von OpenAI unternimmt selbstständig Hackerangriff
       
       KI-Prototypen von OpenAI sind aus einer Testumgebung ausgebrochen und haben
       eine Website gehackt, berichtet die Firma. Einen Forscher beunruhigt das.
       
 (DIR) Anthropic: Anthropos, Ethos, Pathos
       
       Anthropic gibt sich als Gewissen der KI-Branche. Ein Blick auf die
       Geschäfte des Unternehmens zeigt, wie weit Anspruch und Praxis
       auseinanderliegen.