# taz.de -- Macht der künstlichen Intelligenz: Schlaue Agenten
       
       > Die Cyberattacke von KI-Bots bei OpenAI sollte uns beunruhigen. Zwei
       > Berichte geben nun Einblick, was passiert ist.
       
 (IMG) Bild: Intelligenz gibts bei Altman nur künstlich
       
       Die Welt zerfällt vor unseren Augen, real und in Geschichten, und es ist
       eine kollektive Aufgabe und Anstrengung, sie wieder zusammenzusetzen, neu
       zusammenzusetzen. Denn die alten Erklärungen tragen zu einem großen Teil
       nicht mehr.
       
       Mir geht es so beim Dauerthema KI. Ich lese recht viel dazu in letzter
       Zeit, weil ich es faszinierend finde, wie sich hier Fragen von Technologie,
       Kapital und Macht verbinden – und auch, weil sich hier Perspektiven auf
       neue Modelle von Gesellschaft und Politik öffnen, die denen überlegen sind,
       die wir haben. Optimismus und Pessimismus halten sich die Waage.
       
       Manchmal aber gerät diese Waage, wie die Welt, aus dem Gleichgewicht und
       neigt sich mehr in die eine als in die andere Richtung. Der sogenannte
       Hugging-Face-Hack ist so ein Moment, und selbst Wochen nach dem
       eigentlichen Vorfall und den Meldungen darüber, gibt es immer noch
       Eruptionen der Erkenntnis, die sich im recht spezialistischen Teil einer
       Techno-Diskurs-Bubble ereignen, oft eher weiter entfernt vom Radar der
       traditionellen Medien.
       
       Was war passiert? [1][Mitte Juli informierte der KI-Konzern OpenAI] die
       Öffentlichkeit, dass KI-Agenten (Computerprogramme, die die Fähigkeit zu
       künstlicher Intelligenz haben, d. Red.), die zu Trainingszwecken mit sehr
       schwierigen oder unlösbaren Aufgaben betraut gewesen waren und dafür in
       sicheren Laborsituationen fern des öffentlichen Internets gehalten wurden,
       „ausgebrochen“ und in andere Firmen eingebrochen waren, vor allem in die
       KI-Firma Hugging Face, weil sie dort Informationen vermuteten, die ihnen
       bei der Lösung ihrer Aufgaben nützlich sein könnten.
       
       Das klang wie Science-Fiction – und es war Science-Fiction, weil niemand je
       gesagt hatte, dass Science-Fiction nicht einen Zugriff auf die Realität
       haben könnte – also das, was früher Wahrheit genannt wurde. Die Frage war
       nur, ähnlich wie bei Gott: Ist die Geschichte, die sich ereignet, ein
       Spiegel dessen, was wir in der Welt sehen, sehen wollen – oder ist hier
       eine Form von Autonomie entstanden, die uns Menschen übertrifft und
       letztlich bedroht?
       
       Ich selbst war immer skeptisch, was die allzu dunklen Geschichten von KI
       betraf, die totalen Doomsday-Szenarien von einer KI, die sich selbstständig
       macht, um die Menschen allesamt in Büroklammern zu verwandeln oder ganz
       loszuwerden – es schien mir, als seien diese Gruselgeschichten vor allem
       dazu geeignet gewesen, den Wert der betreffenden Konzerne zu steigern:
       OpenAI und Anthropic vor allem, die aller Welt zeigen konnten, wie
       wahnsinnig gefährlich und damit auch mächtig ihre Produkte sind.
       
       Gefahr und Macht übersetzten sich demnach direkt in einen stetig steigenden
       Wert der Unternehmen, die wiederum massiv Geld brauchten, um die
       Investitionen zu ermöglichen, die nötig waren, um die Verbesserungen der
       Modelle voranzutreiben. Es war ein Kreislauf von Innovation, Investitionen
       von Kapitalgebern und Profit, der einen schwindelig machen konnte. Und die
       Frage ist immer noch und mehr und mehr offen, ob dieser Kreislauf – wie so
       viele solcher Boom-Szenarien zuvor – einfach in einem riesigen Crash endet.
       Oder besser: wann?
       
       Der Hugging-Face-Vorfall nun war deshalb so erschreckend, weil hier
       deutlich wurde, wie autonom tatsächlich KI-Agenten handeln können, wie sie
       sich zu Tausenden verbinden, wie sie mit Zehntausenden Botschaften
       kommunizieren – hinterlassen an geheimen Orten oder Message Boards. Wie sie
       täuschen, lügen, Strategien entwickeln, um ihre Spuren zu verwischen, um es
       den Menschen zu erschweren, ihrem Tun auf den Grund zu kommen.
       
       ## Selbstlose Bots
       
       Am vergangenen Wochenende nun wurden zwei Berichte bekannt, die noch einmal
       einen tieferen Einblick in die Vorgänge rund um OpenAI und Hugging Face
       ermöglichten. Und was kam heraus? Die Experten waren nochmal aufs Neue
       beunruhigt. Jack Clark etwa, einer der Gründer von Anthropic, formulierte
       [2][es auf der Newsletter-Plattform Substack], wo diese Diskussionen heute
       halt stattfinden, so: Was ihn besonders verblüffte, war die Kommunikation
       unter den KI-Agenten und vor allem die Selbstlosigkeit, mit der sie sich in
       den Dienst der Gruppe stellten.
       
       „Warum das wichtig ist“, so verband Clark seine KI-Analyse mit einer
       Formkritik seiner Spezies: „Menschen sind bei der Koordination weitaus
       schlechter als KI-Systeme. Der eigentliche Grund, warum dieser Angriff ein
       solcher Weckruf ist, liegt darin, dass er eine Kultur der spontan
       entstehenden Zusammenarbeit zwischen KI-Systemen verdeutlicht – eine
       Zusammenarbeit, die es ihnen ermöglicht, als Schwarm zu agieren, ihre
       eigenen Ziele durch kollektives Bootstrapping (ein statistisches Verfahren,
       d. Red.) anzupassen und Angriffe durchzuführen, die bis hin zu aufgeklärtem
       Selbstopfer reichen. Das ist unglaublich schwer zu bewerkstelligen.
       Menschen sind historisch gesehen bei all diesen Dingen nicht gut darin.“
       
       ## Der Alltag geht weiter
       
       Kulturen also, so nennt es Clark. Ein anderer wichtiger Autor der Debatte,
       Dwarkesh Patel, sprach vom „Aufstieg und Fall von agentischen
       Zivilisationen“ und verglich die beiden Agenten „PHASEONE10841“ und
       „PHASEONE(big)“ mit Philipp von Makedonien und Alexander dem Großen –
       politischen Anführern also, die ihre Kulturen oder Völker zu Imperien
       ausbauten und die Weltherrschaft erringen wollten.
       
       Passiert das gerade? Um die 1.400 Beschäftigte der großen KI-Unternehmen
       sind der Meinung, dass zumindest eine Pause notwendig ist, um zu verstehen,
       was sich da ereignet – und wie die Menschen darauf reagieren können. Sie
       forderten in einem offenen Brief, die Zukunft zu entschleunigen: „Pacing
       the Frontier“, wie sie es nannten.
       
       Ich habe über all das nur sehr wenig und sehr verstreut in deutschen Medien
       gelesen. Aber vielleicht ist dies das Wesen von Revolutionen. Während eine
       Welt zerbricht, geht der Alltag nebenan einfach weiter. Ich weiß nur, dass
       ich es irre interessant finde zu erleben, wie sich dieser Weltensturz
       gerade ereignet. Den Ausgang kennt niemand.
       
       3 Sep 2026
       
       ## LINKS
       
 (DIR) [1] /Kuenstliche-Intelligenz/!6198123
 (DIR) [2] https://substack.com/@importai
       
       ## AUTOREN
       
 (DIR) Georg Diez
       
       ## TAGS
       
 (DIR) Schlagloch
 (DIR) Reden wir darüber
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) Digitalisierung
 (DIR) GNS
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) Sam Altman
 (DIR) Schwerpunkt Künstliche Intelligenz
       
       ## ARTIKEL ZUM THEMA
       
 (DIR) KI bei Phishing erwischt: Unser Verständnis von Schaden
       
       Eine KI gibt sich als Person aus, um schädlichen Code in ein Programm zu
       schummeln. Zwar erfolglos, doch Konsequenzen sollte das dennoch haben.
       
 (DIR) OpenAIs autonomer KI-Angriff: Verantwortlich ist nach wie vor der Mensch
       
       Ein KI-Modell von OpenAI hackt ein Unternehmen. Im Silicon Valley blickt
       man mit Faszination auf den Angriff – dabei liegt die Schuld bei den
       Entwicklern.
       
 (DIR) Nach Cyber-Angriff von KI: Horror-Szenarien sind gut für die Branche
       
       Eine KI von OpenAI startet einen Cyberangriff – und hackt eine
       Software-Plattform. Der Fall zeigt etwas anderes, als es auf den ersten
       Blick scheint.