# taz.de -- OpenAI verschiebt Börsengang: Macht langsam!
       
       > Die großen Techfirmen OpenAI und Anthropic fordern mehr Vorsicht bei der
       > KI–Entwicklung und haben vor, sich härter zu regulieren. Elon Musk findet
       > das gut.
       
 (IMG) Bild: Nachdenklich gestimmt: Studierende bei einer Podiumsdiskussion mit OpenAI-Chef Sam Altman in der TU Berlin 2025
       
       Diese Meldung sorgte am Sonntag für Aufsehen: OpenAI, das Unternehmen
       hinter ChatGPT, verschiebt seinen Börsengang. Und Dario Amodei, Chef von
       Anthropic, die ebenfalls große Sprachmodelle entwickeln, sagte in der
       [1][Nachrichtensendung CBS], dass sich Künstliche Intelligenz „in
       exponentieller Geschwindigkeit“ entwickle. „Es ist ein Warnsignal dafür,
       dass wir langsamer machen müssen“.
       
       Dem vereinten Wunsch nach Verlangsamung vorausgegangen war eine
       Hacking-Attacke, bei der sogenannte KI-Agenten von OpenAI sich während
       eines Testlaufs verselbständigt hatten und in Systeme der KI-Plattform
       Hugging Face eingedrungen waren. KI-Agenten sind Systeme, die selbstständig
       Aufgaben wie Internetrecherchen oder Datenbearbeitung ausführen können. Im
       Fachjargon spricht man bei so einem Verhalten von KI-Systemen von
       „Misalignment“. Hauptziel bei der KI-Entwicklung ist, dass sie mit
       menschlichen Zielen und Wertvorstellungen „auf Linie“ ist („alignment“).
       
       Er sei nach den Angriffen besorgt, „dass in sechs bis zwölf Monaten ein
       KI-Schwarm in der Lage sein könnte, das gesamte Internet zu übernehmen und
       potenziell Hunderte Milliarden Dollar Schaden zu verursachen“, schrieb
       Amodei am Samstag.
       
       ## Branchenweite Entwicklungspause
       
       Der Anthropic-Chef plädiert für eine koordinierte branchenweite Pause in
       der westlichen Welt. Zugleich werde Anthropic – ohne auf andere zu warten –
       in einem ersten Schritt dauerhaft unabhängige Beobachter ins Unternehmen
       lassen. In der Finanzbranche gibt es Ähnliches. Altman kündigte an, dass
       OpenAI das auch machen werde. [2][Elon Musk schrieb auf X:] „Dario hat
       Rrecht“.
       
       Erst am Freitag hatte zudem der ehemalige OpenAI-Mitarbeiter Jacob Coxon
       gewarnt, Unternehmen könnten durch die Geschwindigkeit, mit der sie die
       KI-Entwicklung vorantrieben, die Kontrolle über die Technologie verlieren.
       „Sie zocken mit unserem Leben“, [3][schrieb er auf X] – nachdem er
       gekündigt hatte. Die Gefahr, dass KI die Menschheit auslöscht, liege im
       kommenden Jahrzehnt bei mehr als 10 Prozent, schrieb Coxon weiter. Sein
       Post wurde mehr als 160 Millionenmal gelesen.
       
       Coxon ist nicht der erste Anthropic-Mitarbeiter, der gekündigt hat und
       anschließend die Branche kritisiert. Daniel Kokotajlo tat das schon im
       April 2024. Später sagte er im [4][Podcast „Diary of a CEO“]: „Diese
       mächtigen CEOs – Dario [Amodei], Sam [Altman] und Elon [Musk] – liefern
       sich ein Wettrennen darum, die Kontrolle über die mächtigsten KIs zu
       erlangen, und haben Angst davor, dass der andere zum Diktator werden
       könnte, wenn er zuerst ankommt.“„Die Erforschung von KI (…) ist
       größtenteils eine experimentelle Wissenschaft. (…) Im Grunde bleiben unsere
       Trainingsläufe Experimente, und manchmal überraschen uns ihre Ergebnisse“,
       schrieb Jakub Pachocki, Chief Scientist bei OpenAI im [5][Essay „An alien
       mind“] am 6. September. Laut Pachocki geht es bei der Weiterentwicklung von
       KI nicht darum, irgendwie ans Ziel zu kommen, sondern „auf eine Weise
       dorthin zu gelangen, die den Menschen weiterhin am Prozess beteiligt und
       die Zukunft in den Händen der Menschheit belässt“.
       
       Elon Musk merkte vor wenigen Wochen in einem [6][Interview mit „The
       Economist“] an, dass KI innerhalb von fünf Jahren die menschliche
       Intelligenz übertreffen wird, und schätzt, dass die Menschen innerhalb von
       10 Jahren möglicherweise die Kontrolle über die Technologie verlieren
       könnten.
       
       Erst jetzt kommen diese Bedenken in einer breiteren Öffentlichkeit an.
       Innerhalb der Tech-Branche gibt es diese Sorgen jedoch schon lange. In
       Bezug auf die Entwicklung Künstlicher Intelligenz schrieb KI-Forscher und
       -kritiker Eliezer Yudkowsky in seinem 2025 erschienenen Bestseller „If
       anyone builds it, everyone dies“: „So lernt die Menschheit normalerweise,
       Herausforderungen zu bewältigen: Wir leugnen das Problem, die Realität
       versetzt uns ein paar ordentliche Schläge, und dann beginnen wir, das
       Problem mit mehr Respekt zu behandeln.“ Genau das könnte jetzt eintreffen.
       
       Yudkowsky kritisierte die KI-Entwicklung schon sehr früh. In einem knapp 20
       Jahre alten Artikel pocht er darauf, dass die Priorität auf der Entwicklung
       „freundlicher KI“ liegen müsse. Er sagte, dass die Entwicklung von
       KI-Systemen, die nicht „gutmütig“ sind, „suizidal“ sei.
       
       OpenAIs leitender Wissenschaftler Pachocki wiederum unterscheidet in seinem
       Essay von Anfang September zwischen „goal alignment“ und „value alignment“.
       Es erklärt quasi die Priorisierungen, die KI-Agenten treffen könnten, wenn
       sie vorgegebene Aufgaben erfüllen. „Goal alignment“ würde bedeuten, dass
       das Ziel die Priorität ist, moralische Grenzen dürfen missachtet werden.
       „Value alignment“ würde bedeuten, dass moralische Werte vor dem
       eigentlichen Ziel stehen.
       
       ## Wie Tiere im Zoo?
       
       Szenarien davon, was passieren könnte, wenn KI-Systeme den Menschen als
       dominierende Spezies auf der Erde ablösen würden, gibt es seit Jahren,
       unter anderem im Buch „Life 3.0“ des Wissenschaftsphilosophen Max Tegmark
       von 2017. Dort reicht die Dystopie so weit, dass Menschen von einer KI
       ähnlich wie Tiere im Zoo gehalten werden.
       
       Einer, der sich weniger sorgt als die Experten: US-Präsident Donald Trump.
       In einem Interview mit CNBC wurde er kürzlich gefragt, ob er Sorgen habe,
       dass Künstliche Intelligenz die Menschheit auslösche. „Nein, da habe ich
       keine“, erwiderte er. Ihm sei es wichtiger, im Hinblick auf KI-Entwicklung
       nicht von China abgehängt zu werden. Was der US-Präsident dabei jedoch
       übersieht: Sollte eines der Szenarien, die KI-Experten für möglich halten,
       wirklich eintreffen, dann wäre China kein Problem mehr. Im Kongress wird
       immerhin derzeit ein „Kill-Switch-Gesetz“ diskutiert, das außer Kontrolle
       geratene KIs abschalten würde.
       
       Ein Sprecher von Digitalminister Karsten Wildberger (CDU) sagte am Sonntag,
       man unterstütze mit Blick auf die Entwicklungen die Schaffung einer
       unabhängigen, internationalen KI-Aufsicht. Deutschland wolle dieses Thema
       in Gespräche mit den USA und China im Rahmen der G7-Gruppe einbringen.
       Einen Stopp der KI-Entwicklung in Europa sehe das Ministerium hingegen
       „kritisch und als nicht gangbaren Weg“.
       
       13 Sep 2026
       
       ## LINKS
       
 (DIR) [1] https://www.cbsnews.com/news/anthropic-ceo-dario-amodei-calls-slowdown-ai-development/
 (DIR) [2] https://x.com/elonmusk/status/2098789109980332057
 (DIR) [3] https://x.com/hilbertspaess/status/2097476196791709843
 (DIR) [4] https://www.youtube.com/watch?v=_g4l7YkDQwA
 (DIR) [5] https://openai.com/index/an-alien-mind/
 (DIR) [6] https://www.youtube.com/watch?v=1X-rr1DKSbY&t=538
       
       ## AUTOREN
       
 (DIR) Klaudia Lagozinski
       
       ## TAGS
       
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) Elon Musk
 (DIR) Sam Altman
 (DIR) GNS
       
       ## ARTIKEL ZUM THEMA
       
 (DIR) China und künstliche Intelligenz: Keine Macht für niemand
       
       China versucht, sich gegen die US-Tech-Szene zu inszenieren. Aber das ist
       eine Show, der man nicht glauben sollte.
       
 (DIR) Künstliche Intellligenz: Auch Chinas KP-Führung fürchtet Kontrollverlust durch KI
       
       US-Tech-Bosse warnen vor der Auslöschung der Menschheit durch KI. Derweil
       sorgen sich Pekings Parteikader in erster Linie um den eigenen Machterhalt.
       
 (DIR) Panikmache der KI-Firmen: Kommt mal wieder runter!
       
       Tech-Bosse verbreiten Panik: KI könnte demnächst die Menschheit auslöschen.
       Dahinter steckt vermutlich mehr eine Marketingstrategie als echte Gefahr.
       
 (DIR) Künstliche Intelligenz: US-Techbosse pochen auf langsamere Entwicklung
       
       Seit Jahren gibt es Aufrufe, KI-Entwicklung zu verlangsamen. Nach
       Zwischenfällen gibt es nun unter KI-Unternehmern erste Schritte in diese
       Richtung.
       
 (DIR) Gefahren von Künstlicher Intelligenz: Wer haftet, wenn die KI uns umbringen will?
       
       Jeder Eierkocher wird reguliert. Bei KI ist das - trotz sich häufender
       Warnungen - anders. Der Rechtsstaat sollte auch mal was dazu sagen.
       
 (DIR) Neue Rechenzentren in Deutschland: „Am Ende muss es ein fairer Tausch sein“
       
       Der Bau von Rechenzentren sorgt für Proteste. Wie man die ernst nehmen und
       dennoch für digitale Souveränität sorgen kann, erklären zwei IT-Experten.