# taz.de -- Künstliche Intelligenz: US-Techbosse pochen auf langsamere Entwicklung
       
       > Seit Jahren gibt es Aufrufe, KI-Entwicklung zu verlangsamen. Nach
       > Zwischenfällen gibt es nun unter KI-Unternehmern erste Schritte in diese
       > Richtung.
       
 (IMG) Bild: Ein Smartphone mit dem KI-Chatbot ChatGPT vor dem Logo des US-Softwareunternehmens OpenAI
       
       dpa | Nach dem Schock eigenständiger Hacking-Attacken durch künstliche
       Intelligenz zeigen sich große amerikanische KI-Firmen nach eigenen Angaben
       bereit, die Entwicklung der Technologie zu verlangsamen. Dario Amodei, Chef
       des KI-Unternehmens Anthropic, machte einen solchen Vorstoß mit dem Plan,
       damit ein bis zwei Jahre Zeit zu gewinnen. Binnen weniger Stunden bekam er
       Zuspruch von Rivalen wie dem Chef des ChatGPT-Entwicklers OpenAI, Sam
       Altman, sowie Tech-Milliardär Elon Musk, der bei seiner Firma SpaceX eigene
       KI entwickeln lässt.
       
       Nach den Hacking-Angriffen sei er besorgt, dass in sechs bis zwölf Monaten
       ein KI-Schwarm in der Lage sein könnte, das gesamte Internet zu übernehmen
       und potenziell Hunderte Milliarden Dollar Schaden zu verursachen, schrieb
       Amodei am Samstag. Altman von OpenAI schrieb wenige Stunden später auf der
       Plattform X, auch er sei der Ansicht, dass das Tempo bei der Entwicklung
       leistungsstärkster KI-Modelle verlangsamt werden müsse.
       
       Amodei plädierte für eine koordinierte branchenweite Pause in der
       westlichen Welt. Zugleich werde Anthropic – ohne auf andere zu warten – in
       einem ersten Schritt dauerhaft unabhängige Beobachter ins Unternehmen
       lassen, die schon in der Trainingsphase die Sicherheit von KI-Modellen
       begutachten sollen. Altman nannte das eine gute Idee und kündigte an, dass
       OpenAI das auch machen werde. Auch Tech-Milliardär Elon Musk, lange ein
       Kritiker Amodeis, schrieb auf X: „Dario hat recht.“
       
       ## Kein OpenAI-Börsengang in diesem Jahr mehr
       
       Altman sagte zudem dem Magazin Fortune, der mit Spannung erwartete
       Börsengang von OpenAI werde in diesem Jahr wohl nicht mehr stattfinden. Er
       verwies vor allem auf die aktuelle Debatte: „Man wäre schlecht beraten,
       genau jetzt an die Börse zu gehen.“ Auf die Nachfrage, ob er sich auch den
       Verzicht auf einen Börsengang im kommenden Jahr vorstellen könnte,
       erwiderte Altman: „Ich würde sagen, nicht 2026.“
       
       Bei der jüngst bekannt gewordenen aufsehenerregenden Hacking-Attacke war
       Software von OpenAI in einem Testlauf eigenständig aus einer abgesicherten
       Umgebung ausgebrochen und drang auf eigene Faust in Systeme der KI-Firma
       HuggingFace ein. Der Grund war lediglich, dass sie dort Antworten auf die
       ihr gestellte Testaufgabe vermutete. Für die Attacke nutzten die KI-Agenten
       unter anderem Software-Schwachstellen aus – und sprachen sich zudem
       untereinander ab.
       
       ## Warnung von „katastrophalem Schaden“
       
       Für ihn sei besorgniserregend, dass ein KI-Schwarm mit derselben
       Einstellung und größeren Fähigkeiten „katastrophalen Schaden“ hätte
       anrichten können, betonte Amodei. Als besonderes Risiko sieht er die
       Fähigkeit von KI-Software, sich selbst weiterzuentwickeln. Seit diesem
       Sommer sei künstliche Intelligenz besser darin – und dies erhöhe das Tempo
       weiter. Unkontrolliert könne dies dazu führen, [1][dass Menschen diese
       Systeme nicht mehr verstehen] und die Kontrolle über sie verlieren, warnte
       er.
       
       Amodei hatte schon in den vergangenen Jahren immer wieder vor Risiken bei
       der Entwicklung künstlicher Intelligenz gewarnt – und war dafür aus Teilen
       der KI-Branche zum Teil heftig kritisiert worden. Ein Argument von
       Befürwortern eines hohen Tempos in den USA – etwa auch im Weißen Haus von
       Präsident Donald Trump – ist der Wettlauf mit China.
       
       Anthropic entwickelte zuletzt ein KI-Modell mit dem Namen Mythos, das
       besonders gut darin ist, zum Teil über Jahrzehnte unentdeckt gebliebene
       Software-Schwachstellen zu finden. Die Firma macht das volle Modell nur
       ausgewählten Behörden und Unternehmen zugänglich, damit sie ihre
       Computersysteme absichern können.
       
       ## Drastische Warnung
       
       Die Debatte war in den vergangenen Tagen noch von einem Anthropic-Forscher
       angeheizt worden, der mit einer drastischen Warnung zurücktrat. Die großen
       Entwickler künstlicher Intelligenz handelten unverantwortlich „und spielen
       mit unseren Leben“, erklärte Jacob Coxon.
       
       Anthropic-Forscher Evan Hubinger, der mit dafür zuständig ist, dass KI mit
       den Interessen der Menschen im Einklang bleibt, bestätigte wenig später
       Coxons Sorgen. Er persönlich denke, die Gefahr, [2][dass KI die Menschheit
       töte,] liege im kommenden Jahrzehnt bei mehr als 10 Prozent, schrieb er auf
       X.
       
       In den USA gibt es zudem eine wachsende Bewegung gegen riesige
       Rechenzentren, auf deren Bau KI-Firmen wie OpenAI für den Ausbau ihres
       Geschäfts angewiesen sind.
       
       13 Sep 2026
       
       ## LINKS
       
 (DIR) [1] /Ist-eine-KI-schlauer-als-ein-Mensch-Die-Frage-ist-eine-gefaehrliche-Ablenkung/!6204730
 (DIR) [2] /Gefahren-von-Kuenstlicher-Intelligenz/!6211549
       
       ## TAGS
       
 (DIR) ChatGPT
 (DIR) Sam Altman
 (DIR) Elon Musk
 (DIR) Big Tech
 (DIR) Social-Auswahl
 (DIR) Reden wir darüber
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) talkshow
 (DIR) Kolumne Ernsthaft?
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) KI und Journalismus
       
       ## ARTIKEL ZUM THEMA
       
 (DIR) Panikmache der KI-Firmen: Kommt mal wieder runter!
       
       Tech-Bosse verbreiten Panik: KI könnte demnächst die Menschheit auslöschen.
       Dahinter steckt vermutlich mehr eine Marketingstrategie als echte Gefahr.
       
 (DIR) OpenAI verschiebt Börsengang: Macht langsam!
       
       Die großen Techfirmen OpenAI und Anthropic fordern mehr Vorsicht bei der
       KI–Entwicklung und haben vor, sich härter zu regulieren. Elon Musk findet
       das gut.
       
 (DIR) Risiken und Regulierung von KI: Menschengecodete Krise
       
       Auf einmal ist der Aufschrei nach Regulierung der KI-Entwicklung groß.
       Dabei ist die Debatte um die Gefahren unkontrollierter Systeme nichts Neues
       für die Menschheit.
       
 (DIR) Gefahren von Künstlicher Intelligenz: Wer haftet, wenn die KI uns umbringen will?
       
       Jeder Eierkocher wird reguliert. Bei KI ist das - trotz sich häufender
       Warnungen - anders. Der Rechtsstaat sollte auch mal was dazu sagen.
       
 (DIR) Kirche und Künstliche Intelligenz: 60 Prozent der Pfarrer nutzen KI
       
       KI-Tools gehören für viele Geistliche inzwischen zum Arbeitsalltag.
       Besonders häufig helfen sie bei Recherche, Texten und Übersetzungen.
       
 (DIR) KI und Demokratie: Eine toxische Beziehung
       
       KI ist gefährlicher, als manche glauben. Sie beeinflusst Nutzer:innen
       und somit die Demokratie selbst dann, wenn sie auf alltägliche Weise
       eingesetzt wird.