# taz.de -- Sperrung von KI-Sprachmodellen: Im Biergarten mit der Superintelligenz
       
       > KI ist ein mächtiges Werkzeug – und wird zum Sicherheitsrisiko werden.
       > Doch warum warnt die US-Firma Anthropic vor ihrem eigenen Chatbot?
       
 (IMG) Bild: In den „falschen Händen“ könnte Anthropic großen Schaden anrichten
       
       Vor einem Jahr sitze ich mit R. und T. in einem Biergarten in
       Berlin-Schöneberg. Die beiden kennen sich mit Computern aus, können coden,
       manchmal verstehe ich nur die Hälfte, wenn sie reden. T. erzählt mit
       leuchtenden Augen vom neuen KI-Sprachmodell von Anthropic, von dem ich
       damals noch nie gehört hatte.
       
       Kurz zuvor war die US-Firma mit einer gruseligen Sensation an die
       Öffentlichkeit gegangen. Die neue Version ihres Chatbots Claude hatte in
       einem Testlauf versucht, Mitarbeiter zu erpressen, um zu verhindern,
       [1][selbst abgeschaltet zu werden]. Anthropic warnte vor den Gefahren, die
       von KI ausgehen, forderte Entwickler:innen auf, mehr auf Sicherheit zu
       achten und empfahl Regierungen, KI-Unternehmen stärker zu regulieren – also
       auch sich selbst. Damals hat mich das ziemlich beeindruckt. Und ich habe
       mich gefragt, warum sie das tun.
       
       Heute, ein Jahr später, hat mich die KI-Revolution eingeholt. Am 12. Juni
       2026 nahm Anthropic die beiden neusten Claude-Versionen, Mythos 5 und Fable
       5, vom Netz. Die US-Regierung hatte angeordnet, die Modelle für
       Nichtamerikaner:innen abzuschalten. Da das laut dem Konzern nicht
       möglich war, [2][sperrten sie die neuen Bots gleich für alle.]
       
       Das US-Handelsministerium begründete den Schritt mit Sicherheitsbedenken,
       führte die aber nicht genauer aus. Dahinter dürfte Folgendes stehen:
       Mythos, die „ungesicherte“ Version von Fable, soll extrem gut darin sein,
       Sicherheitslücken in Software zu erkennen. In den „falschen Händen“ könnte
       das großen Schaden anrichten, man denke an Regierungsdatenbanken, Medizin-
       oder Militärtechnik. Davor hatte Anthropic selbst zuvor gewarnt – und sogar
       die Veröffentlichung verzögert.
       
       ## Besonnener Tech-Riese
       
       Solches Verhalten ist typisch für den Tech-Riesen: Anthropic tritt als der
       besonnene, auf Ethik und Sicherheit bedachte Player im KI-Game auf – anders
       als Erzrivale OpenAI von CEO Sam Altman, den Schöpfer:innen von ChatGPT.
       Während Altman immer wieder fordert, KI müsse allen zugänglich sein, und
       sich um Fehler später kümmern will, spricht Anthropics CEO Dario Amodei von
       Kontrolle und setzt etwa dem US-Kriegsministerium klare Grenzen.
       
       Im KI-Sektor, aber [3][vor allem bei Anthropic], ist der sogenannte
       effektive Altruismus verbreitet, der zum Ziel hat, möglichst effizient
       vielen Menschen zu helfen. Auch wenn die Philosophie ihre Tücken hat,
       spricht manches dafür, dass es den Kolleg:innen wirklich um das Wohl der
       Menschheit geht.
       
       Doch ein anderer Aspekt darf in der KI-Welt nie vergessen werden: Mit Angst
       lässt sich auch Geschäft machen. In etwa: Gebt uns das Geld, wir sind die
       Guten, sonst entwickeln die Bösen zuerst die Super-KI. Oder einfach: Wenn
       Claude sich durch die Firewall des Pentagons hacken könnte, kann es mir
       bestimmt auch meine Steuern machen. Anthropic plant, genau wie OpenAI,
       gerade den Börsengang.
       
       Nun sitze ich, diesmal allein, wieder in einem Biergarten auf dem
       stürmischen Tempelhofer Feld und telefoniere mit meinem Freund R. Wir
       sprechen über die neusten Entwicklungen bei Anthropic. R. meint, die
       Erfindung von KI werde wohl eines der einschneidendsten Ereignisse unseres
       bisherigen Lebens sein. So was wie die Entwicklung des iPhones. Oder der
       11. September.
       
       Am Ende ist es egal, ob Anthropic aus Altruismus oder Profitgier handelt.
       Fakt ist: KI-Modelle, egal von welcher Firma, werden in Kürze besser
       Sicherheitslücken in Software erkennen können als jeder Mensch – und das
       wird zu einem Risiko werden. „Das hat auch was Gutes“, sagt R. Denn am Ende
       macht es Software durch Trial-and-Error sicherer. Ich frage mich, was bis
       dahin passiert. [4][Und wer darüber entscheidet.]
       
       16 Jun 2026
       
       ## LINKS
       
 (DIR) [1] https://www.bbc.com/news/articles/cpqeng9d20go
 (DIR) [2] https://www.anthropic.com/news/fable-mythos-access
 (DIR) [3] https://www.nzz.ch/wirtschaft/anthropic-boersengang-eine-basler-gruppe-gehoert-zu-den-fruehesten-investoren-des-wertvollsten-ki-startups-der-welt-ld.10010965
 (DIR) [4] /Sperrung-der-KI-Modelle-von-Anthropic/!6187188
       
       ## AUTOREN
       
 (DIR) Fabian Schroer
       
       ## TAGS
       
 (DIR) Kolumne Freidrehen
 (DIR) ChatGPT
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) Pentagon
 (DIR) Social-Auswahl
 (DIR) Reden wir darüber
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) Digitalisierung
 (DIR) Schwerpunkt Künstliche Intelligenz
       
       ## ARTIKEL ZUM THEMA
       
 (DIR) Sperrung der KI-Modelle von Anthropic: Eine Warnung mit gutem Timing
       
       Die US-Regierung will Ausländer:innen von leistungsfähiger KI
       aussperren. In Europa sollte man das sehr ernst nehmen.
       
 (DIR) Künstliche Intelligenz: Kaufen, scannen, füttern
       
       Eine Online-Plattform bestellt seit einiger Zeit größere Mengen alter
       Bücher. Händler:innen spekulieren über Betrug, doch vieles spricht für
       KI-Training.
       
 (DIR) Entwickler von Chatbot Claude: KI-Unternehmen Anthropic will an die Börse
       
       2026 nimmt als Jahr der Mega-Börsengänge Gestalt an. Nach Elon Musks SpaceX
       macht jetzt der OpenAI-Konkurrent den Schritt zur Aktienplatzierung.