# taz.de -- Gefahren von Künstlicher Intelligenz: Wer haftet, wenn die KI uns umbringen will?
       
       > Jeder Eierkocher wird reguliert. Bei KI ist das - trotz sich häufender
       > Warnungen - anders. Der Rechtsstaat sollte auch mal was dazu sagen.
       
 (IMG) Bild: Für jeden Eierkocher gibt es strenge gesetzliche Vorgaben. Und für die KI?
       
       Ein junger Mann warf diese Woche unter Absingen schmutziger Lieder seinen
       Job hin: Nur Wahnsinnige da in der Firma. So weit, so vertraut. Nur dass
       Jacob Coxon, Brite, 27, sein Lied [1][auf X, vormals Twitter,
       veröffentlichte], und das klang so: „Ich habe heute bei Anthropic
       gekündigt“, schrieb er. Drei Jahre habe er bei den KI-Unternehmen OpenAI
       und Anthropic verbracht. „Sie setzen unser Leben aufs Spiel.“ Die Leute,
       die künstliche Intelligenz erschüfen, „glauben ernsthaft, dass sie uns alle
       bis zum Ende des Jahrzehnts umbringen könnte“. Dies sei kein
       Marketingtrick.
       
       Coxon ist nicht der Erste, der so warnt. Aber dass es immer mehr werden,
       kann halt nicht beruhigen. Es werden kaum alle aus der Branche, die vor den
       Gefahren der künstlichen Intelligenz warnen, bloße Wichtigtuer sein, die
       Investoren anlocken oder sich selbst als KI-Berater („Für nur 500 Euro die
       Stunde rette ich euch!“) andienen wollen. Als die KI-Programme des
       ChatGPT-Herstellers OpenAI sich im Juli selbstständig gemacht hatten und
       beim KI-Anbieter Hugging Face eingebrochen waren, ging der Deutungstrend
       zunächst auch erst Richtung „Aufschneider!“. Nach einigen Expertenberichten
       bog er allerdings [2][in Richtung „Schreck lass nach!]“ ab.
       
       Als echtes Kind der Bundesrepublik frage ich mich längst: Technik hin,
       Technik her, aber was sagt bitte der Rechtsstaat dazu? Und wenn wir von
       US-amerikanischen Unternehmen sprechen: Ihr klagt euch doch sonst wegen
       jedes defekten Eierkochers den Hintern ab – wo sind eure melodramatischen
       Geschworenengerichte jetzt? Was ich meine: Bevor die künstliche Intelligenz
       uns alle umbringt, wüsste ich gern, wo sie versichert ist (was nimmt die
       Allianz monatlich an Prämien von potenziellen Menschheitszerstörern?), wo
       sie verklagt werden kann und welches höchstrichterliche Urteil gegen den
       möglichen Weltuntergang vorliegt.
       
       ## Die Frage nach der Verantwortung
       
       Matthias Spielkamp kann meine Fragen gut einordnen: „Es wird immer weiter
       über die Fähigkeiten der KI diskutiert, aber der entscheidende Punkt ist
       doch, wer dafür verantwortlich ist“, sagt er. Spielkamp hat AlgorithmWatch
       gegründet und [3][kämpft seit über zehn Jahren für mehr Transparenz und
       Kontrolle] in der digitalen Welt. Dass die künstliche Intelligenz Schaden
       anrichten könne – aber auch Nutzen stiften –, sei doch völlig klar, sagt
       er.
       
       Es müsse eben wie bei jedem potenziell gefährlichen Produkt die Haftung
       geregelt sein. „Man stelle sich vor, Mercedes würde Zehntausende Lkws mit
       defekten Bremsen ausliefern – der Schadenersatz, der droht, wäre
       gigantisch!“, erklärt Spielkamp. „Damit kann man zwar noch nicht
       verhindern, dass einer mit dem Lkw in eine Menschenmenge fährt. Aber
       jedenfalls kann man dafür sorgen, dass Mercedes das nicht noch mal
       passiert.“
       
       Den Vergleich finde ich hilfreich. Es stellt sich heraus, dass Deutschland
       just dieses Jahr eine EU-Richtlinie zum Thema umsetzt: [4][Das neue
       Produkthaftungsrecht] kommt im Dezember, es ist die erste Novelle seit
       1989. Man stelle sich vor, was seitdem alles an Unheil stiftenden Dingen
       erfunden wurde! Wie viele Saugroboter schon die Fransen teurer Teppiche
       gefressen haben! In der Gesetzesbegründung [5][nennt die Bundesregierung
       ausdrücklich] die nötige Regelung der künstlichen Intelligenz: Hersteller
       könnten künftig auch haften für Schäden durch Produkte „wie insbesondere
       KI-Systeme, die die Fähigkeit aufweisen weiterzulernen“. Nun ja, könnten.
       Aber immerhin.
       
       Wenn das also halbwegs geklärt ist: Sobald eine KI übergriffig wird, müsste
       sich demnach nur noch eine Klägerin fix melden, eine Richterin rechtzeitig
       zum Urteil kommen, ein handlungsfähiger Staat noch vorhanden sein. Ich weiß
       nicht, wer sagen kann, wie eng dieses Rennen wird.
       
       12 Sep 2026
       
       ## LINKS
       
 (DIR) [1] https://x.com/hilbertspaess/status/2097476196791709843
 (DIR) [2] https://www.sueddeutsche.de/wissen/ki-agenten-angriff-open-ai-hugging-face-bericht-li.3540162
 (DIR) [3] /KI-und-Demokratie/!6206568
 (DIR) [4] https://www.faz.net/aktuell/wirtschaft/kuenstliche-intelligenz/produkthaftung-fuer-ki-software-was-hersteller-wissen-muessen-accg-201205083.html
 (DIR) [5] https://dserver.bundestag.de/btd/21/042/2104297.pdf
       
       ## AUTOREN
       
 (DIR) Ulrike Winkelmann
       
       ## TAGS
       
 (DIR) Kolumne Ernsthaft?
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) Digital Services Act
 (DIR) Digitale Souveränität
 (DIR) Haftung
 (DIR) Reden wir darüber
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) talkshow
 (DIR) ChatGPT
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) Konjunktur
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) Kolumne Ernsthaft?
       
       ## ARTIKEL ZUM THEMA
       
 (DIR) Debatte über künstliche Intelligenz: Entschleunigung mit Hintergedanken
       
       Etwas langsamer bitte – mit diesem Ansinnen machen KI-Konzerne gerade
       Schlagzeilen. Experten vermuten allerdings keinen Altruismus dahinter.
       
 (DIR) OpenAI verschiebt Börsengang: Macht langsam!
       
       Die großen Techfirmen OpenAI und Anthropic fordern mehr Vorsicht bei der
       KI–Entwicklung und haben vor, sich härter zu regulieren. Elon Musk findet
       das gut.
       
 (DIR) Risiken und Regulierung von KI: Menschengecodete Krise
       
       Auf einmal ist der Aufschrei nach Regulierung der KI-Entwicklung groß.
       Dabei ist die Debatte um die Gefahren unkontrollierter Systeme nichts Neues
       für die Menschheit.
       
 (DIR) Künstliche Intelligenz: US-Techbosse pochen auf langsamere Entwicklung
       
       Seit Jahren gibt es Aufrufe, KI-Entwicklung zu verlangsamen. Nach
       Zwischenfällen gibt es nun unter KI-Unternehmern erste Schritte in diese
       Richtung.
       
 (DIR) Kirche und Künstliche Intelligenz: 60 Prozent der Pfarrer nutzen KI
       
       KI-Tools gehören für viele Geistliche inzwischen zum Arbeitsalltag.
       Besonders häufig helfen sie bei Recherche, Texten und Übersetzungen.
       
 (DIR) Energie und KI in Deutschland: Emirate wollen Geld regnen lassen
       
       40 Milliarden Euro an Investitionen kündigen die Vereinigten Arabischen
       Emirate an. Sie sollen vor allem in Infrastruktur fließen.
       
 (DIR) Peter Thiel erhält Axel Springer Award: Ein Preis für den Antichristen
       
       Der einflussreiche Tech-Apokalyptiker Peter Thiel wird vom
       Axel-Springer-Verlag ausgezeichnet. Dessen CEO Döpfner will endlich bei den
       großen Tech-Bros mitspielen.
       
 (DIR) Künstliche Intelligenz und Tech-Branche: „Gut genug“ reicht auch erstmal aus
       
       Die Rechenleistung von KIs wächst schneller, als eine demokratische
       Öffentlichkeit es verarbeiten kann. Was ist die Alternative zu
       Tech-Imperialismus?