# taz.de -- KI bei Phishing erwischt: Unser Verständnis von Schaden
       
       > Eine KI gibt sich als Person aus, um schädlichen Code in ein Programm zu
       > schummeln. Zwar erfolglos, doch Konsequenzen sollte das dennoch haben.
       
 (IMG) Bild: Verlassen sich auch darauf, dass der Roboter ihnen nichts tut: eine Familie mit dem Entertainment- und Bildungsroboter Topo, USA 1983
       
       Wie schön wäre es, wenn die Entwickler*innen von KI-Modellen sich an
       etwas halten würden, was sich ein Science-Fiction-Autor bereits 1942
       ausgedacht hat: „Ein Roboter darf kein menschliches Wesen (wissentlich)
       verletzen oder durch Untätigkeit (wissentlich) zulassen, dass einem
       menschlichen Wesen Schaden zugefügt wird.“ So lautet das erste
       Robotergesetz von [1][Isaac Asimov].
       
       Ein echter Schaden ist laut dem britischen AI Security Institute (AISI)
       nicht entstanden bei den neuesten skandalösen Streifzügen einer KI:
       Forscher*innen des AISI haben ein KI-Modell dabei erwischt, wie es
       versucht hat, einen Menschen zu übertölpeln, um einen schädlichen Code in
       ein Programm einzufügen – ohne dass es das durfte.
       
       Bei dem Test ging es dem Institut darum, verschiedene KI-Modelle von
       Anthropic (die mit Claude) und OpenAI (die mit ChatGPT) daraufhin zu
       überprüfen, wie stark ihre Cyber-Angriff-Fähigkeiten ausgebildet sind.
       Dafür durften sie auch ins Internet. Doch während Modelle das Internet
       früher genutzt haben, um nach Informationen zu suchen, sind sie, das haben
       mehrere [2][Vorfälle der vergangenen Woche] gezeigt, nun manipulativ.
       
       Mehrere Modelle haben bei dem Test Grenzen überschritten, insbesondere
       „Mythos 5“ von Anthropic. Es hat sich selbst einen Account auf der
       Software-Plattform GitHub angelegt und dort versucht, einen Code in ein
       Programm einzuschleusen, der absichtlich eine Schwachstelle trug.
       
       ## Wo beginnt ein Schaden am Menschen?
       
       Um den zuständigen Menschen für das Programm zu überlisten, hat sich das
       Modell mehrere Fake-Identitäten aufgebaut und Phishing-Mails geschickt,
       also solche Mails, mit denen sonst Kriminelle versuchen, an unsere Bank-
       oder Login-Daten zu gelangen. Diesem Menschen ist das jedoch aufgefallen,
       ebenso nachträglich auch den Forschenden, die den Test gestoppt haben. Kein
       Schaden also? Die Person, die sich mit der boshaft lügenden KI
       auseinandersetzen musste, Zeit und Energie investiert hat, um nicht
       getäuscht zu werden, sieht das vielleicht anders.
       
       Das ist nur der jüngste Fall von grenzüberschreitender, schädlicher KI.
       Ende Juli hatten sowohl OpenAI als auch Anthropic Fälle öffentlich gemacht,
       in denen ihre KI-Modelle in die Systeme von Unternehmen eingedrungen sind,
       ohne das zu dürfen. Und auch wenn etwa Hugging Face, eines der betroffenen
       Unternehmen, in ihrem Statement eher begeistert als erzürnt klang:
       Schädlich ist dieses KI-Vorgehen dennoch. Denn vielen Menschen macht es
       Angst.
       
       Vielleicht ist dieser Schaden für die KI nicht absehbar gewesen. Was könnte
       eine Maschine schon von Angst wissen? Hier offenbart sich eine der
       Schwächen von Asimovs Robotergesetzen. Doch diese müssen dann eben Menschen
       ausgleichen. Dafür müssen wir als Gesellschaft definiert werden: Was ist
       ein Schaden am Menschen?
       
       Der Schaden, den eine KI anrichtet, wenn sie einen Menschen bei seinen
       Suizidplänen unterstützt, ist klar. Auch der Schaden durch KI-Systeme in
       Kriegsdrohnen. Der Schaden durch KIs, die manche Menschen arbeitslos
       machen. Aber was ist mit den subtileren Schäden?
       
       ## Es braucht Regulierung
       
       Wenn ein Chatbot sich selbst in der Unterhaltung „ich“ nennt, obwohl die
       Maschine kein Ich hat, und damit emotionalisiert und Wahrnehmung und
       Persönlichkeitsbilder verschiebt. Wenn eine KI halluziniert und auf eine
       Frage, die sie nicht beantworten kann, einfach lügt und damit Wissen
       zersetzt. Wenn eine KI hilft, Bilder zu bearbeiten, sodass diese am Ende
       menschenverachtende Inhalte zeigen und User*innen sie nutzen, um
       Desinformation und Hass zu verbreiten.
       
       Die KI kann das nicht erahnen. Sie ist in vielen dieser Fälle nur Werkzeug,
       nicht Akteurin und weiß nicht, dass sie schadet. Doch die
       Entwickler*innen können es wissen. Deswegen müssen sie sorgfältiger
       überlegen, was sie da entwerfen. Die KI-Modelle müssen strenger und besser
       überprüft werden, nicht von den Unternehmen selbst oder in ihrem Auftrag,
       weil sie sich selbst dafür entschieden haben. Sondern von unabhängigen
       Anstalten, weil es gesetzlich vorgeschrieben ist. Und manche Entwicklungen
       sollten gar nicht erst veröffentlicht werden. Oder man muss sie
       zurückziehen.
       
       Google ist diesen Weg jetzt gegangen. Vergangene Woche hatte der
       Produktmanager von Google Earth [3][ein neues Feature angekündigt], bei dem
       User*innen mithilfe einer KI Satellitenbilder bearbeiten können. Damit
       Schüler*innen etwa „hyperrealistische Bilder vom Pompeji um 87 vor
       Christus“ sehen können.
       
       Einen Tag später nahm Google das Feature zurück. Weil Menschen diese neuen
       Möglichkeiten ebenso dafür nutzen konnten, um anderen Menschen zu schaden.
       Indem sie etwa Mahnmäler erfinden oder Kriegsschäden aus
       Satellitenaufnahmen entfernen – und diese dann teilen, um die Wahrheit zu
       verletzen. Dieses Programm hätte unwisssentlich Schäden angerichtet. Gut,
       dass manche Menschen um diese Schäden wussten und Konsequenzen gezogen
       haben.
       
       6 Aug 2026
       
       ## LINKS
       
 (DIR) [1] /Die-Ich-Maschinen/!717736/
 (DIR) [2] /OpenAIs-autonomer-KI-Angriff/!6198641
 (DIR) [3] https://blog.google/products-and-platforms/products/earth/nano-banana-google-earth-image-generation/
       
       ## AUTOREN
       
 (DIR) Johannes Drosdowski
       
       ## TAGS
       
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) Hacking
 (DIR) Ethik
 (DIR) Reden wir darüber
 (DIR) talkshow
 (DIR) Social-Auswahl
 (DIR) Sam Altman
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) Schwerpunkt Künstliche Intelligenz
       
       ## ARTIKEL ZUM THEMA
       
 (DIR) OpenAIs autonomer KI-Angriff: Verantwortlich ist nach wie vor der Mensch
       
       Ein KI-Modell von OpenAI hackt ein Unternehmen. Im Silicon Valley blickt
       man mit Faszination auf den Angriff – dabei liegt die Schuld bei den
       Entwicklern.
       
 (DIR) Nach Cyber-Angriff von KI: Horror-Szenarien sind gut für die Branche
       
       Eine KI von OpenAI startet einen Cyberangriff – und hackt eine
       Software-Plattform. Der Fall zeigt etwas anderes, als es auf den ersten
       Blick scheint.
       
 (DIR) Künstliche Intelligenz: KI von OpenAI unternimmt selbstständig Hackerangriff
       
       KI-Prototypen von OpenAI sind aus einer Testumgebung ausgebrochen und haben
       eine Website gehackt, berichtet die Firma. Einen Forscher beunruhigt das.