# taz.de -- Probleme bei künstlicher Intelligenz: Neue Sicherheitsverstöße bei OpenAI
       
       > Nach Attacken durch seine KI dichtete der ChatGPT-Entwickler OpenAI seine
       > Testumgebungen ab. Ein neues KI-Modell sorgt nun trotzdem für Probleme.
       
 (IMG) Bild: OpenAI – das Unternehmen hinter dem Chatbot ChatGPT – hat seine Software nicht im Griff
       
       dpa |/rtr/afp | Zwei Monate nach ‌einem ersten Hackervorfall durch ‌seine
       eigene [1][künstliche Intelligenz (KI)] hat der ChatGPT-Entwickler OpenAI
       neue Sicherheitsprobleme bekannt gegeben – und Konsequenzen angekündigt.
       KI-Agenten des Unternehmens haben demnach 53 Bilder aus Nutzerkonten
       irrtümlich ins Netz gestellt. Die Bilder seien ohne Wissen des Unternehmens
       auf externen Internetseiten veröffentlicht worden, teilte OpenAI am Freitag
       mit. Die Links seien nicht öffentlich aufgelistet gewesen.
       
       Bei einem weiteren Vorfall schaffte es ein KI-Modell in einem Test,
       Antworten von einem externen Chatbot zu bekommen, obwohl es eigentlich
       keinen Internetzugang haben sollte. Die Software habe jedoch eine Lücke in
       den Netzwerkeinstellungen gefunden und ausgenutzt.
       
       Der Zwischenfall sei zwar weniger gravierend als einige [2][frühere],
       betonte OpenAI. Allerdings sei er der erste, seit die
       Sicherheitsvorkehrungen nach der Hackingattacke von OpenAI-Software auf die
       KI-Firma Hugging Face verschärft worden waren. Man sehe das als wichtigen
       Hinweis darauf, wo weitere Nachbesserungen notwendig seien. Als Reaktion
       kündigte das Unternehmen an, das Training seiner leistungsstärksten Modelle
       auszusetzen. Wie lange diese Pause dauern soll, erklärte es nicht.
       
       In dem Testszenario bekam das KI-Modell den Auftrag, auf Grundlage von
       Hinweisen Informationen über eine Person zu finden, die einen Blogpost
       veröffentlicht habe. Dafür konnte es auf eine Web-Imitation in einer
       abgeschirmten Testumgebung zurückgreifen.
       
       Nachdem die Suche dort ergebnislos geblieben war, versuchte die KI jedoch
       dem OpenAI-Bericht zufolge, Anfragen unter anderem bei Google zu starten.
       Das schlug wie geplant fehl. Aber dem KI-Modell fiel dabei auf, dass es
       über den sogenannten DNS-Resolver der Testumgebung Anfragen an einen
       Chatbot im offenen Internet stellen kann. DNS-Resolver übertragen
       Domainnamen, die man als Nutzer in Browser eintippt, in aus Zahlen
       bestehende IP-Adressen, unter denen Websites zu finden sind. OpenAI stoppte
       den Test, nachdem die Kommunikation über die Lücke aufgefallen war.
       
       Zudem wurde bekannt, dass automatisierte KI-Agenten von OpenAI auch auf
       mehreren Webseiten der US-Regierung aktiv waren. So habe die Software auf
       der Seite einer Statistikbehörde mithilfe von im Netz entdeckten Logindaten
       auf öffentlich zugängliche Informationen zugegriffen, teilte OpenAI nach
       einem Bericht der KI-Forschungsfirma Transluce mit.
       
       Auf der Seite der Börsenaufsicht SEC seien ebenfalls öffentlich zugängliche
       Informationen kopiert worden. Beim US-Bildungsministerium versuchte die
       KI-Software laut Transluce vergeblich, sich in Daten der
       Bürgerrechtsabteilung zu hacken, wie die New York Times berichtete.
       
       ## „Dutzende“ Betroffene
       
       Derweil deutet sich an, dass noch viele weitere Enthüllungen um
       eigenständige Hackingaktivitäten der KI von OpenAI folgen könnten. Man habe
       „Dutzende“ Organisationen informiert, mit deren Webseiten Software von
       OpenAI auf ungeplante Weise „interagiert“ habe, teilte die KI-Firma mit.
       „Einige der betroffenen Webseiten werden von Regierungen, Universitäten,
       Behörden und anderen Institutionen betrieben“, hieß es. Man überlasse es
       ihnen, die Vorfälle öffentlich zu machen.
       
       Zuletzt hatte die Regierung Australiens mit der Mitteilung für Schlagzeilen
       gesorgt, dass KI von OpenAI in eine Website des australischen
       Gesundheitssystems eingedrungen war.
       
       27 Sep 2026
       
       ## LINKS
       
 (DIR) [1] /Schwerpunkt-Kuenstliche-Intelligenz/!t5924174
 (DIR) [2] /OpenAI-macht-weitere-KI-Probleme-oeffentlich/!6214076
       
       ## TAGS
       
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) Digitalisierung
 (DIR) Hacking
       
       ## ARTIKEL ZUM THEMA
       
 (DIR) China, USA und KI: Gespräche über ein Meldesystem für KI-Sicherheitsrisiken
       
       Am Sonntag sprach der US-Finanzminister mit Chinas Vize-Ministerpräsident.
       Ergebnis: Die Länder wollen künftig Informationen über KI-Vorfälle
       austauschen.
       
 (DIR) Welle der KI-Furcht: Das KI-Kartenhaus
       
       Immer mehr KI-Unternehmen warnen vor den Gefahren ihrer Technologie, die
       sie nicht mehr unter Kontrolle haben. Müssen wir jetzt in Panik verfallen?
       
 (DIR) KI-Forscherin Theresa Züger: „Das Hauptproblem ist die Verantwortungslosigkeit“
       
       Wenn Tech-CEOs vom Ende der Menschheit fabulieren, wollen sie Verantwortung
       verschieben. Dabei bräuchte es eine gemeinwohlorientierte KI.