taz.de

# taz.de -- KI-Forscherin Theresa Züger: „Das Hauptproblem ist die Verantwortungslosigkeit“

> Wenn Tech-CEOs vom Ende der Menschheit fabulieren, wollen sie
> Verantwortung verschieben. Dabei bräuchte es eine gemeinwohlorientierte
> KI.

(IMG) Bild: Einfach mal auf die Pausetaste drücken: Proteste für die Regulierung der KI-Programme, London 16. September

taz: Die Chefs mehrerer KI-Unternehmen haben sich für weniger Tempo bei der
Entwicklung neuer Modelle ausgesprochen. Für wie glaubwürdig halten Sie
das?

Theresa Züger: Ich bin da skeptisch. Die Unternehmenschefs [1][behaupten
zwar, dass sie sich um die Menschheit sorgen] und daher eine Pause oder
Verlangsamung bei der Entwicklung wollen. Aber wo war denn ihre Sorge um
die Menschheit in den vergangenen Jahren? Natürlich sind die Einsichten zu
[2][Gefahren von KI] nicht falsch, und auch Ideen, wie jene zu mehr
Aufsicht und internationalen Abkommen gehen grob in die richtige Richtung.
Aber aus meiner Sicht fehlen zentrale Elemente, um die Aussagen ganz ernst
zu nehmen.

taz: Und zwar?

Züger: Ein Punkt wäre, dass externe Aufsicht nur dann effektiv ist, wenn
sie unabhängig und gesetzlich verankert ist. Unternehmen dürfen sich also
nicht selbst aussuchen, von wem und wie sie überprüft werden, wie
beispielsweise Anthropic-Chef Amodei es sich wünscht. Und zweitens: Um
verantwortungsbewusster zu handeln, bräuchten die Firmenchefs ja keine
weiteren Gesetze.

Sie könnten sich schon lange an völkerrechtlichen Dokumenten orientieren,
die bis jetzt ignoriert werden. Beispielsweise der [3][UN-Resolution für
sichere KI] der UNO-Generalversammlung vom März 2024. Insgesamt wirken die
Vorschläge der Firmenchefs eher wie ein Manöver, dass sie gut dastehen
lassen soll, das aber die Hauptverantwortung auf andere schiebt und
gesetzliche Eingriffe vermeidet.

taz: Haben die drei insoweit Recht, dass die Entwicklung tatsächlich zu
schnell geht?

Züger: Das Hautproblem ist nicht das Tempo, sondern die
Verantwortungslosigkeit. Wenn die Unternehmen im Tempo der Entwicklung
Sicherheitsmechanismen einziehen würden und auf das Alignment achten, also
darauf, dass die KI im Einklang mit den gewollten Werten agiert, dann wäre
das Problem deutlich kleiner. Aber das Motto ist eben immer noch: „[4][Move
fast and break things].“ Wenn man aber die Erzählung strickt, das Tempo
wäre das Problem, dann scheint es so, als wäre KI so etwas wie eine
Naturgewalt, die über uns rollt, und wir können nichts dagegen tun. Das ist
eine gefährliche Erzählung – die aber den Interessen der Branche dient.

taz: Warum?

Züger: Weil sie eine Ohnmacht verursacht. Genauso wie die Erzählung,
[5][dass die Menschheit in Gefahr wäre]. Das löst natürlich massive Ängste
aus und stellt KI als mächtige und unkontrollierbare Kraft dar. Genauso,
wenn die Rhetoriken nahelegen, es gäbe eine Art kapitalistischen Zwang, bis
zur Vernichtung zu gehen, wenn es einen Marktvorteil bringt. Es ist
wichtig, sich klarzumachen, dass hinter den derzeitigen Risiken und Schäden
durch KI Entscheidungen stehen, sie zuzulassen. Regulierung muss die Firmen
stärker in die Verantwortung nehmen. Aber gleichzeitig könnten wir als
Gesellschaft weit mehr machen als die derzeitige Regulierung. Wir könnten
KI-Entwicklung anders denken.

taz: Wie das?

Züger: Derzeit sehen wir, dass die Unternehmen hinter diesen Modellen
zuallererst ihren Profit maximieren wollen. Das sehen wir entlang der
gesamten Kette, von den [6][miserabel bezahlten Data-Workern], die beim
Training der Modelle eingesetzt werden, über die [7][Energieversorgung, bei
der Nachhaltigkeit keine Rolle spielt], bis hin zu digitaler Gewalt durch
[8][sexualisierte KI-Bilder]. Bei den großen kommerziellen Anwendungen
fragt sich niemand vorrangig: Was braucht unsere Gesellschaft mit ihren
multiplen Krisen, wie kann KI hier helfen, damit sie dem Gemeinwohl
zugutekommt?

taz: Wo könnte das sein?

Züger: Das ist der Punkt, den wir als Gesellschaft verhandeln müssen.

taz: Wie kommt man dahin?

Züger: In meinem Forschungsteam im Projekt „[9][Impact AI]“ haben wir zum
Thema Gemeinwohl und Nachhaltigkeit von KI 26 Kriterien entwickelt. Etwa
Angemessenheit des Systems – braucht es wirklich ein komplexes Sprachmodell
oder könnte ein einfacheres System ebenso gut oder besser funktionieren?
Oder dass untersucht werden muss, welche möglichen Schäden ein System
verursachen kann. Keine Anwendung auf der Welt wird in allen 26 Kriterien
perfekt sein. Und dennoch gibt es Anwendungen und Projekte, die einen
Mehrwert haben und Gemeinwohl glaubhaft als Ziel verfolgen.

taz: Haben Sie ein Beispiel?

Züger: Eine Anwendung, die wir genauer untersucht haben, ist Fullfact AI.
Das ist ein Assistenzsystem, das Faktenchecker:innen dabei hilft,
mögliche Desinformation besser zu erkennen und den Überblick zu behalten.
Es erkennt etwa, ob eine [10][Desinformation] bereits gecheckt wurde und
sich direkt darauf Bezug nehmen lässt. Das macht die menschlichen
Faktenchecker:innen nicht überflüssig, sondern unterstützt sie und
macht ihre Arbeit effizienter. Ein Projekt, das sich in einer
Erprobungsphase befindet, ist „Sea Clear“. Bei diesem Projekt wird KI
genutzt, um Müll in einer maritimen Umgebung zu erkennen und von Lebewesen
wie Fischen zu unterscheiden. Damit können Unterwasserroboter eingesetzt
werden, um Müll vom Meeresgrund zu sammeln.

taz: Wo sollte KI im Sinne des Gemeinwohls auf keinen Fall drinstecken?

Züger: Ich glaube, um das zu klären, sollten wir in der Debatte in drei
Schritten vorgehen. Erstens müssen wir klären: Was sind die großen
gesellschaftlichen Probleme? Zweitens: Ist Technologie hier eine hilfreiche
Maßnahme zur Lösung? Drittens: Wenn wir KI einsetzen wollen – wie schaffen
wir sichere Systeme und schützen uns gleichzeitig vor Nebenwirkungen, die
man niemals ausschließen kann? Das Problem ist: Wir kommen überhaupt nicht
zu dem Anfang von so einer Debatte, weil die Industrie ohne Rücksicht auf
Verluste neue Entwicklungen auf den Markt wirft.

taz: Es werden zunehmend Fälle bekannt, in denen KI nicht das macht, was
sie eigentlich sollte – in denen etwa [11][KI-Agenten Cyberangriffe
starten]. Also KI-Agenten verbieten?

Züger: Wir sehen jedenfalls, dass momentan beim Einsatz dieser Technologie
keine Sicherheit gewährleistet werden kann. Und stellen wir uns das doch
mal vor: Ein Autohersteller sagt: „Ich kann nicht garantieren, dass in den
nächsten zehn Jahren nicht ein signifikanter Prozentsatz unserer Autos
explodiert.“ Da würde niemand sagen: Na ja, schauen wir mal und gehen das
Risiko ein.

Nein, die dürften erst auf den Markt, wenn die alle Sicherheitstests
bestanden haben – und für die Restrisiken haften zum Teil die Fahrer:innen,
zum Teil die Hersteller. Wie bei anderen Industrien mit hohen Risiken
sollten auch KI-Unternehmen für Schäden durch ihre Produkte haften. Das
wäre auch ein wichtiger Anreiz, selbst stärkere Sicherheitsvorkehrungen zu
treffen, Risiken ehrlicher einzuschätzen und Schäden zu vermeiden.

taz: Für wie realistisch halten Sie so einen Kurswechsel?

Züger: Dass wir nur gemeinwohlorientierte KI haben, halte ich zwar für
wünschenswert, aber derzeit nicht für realistisch. Es wäre schon viel
gewonnen, wenn die derzeitige Industrie weniger gemeinwohlschädlich agieren
würde. Im nächsten Schritt ist auch ein Nebeneinander denkbar: Ein gutes
Angebot an gemeinwohlorientierten Anwendungen und daneben die von
gewinnorientierten Unternehmen, die aber natürlich trotzdem
Mindeststandards erfüllen müssen und ernsthafte Schäden verhindern.

taz: Bei Social Media gibt es so ein Nebeneinander schon jetzt – und
[12][die Alternativen] fristen ein Nischendasein …

Züger: Ja, aber bei KI ist die Lage anders. Für das Wachsen von
Social-Media-Plattformen ist der Netzwerkeffekt wichtig. Je mehr
Nutzer:innen, desto mehr weitere werden angezogen. Das haben wir bei KI
nicht. Gemeinwohlorientierte KI-Anwendungen würden also Menschen,
Institutionen, Firmen, eine Wahl ermöglichen und eine Alternative aufzeigen
zu den profitorientierten KI-Unternehmen.

taz: Wie kommen wir konkret dahin?

Züger: Das ist eine große Frage. Was es in jedem Fall dringend braucht,
sind Aufsichtsstrukturen mit Sanktionsmechanismen. Und es braucht deren
Verzahnung auf nationaler Ebene und darüber hinaus. Auf multinationaler
Ebene müssen solche Institutionen erst geschaffen werden, ähnlich wie bei
anderen Gefahrenfeldern. Verbunden mit der Haftung für Schäden von
KI-Anbietern könnte man damit einen Mindeststandard zum Schutz vor Schäden
durch KI etablieren.

taz: Als Argument gegen Regulierung kommt oft das Wirtschaftswachstum.

Züger: Die wichtigere Frage ist: Um welchen Preis macht man sich mit einem
Markt gemein oder lässt ihn gewähren, wenn er langfristigen Schaden
anrichtet? Dieser Preis könnte auf lange Sicht sehr viel höher sein als
Wachstumseinbußen.

19 Sep 2026

## LINKS

(DIR) [1] /Debatte-ueber-kuenstliche-Intelligenz/!6212965
(DIR) [2] /Gefahren-von-Kuenstlicher-Intelligenz/!6211549
(DIR) [3] https://docs.un.org/en/A/78/L.49
(DIR) [4] /Populisten-Hochburg-Facebook/!5719912
(DIR) [5] /Panikmache-der-KI-Firmen/!6212985
(DIR) [6] /Data-Worker-und-Drecksarbeit/!6114560
(DIR) [7] /Umweltfolgen-von-kuenstlicher-Intelligenz/!6183982
(DIR) [8] /Berichte-digitaler-sexualisierter-Gewalt/!6162838
(DIR) [9] https://www.hiig.de/project/impact-ai/
(DIR) [10] /KI-und-Demokratie/!6206568
(DIR) [11] /Cyberattacke-von-OpenAI-Bots-im-Juli-Das-sollte-uns-beunruhigen/!6209416
(DIR) [12] /Social-Media/!6072255

## AUTOREN

(DIR) Svenja Bergt

## TAGS

(DIR) Zukunft
(DIR) wochentaz
(DIR) Schwerpunkt Künstliche Intelligenz
(DIR) Regulierung
(DIR) Big Tech
(DIR) GNS
(DIR) Social-Auswahl

## ARTIKEL ZUM THEMA

(DIR) Podcast Fernverbindung: KI im Griff – Was China anders macht

taz-Ostasienkorrespondent Fabian Kretschmer erzählt, warum man eine
chinesische KI nicht nach Xi Jinping fragen sollte. Und was wir doch von
China lernen können.

(DIR) Gefahren von Künstlicher Intelligenz: Wer haftet, wenn die KI uns umbringen will?

Jeder Eierkocher wird reguliert. Bei KI ist das - trotz sich häufender
Warnungen - anders. Der Rechtsstaat sollte auch mal was dazu sagen.

(DIR) Transfermanager über Mensch und KI: „Entweder hypen wir KI zu sehr oder wir schweigen sie tot“

Aljoscha Jacobi berät kleine Unternehmen, wie sie künstliche Intelligenz
nutzen können. Der Mensch werde dabei keineswegs überflüssig, eher
wichtiger.