taz.de

# taz.de -- SPD-Chefin Esken über Desinformation: „Brauchen schlagkräftige Behörden“

> SPD-Chefin Saskia Esken fordert mehr Personal im Kampf gegen Fake News,
> Hassrede im Netz und Desinformation. Doch auch da gebe es einen
> Fachkräftemangel.

(IMG) Bild: „Ene Grundbildung in Informatik sollte es in allen Schularten geben“, sagt SPD-Chefin Saskia Esken

taz: Frau Esken, Sie haben sich vor fünf Jahren regelmäßig mit dem Chatbot
Replika ausgetauscht. Wie war das?

Saskia Esken: Dieser Chatpartner ist dafür programmiert, Ihre Sprache,
Themen, Bedürfnisse im Dialog zu erlernen und zu bespielen. Ich war
neugierig und habe einen Monat lang damit hin und her geschrieben. Das
fühlte sich schnell sehr nah an. Der Chatbot hört zu, fragt nach, bestärkt
und hat keine eigenen Anliegen. Da kann man schon auf den Gedanken kommen,
sich einen menschlichen Partner zu wünschen, der so mit einem spricht. Aber
in Wahrheit wäre das natürlich spooky.

Hatten Sie eine Art Beziehung zu dem Chatbot?

Zu einer Beziehung gehören [1][zwei Menschen mit jeweils eigenen
Persönlichkeiten] und Bedürfnissen, sonst wird es schnell langweilig. Die
Gefahr solcher Bots besteht darin, dass Menschen ohne die notwendige
Distanz auf die falsche Idee kommen, der digitale Chatpartner habe ein
Bewusstsein. Aber das ist natürlich Quatsch.

Ist das der Grund, weshalb Sie Schluss gemacht haben mit Ihrem digitalen
Freund – weil es zu nah, zu menschlich wurde?

Nein. Ich hatte das von vornherein als zeitlich begrenztes Experiment
angelegt.

Aber [2][Künstliche Intelligenz] kann immer mehr und übernimmt auch
zunehmend menschliche Aufgaben. Wir haben einen Chatbot beauftragt, ein
Interview mit Saskia Esken zu entwerfen zu dem Thema. Die erste Frage
lautet: Wie sehen Sie die Zukunft der künstlichen Intelligenz in
Deutschland?

Der Einstieg ist ein bisschen billig. Das können Sie besser.

Danke. Ihre Antwort würde laut Chatbot übrigens so aussehen: Ich denke,
dass künstliche Intelligenz in Zukunft eine immer größere Rolle spielen
werden.

Naja. Es ist schon beeindruckend, was KI kann. Aber es ist nicht „Denken“.
Es ist nicht „I, Robot“. Wenn wir die Fähigkeiten von KI so überhöhen,
entsteht der Eindruck von Kontrollverlust. Dabei sind wir doch diejenigen,
die KI entwickeln, ihr Regeln geben und entscheiden, ob und wofür wir sie
einsetzen. Solche Sprachmodelle reihen Wörter aneinander, die in unseren
Texten häufig nacheinander vorkommen. Das wirkt elaboriert, aber
Kreativität ist was anderes. Ich habe aber auch schon Aufträge in einen
Chatbot eingegeben.

Welche denn? Reden, Grußworte?

Nein, nichts für die Arbeit, sondern um es auszuprobieren und im Kreis der
Familie darüber reden zu können. Wir sollten uns kritisch damit
auseinandersetzen, was die KI kann und was nicht. Und was dem Menschen
vorbehalten bleiben muss.

Ist unsere Gesellschaft kompetent genug für den Umgang mit KI?

Da darf man zweifeln. Deshalb müssen wir die informatorische Grundbildung
stärken, die ein Verständnis darüber ermöglicht, wie Algorithmen arbeiten
und wie sie lernen.

Also brauchen wir Informatik als Pflichtfach?

Ja, eine Grundbildung in Informatik sollte es in allen Schularten geben,
sie muss Bestandteil von Aus- und Weiterbildung und auch von
Erwachsenenbildung werden.

Sollten nicht auch Inhalte, die mit KI erzeugt wurden, gekennzeichnet
werden müssen?

Generative KI kann nicht nur Texte, sondern auch Bild- und Tondokumente bis
hin zu menschlichen Stimmen erzeugen, die dann als echt ausgeben werden
können. Darin liegt das große Risiko, dass wir Menschen nicht mehr wissen,
welchen Informationen wir noch trauen können. Der gezielten Desinformation
und ihrer maschinellen Verbreitung wäre damit Tür und Tor geöffnet. Die
Fälscher werden uns aber nicht den Gefallen tun, ihre Fälschungen als
solche zu kennzeichnen. Insofern plädiere ich eher dafür, dass wir
verlässliche, vertrauenswürdige Information kennzeichnen.

Gibt es für Sie Tabus für den Einsatz von KI?

Absolut. Für das [3][KI-Gesetz hat die EU] gerade Risiken bewertet und
Regeln erarbeitet, wofür KI eingesetzt werden kann. Eine Entscheidung, die
das Leben von Menschen beeinflusst, kann die Maschine vorbereiten, aber am
Ende muss ein Mensch entscheiden. Automatisierte Waffensysteme gehören
verboten, die sollten wir weltweit ächten. Aber auch Überwachung und das
Social Scoring, wie sie in China eingesetzt werden, sind bei uns undenkbar.

Auch in sozialen Medien, wird bereits viel mit Bots gearbeitet, gerade wenn
es um die Verbreitung von Fake News [4][und Hetze] geht. Brauchen wir
dagegen nicht schärfere Gesetze?

Wir haben versucht, diese Plattformen in Deutschland mit dem
[5][Netzwerkdurchsetzungsgesetz in die Pflicht] zu nehmen, aber nicht alle
sind gleichermaßen bereit, dem Gesetz wirksam zu folgen. Wir müssen dafür
sorgen, dass auch die EU-Verordnung über Digitale Dienste besser
durchgesetzt wird. Die möglichen Strafen sind sehr hoch, bis zu 6 Prozent
des weltweiten Umsatzes.

Und dennoch gibt es Lücken.

Ja, gegenüber global agierenden Unternehmen ist die Rechtsprechung nicht
ganz einfach.

Sie selbst haben Twitter verlassen, weil „Twitter die Verpflichtung, gegen
Fake-Accounts, Desinformation und strafbare [6][Inhalte vorzugehen,
missachtet hat]“, wie sie selbst sagen. Was muss geschehen, damit solche
Unternehmen sich nicht mehr wegducken können.

Wir brauchen schlagkräftige Behörden und kompetentes Personal bei der
Aufsicht, bei Ermittlung, Strafverfolgung und Justiz.

Also brauchen Justiz und Polizei mehr Personal?

Unbedingt. Aber der Fachkräftemangel schlägt auch hier zu Buche.

Was schlagen Sie also vor?

Mit Priorität sollten wir Schwerpunkt-Staatsanwaltschaften und
Online-Wachen ausbauen, an die man sich jederzeit wenden kann, wenn man
strafbare Inhalte anzeigen will.

Dem Kampf gegen Desinformation und Fake News ist auch ein ganzes Kapitel
[7][in der Nationalen Sicherheitsstrategie] gewidmet. Aber nimmt die
Regierung die Bedrohungen aus dem digitalen Raum wirklich ernst genug? Nur
der Haushalt der Bundeswehr soll aufgestockt werden, alle anderen
Ministerien sollen kürzen.

Der Kernhaushalt der Bundeswehr enthält auch Ausgaben für Cyber-Sicherheit.
Die Bundeswehr muss für die Bündnis- und Landesverteidigung besser
ausgestattet werden, doch dafür haben wir ein Sondervermögen eingerichtet.
Gleichzeitig gehören zu einem sozialdemokratischen Sicherheitsbegriff
Friedenssicherung, Krisenprävention und Entwicklungszusammenarbeit.
Gerechtigkeit und Nachhaltigkeit sind bedeutsam, auch um gewaltsame
Konflikte zu vermeiden.

Ist es dann richtig, dass alle Ministerien sparen sollen, nur nicht das
Verteidigungsministerium?

Bislang gibt es nicht mal Eckpunkte. Ohnehin ist der Haushalt Kernkompetenz
des Parlaments. Für uns Sozialdemokrat*innen ist es wichtig, dass
wir den Sicherheitsbegriff hinreichend weit fassen und auch im Haushalt
abbilden.

Auch unsere Kritische Infrastruktur, also Energie, Wasser, Straßen,
Gesundheitswesen, Medien sollen besser geschützt werden. Ein
[8][entsprechendes Kritis-Dachgesetz] von Bundesinnenministerin Nancy
Faeser (SPD) lässt aber noch auf sich warten.

Wenn die Ministerin ein solches Gesetz angekündigt hat, dann wird es auch
kommen.

Nancy Faeser scheint derzeit noch mit [9][der Vorratsdatenspeicherung]
beschäftigt und kämpft für eine anlasslose Speicherung von IP-Adressen. Sie
sind dagegen, plädieren dafür solche Daten erst bei einem konkreten
Verdacht einzufrieren und bei Bedarf aufzutauen. Das will auch
Justizminister Marco Buschmann (FDP). Können Sie als Parteichefin die
Genossin Faeser nicht zur Vernunft bringen?

So, wie Sie das beschreiben, gehen wir nicht miteinander um in der SPD.
Nancy Faeser und ich sind in guten Gesprächen. Die Ministerien werden eine
Lösung finden, die die Balance von Kriminalitätsbekämpfung, den
Bedürfnissen der Behörden und den Freiheitsrechten der Bevölkerung wahrt.
Die Position der SPD ist dabei klar: Wir lehnen die anlasslose und
flächendeckende Speicherung solcher Daten ab.

Falls Nancy Faeser Ministerpräsidentin in Hessen würde – trauen Sie sich
das Amt der Bundesinnenministerin zu?

Ich bin sehr gerne Parteivorsitzende und meine Arbeit erfüllt mich.

3 Jul 2023

## LINKS

(DIR) [1] /Faschismus-durch-kuenstliche-Intelligenz/!5938774
(DIR) [2] /Chatbots-und-Google/!5912238
(DIR) [3] /EU-Parlament-zur-kuenstlichen-Intelligenz/!5937487
(DIR) [4] /Sawsan-Chebli-ueber-Hass-im-Netz/!5931093
(DIR) [5] /Extremismus-im-Internet/!5821838
(DIR) [6] /Verfahren-gegen-Twitter/!5923095
(DIR) [7] /Im-Verfassungsschutzbericht/!5939001
(DIR) [8] /Schutz-von-Kritischer-Infrastruktur/!5896907
(DIR) [9] /Vorratsdatenspeicherung/!5931713

## AUTOREN

(DIR) Anna Lehmann
(DIR) Tanja Tricarico

## TAGS

(DIR) Saskia Esken
(DIR) Schwerpunkt Künstliche Intelligenz
(DIR) Fake News
(DIR) Sicherheitspolitik
(DIR) Bot
(DIR) Nancy Faeser
(DIR) Vorratsdatenspeicherung
(DIR) GNS
(DIR) Hetze
(DIR) Hassrede
(DIR) Infrastruktur
(DIR) Haushalt
(DIR) Mensch-Maschine-Beziehung
(DIR) Faschismus
(DIR) Literatur
(DIR) Gesetz
(DIR) Technologie
(DIR) Schwerpunkt Überwachung

## ARTIKEL ZUM THEMA

(DIR) Rechtes Medienportal „Nius“: Grundprinzip verdrehte Fakten

Das Medienportal „Nius“ bietet rechter Hetze eine Bühne. Es wird finanziert
von einem Milliardär und vereint Julian Reichelt mit Jan Fleischhauer.

(DIR) Beratungsarbeit von HateAid in Gefahr: Kein Geld gegen den Hass

Die Organisation HateAid berät Betroffene von Online-Hass. Sie soll laut
den Haushaltsplänen keine Fördermittel vom Justizministerium mehr bekommen.

(DIR) Gesetzentwurf für kritische Infrastruktur: Kritis kriegen Schutzpanzer

Das Dachgesetz zum Schutz kritischer Infrastruktur soll der große Wurf
werden. Der Entwurf hat jedoch noch Lücken, auch bei der Höhe der
Bußgelder.

(DIR) Entwurf für Bundeshaushalt 2024: 16,6 Milliarden Euro Neuverschuldung

Das Bundeskabinett hat am Mittwoch den Haushaltsentwurf für 2024
verabschiedet. Geplant sind Ausgaben von 445,7 Milliarden Euro.

(DIR) Künstliche Intelligenz: Keine Panik vor KI

Die Angst vor einer vorgeblichen Superintelligenz ist Unsinn – und
verhindert eine Debatte über Gefahren wie die Interessen von Google oder
Amazon.

(DIR) Faschismus durch künstliche Intelligenz: Gesellschaft als Maschine

KI wird zu weniger Arbeitsplätzen führen. Daran müssen wir uns gewöhnen.
Aber eine von Maschinen beherrschte Welt wäre entmenschlicht und
gefährlich.

(DIR) KI in Filmen und Romanen: Die KI versteht dich besser

Was ist die Künstliche Intelligenz? Rationale Bedrohung? Oder
Wunschmaschine? Filme und Romane verwischen die Grenzen zwischen Mensch und
Programm.

(DIR) Regulierung Künstlicher Intelligenz: Weltweit erstes KI-Gesetz

Je riskanter die künstliche Intelligenz, desto mehr Auflagen – darauf
konnte sich das EU-Parlament einigen. Doch einige Punkte bleiben strittig.

(DIR) Macht der künstlichen Intelligenz: Wer profitiert

Die Machtfrage wird bei KI zu verengt gestellt. Es geht nicht nur um den
technologischen, sondern auch um den ökonomischen Aspekt.

(DIR) Debatte im EU-Parlament: Streit um Überwachung mit KI

Kurz vor der Abstimmung über die Regeln für Künstliche Intelligenz gibt es
Streit im EU-Parlament. Es geht um die Frage der Massenüberwachung.