taz.de

# taz.de -- Falschinformationen vor US-Zwischenwahl: „Meine größte Sorge ist die Spaltung darüber, was als Fakt gilt“

> Welche Rolle spielt Desinformation vor den Midterm-Wahlen in den USA?
> Social-Media-Forscherin Renée DiResta über verlorenes Vertrauen,
> identitätsstiftende Influencer und KI.

(IMG) Bild: 7. November 2020: Diese Familie wollte Joe Bidens Sieg bei der US-Präsidentschaftswahl nicht hinnehmen

taz: Frau DiResta, Sie haben jahrelang im Stanford Internet Observatory
Desinformation und Propaganda in der Politik untersucht. Das Institut wurde
auf Druck von Washington geschlossen. Wie ist das passiert?

Renée DiResta: Es ging bei unserer Arbeit um die Integrität von Wahlen. Wir
haben die Wahlen 2020 und 2022 beobachtet und über unsere Erkenntnisse
berichtet. Das wurde dann zunächst von einem Mann namens Mike Benz als
Zensurkomplott gegen rechte Stimmen dargestellt. Benz war Mitarbeiter der
Trump-Regierung und [1][leugnete das Ergebnis der Wahl von 2020]. Außerdem
informierte er republikanische Kongressabgeordnete, von denen er erwarten
konnte, dass sie diesen Anschuldigungen gegenüber aufgeschlossen sind.
Nachdem die Republikaner im November 2022 dann die Mehrheit im
Repräsentantenhaus gewonnen hatten, begannen sie gegen uns zu ermitteln. Es
gab eine Anhörung im Kongress, und einige Tage später erhielten wir einen
Brief, in dem wir aufgefordert wurden, unsere E-Mails der Regierung zur
Verfügung zu stellen. Gleichzeitig wurden wir von America First Legal
verklagt, der von Stephen Miller gegründeten, rechtsgerichteten
juristischen Organisation. Danach wurde unsere Organisation schrittweise
abgewickelt.

taz: Sie haben über Ihre Erkenntnisse aus dem Projekt und über diese
Vorfälle ein Buch geschrieben. Zentrale These des Buches ist, dass
Desinformation aus dem Zusammenspiel von Influencern, Algorithmen und der
Crowd (dem Publikum) entsteht. Wie wirken diese drei Elemente zusammen?

DiResta: Man kann diese Elemente nicht isoliert betrachten. [2][Influencer
wie etwa Trump oder Musk haben eine große Anhängerschaft.] Ihre Inhalte
richten sich sowohl an diese Anhängerschaft – also an die Crowd – als auch
an den Algorithmus. Wenn du beispielsweise etwas auf Instagram
veröffentlichst, das deine Zielgruppe eigentlich lieben müsste, es aber
nicht so aufbereitest, dass der Algorithmus es bevorzugt ausspielt, wird es
kaum jemand sehen. Die eigenen Inhalte werden außerdem den Followern
zunehmend nicht mehr automatisch angezeigt. Stattdessen konkurrieren sie
mit allen anderen potenziell passenden Inhalten – den sogenannten nicht
verknüpften Inhalten –, um in den Feeds der NutzerInnen aufzutauchen. Diese
Inhalte machen mittlerweile 40 Prozent dessen aus, was Sie in Ihrem Feed
sehen. Der Algorithmus wiederum orientiert sich daran, wie die Crowd auf
Inhalte reagiert. Wenn ein Beitrag ausgespielt wird, ist entscheidend, wie
viel Aufmerksamkeit er in der ersten Stunde erhält. Davon hängt ab, ob er
noch mehr Menschen gezeigt wird. Der Algorithmus ist also auf Rückmeldungen
der Crowd angewiesen. Gleichzeitig entscheidet der Algorithmus darüber, ob
die Inhalte eines Influencers überhaupt sichtbar werden. Schließlich
beeinflusst die Crowd selbst die Influencer. Die Crowd kann Druck ausüben:
Warum sprichst du nicht über Gaza? Warum hast du diese Meinung geäußert?
Dieses Phänomen nennt man „Audience Capture“: Die Crowd kann beeinflussen,
worüber ein Influencer schreibt und spricht, weil dieser Angst hat, seine
Anhängerschaft zu verlieren.

taz: Als Sie in Stanford waren, hatte Ihr Team Desinformation markiert und
die Plattformen darüber informiert. Diese reagierten dann darauf – oder
eben nicht. Wie war die Resonanz?

DiResta: In unserem Bericht steht, dass die Plattformen in 60 Prozent der
Fälle nichts unternahmen. Das war also nicht besonders wirkungsvoll.

taz: Verfügen die Plattformen überhaupt noch über wirksame Mechanismen, um
Desinformation in ihren eigenen Ökosystemen zu bekämpfen und Inhalte zu
moderieren?

DiResta: Es gibt durchaus noch interne Teams für die Integrität von Wahlen.
Ihre Aufgabe ist es, dafür zu sorgen, dass Beiträge, die gegen die
jeweiligen Richtlinien verstoßen, nicht viral gehen. Meistens werden solche
Beiträge markiert. Wenn Inhalte tatsächlich entfernt werden, handelte es
sich überwiegend um Betrugsversuche oder Androhungen von Gewalt – zum
Beispiel im Vorfeld des [3][6. Januar]. Mein Team hat zwar nicht gezielt
zum 6. Januar geforscht, wir haben allerdings untersucht, welche der von
uns gemeldeten Inhalte entfernt wurden. Es waren etwa 10 Prozent. Bei den
entfernten Inhalten handelte es sich vor allem um Identitätsmissbrauch,
Betrugs- und Phishingversuche. Beiträge von Menschen, die behaupteten, die
Wahl sei manipuliert worden, wurden nur selten gelöscht.

taz: Die Lüge über die angeblich gestohlene Wahl war vermutlich die
folgenreichste Desinformation der vergangenen Wahlzyklen. Was sind Ihrer
Ansicht nach die gefährlichsten Falschinformationen, die den aktuellen
Zwischenwahlkampf beeinflussen?

DiResta: Das ist eine interessante Frage. Ich betreibe auf X inzwischen
einen Bot, der Community Notes verfasst – ein nutzerbasiertes System zur
Selbstkontrolle. Im vergangenen Jahr wurde dieses Programm für KI-gestützte
Autoren geöffnet. Dieses Jahr beschloss ich, selbst einen solchen Bot zu
bauen. Warum ich das mit Ihrer Frage verbinde: Ich kann jetzt sehen, welche
Korrekturen angefordert werden – was Nutzer melden und worüber sie eine
Richtigstellung wünschen. Es ist meist ziemlich vorhersehbar. Die Details
ändern sich, aber die grundlegenden Erzählmuster bleiben gleich. Ich
bekomme beispielsweise viele Anfragen zu angeblich illegalen Stimmen von
Einwanderern ohne Aufenthaltsstatus. Andere drehen sich um die
vermeintliche Unsicherheit von Wahlen wegen Briefwahl. In der vergangenen
Woche gab es viele Anfragen zu James Talarico und seiner angeblichen
Einweisung in eine psychiatrische Einrichtung. Neben der Frage, welche
Themen den Menschen wichtig sind und welche Gerüchte verbreitet werden,
zeigt sich dabei vor allem, dass selbst sehr solide Korrekturen häufig
abgewertet werden. Man kann etwa Informationen einer staatlichen Stelle
vorlegen oder offizielle Statistiken zu illegalen Stimmen. Trotzdem
bewerten andere Nutzer die Korrektur negativ. Sie sagen, es handle sich um
eine Meinung, die Quelle sei nicht zuverlässig genug oder die Informationen
seien unvollständig. Mich hat überrascht, wie häufig die Debatte letztlich
darum geht, was überhaupt als Tatsache gilt. Ich habe deshalb keine
konkrete Antwort darauf, welches einzelne Gerücht die größte
Falschinformation darstellt. Meine größte Sorge ist die enorme Spaltung der
Öffentlichkeit darüber, was als Fakt gilt und welche Quellen oder Belege
als akzeptabel angesehen werden.

taz: Sie sagen, die häufigsten Falschinformationen seien weitgehend immun
gegen Korrekturen durch staatliche Stellen, traditionelle Medien oder
Faktenprüfer. Gibt es überhaupt noch wirksame Möglichkeiten, Desinformation
und Propaganda zu bekämpfen?

DiResta: Wenn das Publikum dem Absender vertraut, ist es für Korrekturen
empfänglich. Das Problem ist, dass dieses Vertrauen oft zerbrochen ist.
Wenn Menschen den Institutionen misstrauen, die Korrekturen anbieten, sind
Widerlegungen und Faktenchecks wirkungslos. Deshalb argumentiere ich in
meinem Buch, dass wir mehr brauchen als Faktenchecks. Wir brauchen
glaubwürdige Kommunikatoren, die Beziehungen innerhalb von Communitys
aufbauen, Medienkompetenz, die Menschen dabei hilft, wiederkehrende
Gerüchte und Propagandatechniken zu erkennen, und Plattformen, die
Sensationslust und Empörung nicht ständig belohnen.

taz: Sie schreiben in Ihrem Buch über die Psychologie von Gerüchten und
Desinformation. Welche menschlichen Impulse sprechen Influencer und
Algorithmen an?

DiResta: Identität. Zugehörigkeit. Kameradschaft. Das Gefühl, für dieselbe
Sache einzutreten. Menschen wollen das Gefühl haben, Teil von etwas
Sinnvollem zu sein und etwas zu wissen, das anderen verborgen bleibt.
Gerüchte laden zur Beteiligung ein: Menschen teilen Geschichten,
untersuchen vermeintliche Beweise, verbinden einzelne Punkte miteinander
und versuchen gemeinsam, die Ereignisse zu verstehen. Algorithmische
Verstärkung und Kuratierung haben diesen uralten menschlichen Prozess enorm
beschleunigt. Influencer geben den Menschen eine Geschichte, für die sie
sich begeistern können, und vermitteln ihnen ein Gemeinschaftsgefühl.
Dieses Gefühl, beteiligt zu sein, ist belohnend. Man konsumiert eine
Geschichte nicht mehr nur, sondern hilft dabei, dafür zu sorgen, dass
andere Menschen ebenfalls die „Wahrheit“ erfahren.

taz: In diesem Wahlkampf spielt KI eine immense Rolle. Wie hat sie das
Zusammenspiel von Influencern, Algorithmen und Crowd verändert? Hat sie die
Bekämpfung von Desinformation unendlich viel schwieriger gemacht?

DiResta: KI hat das Zusammenspiel von Influencern, Algorithmen und Crowd
nicht grundlegend verändert, wohl aber die ökonomischen Bedingungen. Die
Technologie ist inzwischen sehr, sehr leistungsfähig. Es ist ausgesprochen
schwer geworden, zu erkennen, was echt ist. Zugleich ist die Produktion
solcher Inhalte billig, weshalb es viel mehr davon gibt. Ihre Überprüfung
wird hingegen immer aufwendiger. Desinformation zu bekämpfen lohnt sich
schlicht nicht mehr.

2 Nov 2026

## LINKS

(DIR) [1] /US-Praesident-und-Legitimitaet-der-US-Wahlen/!5716596
(DIR) [2] /Politik-auf-Social-Media/!6111258
(DIR) [3] /Drei-Jahre-nach-Sturm-aufs-Kapitol/!5982050

## AUTOREN

(DIR) Sebastian Moll

## TAGS

(DIR) Schwerpunkt USA unter Trump
(DIR) Midterms
(DIR) Big Tech
(DIR) Desinformation
(DIR) Propaganda
(DIR) Social Media
(DIR) GNS
(DIR) Reden wir darüber

## ARTIKEL ZUM THEMA

(DIR) Vor den US-Midterms: Was macht Trump, falls er die Wahlen verliert?

Auch wenn die US-Demokraten die Kongresswahlen gewinnen, können die
Republikaner das sabotieren. Manche Tricks sind illegal – manche schlicht
bizarr.

(DIR) Midterm Elections: Wer? Wann? Was? Wie?

Die Zwischenwahlen am 3. November können entscheidend sein für die Zukunft
der USA. Aber was passiert da genau und worauf kommt es an? Ein Überblick.

(DIR) Politik auf Social Media: Die Supermacht der Influencer

Der erschossene Podcaster Charlie Kirk war einer der engsten
Trump-Vertrauten. Doch nicht nur in den USA gewinnen Social-Media-Stars an
politischem Einfluss.