# taz.de -- Mads Pankow über KI: Willkommen in der neuen Mittelmäßigkeit
       
       > Was bedeutet „Wahrheit“? Werden Algorithmen bald Gerichtsurteile fällen?
       > Mads Pankow denkt in „Die wahrscheinliche Wahrheit“ über die
       > Langzeitfolgen von KI nach.
       
 (IMG) Bild: Überwachung mit Künstlicher Intelligenz: zwischen Wahrheit und Racial Profiling
       
       Furchtbar beunruhigend ist diese Gegenwart, viele Krisen spitzen sich
       gleichzeitig zu – Kriege, Klima, Kostenexplosionen. Und als ob die
       Menschheit nicht schon genug Probleme hätte, ist sie nun auch noch mit
       einer Frage konfrontiert, die heftig an ihrer Existenzgrundlage rüttelt:
       Welche Rolle spielt der Mensch überhaupt noch, in der KI-Ära? Wie viel wird
       er künftig noch selbst denken, herausfinden, entscheiden, was wird ihm bloß
       vorgekaut? [1][Und vor allem: von wem?]
       
       Mitten hinein in den – nur gefühlten oder doch realen? – Machtkampf
       zwischen Mensch und Maschine platzt nun ein Buch, dessen Titel auf den
       ersten Blick erstaunlich gelassen klingt: „Die wahrscheinliche Wahrheit.
       Wie KI unsere Wirklichkeit, Moral und Gesellschaft neu berechnet“.
       Geschrieben hat es Mads Pankow, Organisationswissenschaftler, Publizist und
       Gastgeber [2][des Podcasts „Mensch, Maschine!“]
       
       Betrachtet man den Titel genauer, klingt ein gewisser Kulturpessimismus
       durch: Wenn KI sich jetzt auch noch in das urmenschliche Feld „Moral“
       einmischt, wird es wohl wirklich finster. Da klingt die berühmte
       Antiquiertheit des Menschen an, die der technikkritische Philosoph Günther
       Anders schon vor siebzig Jahren aufziehen sah.
       
       Doch ein raunender Miesepeter will Mads Pankow nicht sein, und so schwingt
       er sich im Laufe seiner vielschichtigen Überlegungen immer wieder zu
       verhaltener Zuversicht auf: „Wir dürfen guter Hoffnung sein. Wir werden es
       überstehen. Und wir sind bereits auf dem Weg“, heißt es gen Ende seines
       Buches.
       
       Von apokalyptischem Alarmismus also keine Spur, von naivem
       Fortschrittsjubel auch nicht. In aufklärerischer Unaufgeregtheit vergleicht
       der Autor Erkenntnisse und Argumente, wägt ab, schlägt vor, äußert Zweifel,
       verwirft die Zweifel wieder und wirft neue auf. Pankows Überlegungen
       vibrieren nur so vor Ambivalenz, was sein Buch zu einer angenehm uneitlen
       und philosophisch reizvollen Lektüre macht.
       
       Beinahe täglich erscheinen neue Meldungen zu den Auswirkungen von KI aufs
       menschliche Gemüt und Verhalten, Pankow zieht den Zoom nun noch mal etwas
       weiter auf und betrachtet die Sache aus politisch-philosophischer
       Perspektive: Wie verändern KI-gesteuerte Spielregeln langfristig die
       Vergesellschaftung der Menschen? Dass er mit dieser Fragestellung
       keineswegs ins Blaue stochert, zeigt sich längst in der Realität, nicht nur
       in China, wo das Verhalten der Bevölkerung mit KI-basierten „Social
       Scoring“-Methoden erfasst wird. Hierzulande hat das
       Bundesforschungsministerium 2020 probeweise einen ähnlichen Zukunftsentwurf
       entwickeln lassen, ein „Bonussystem, das solidarisches und ökologisch
       nachhaltiges Verhalten fördert“, wie Pankow schreibt.
       
       Jüngst machte das sogenannte Silicon Sampling Schlagzeilen: politische
       Meinungsforschung, die mit „synthetischen Stichproben“ experimentiert –
       statt Menschen werden KI-Modelle nach ihren Ansichten befragt.
       
       ## Mit der Wahrheit ist es so eine Sache
       
       Im Mittelpunkt von Pankows Überlegungen steht der Wahrheitsbegriff.
       Geschult an den Finessen der Diskurs- und Systemtheorie zeigt er auf, dass
       die sagenumwobene Wahrheit zu keinem Zeitpunkt etwas Absolutes,
       Unabänderliches war, sondern stets etwas Menschengemachtes: der kleinste
       gemeinsame Nenner, in dem die vorherrschenden Vorstellungen von
       Wirklichkeit und Sinnhaftigkeit zu einem Basiskonsens gerinnen – zur
       Geschäftsgrundlage für alles Weitere.
       
       Immer wieder wurde Wahrheit neu „hergestellt“ und „organisiert“, und laut
       Pankow gaben die jeweiligen Medien dabei den Ausschlag, also die
       Kommunikationswege, die den Menschen zur Verfügung standen. Auf die oralen
       Gesellschaften der Frühzeit folgte die Schrift- und schließlich die
       Buchdruckgesellschaft. In ihr erblühten die Aufklärung und die
       Wissenschaften – und damit auch die abstrakten Argumente, kausalen Logiken
       und überprüfbaren Erklärungen, die unsere Wahrheitsauffassung bis heute
       prägen. Besser gesagt: bis gerade eben noch geprägt haben.
       
       Denn inzwischen sei künstliche Intelligenz das „Medium“, das den
       Wahrheitsbegriff neu kalibriere, argumentiert Pankow. Mit den von
       Algorithmen gesteuerten sozialen Medien ging es los. Sie böten keine
       „kollektive Perspektive“ auf die Welt, sondern bloß einen „endlosen Strom
       individuell kuratierter Affekte“, schreibt Pankow. Heraus komme eine
       diffuse Masse „gefühlter Wahrheiten“, also das, was der von Donald Trump
       gehasste Komiker Stephen Colbert „Truthiness“ nennt und was andere als
       „postfaktische Ära“ bezeichnen.
       
       Zurückdrehen lasse sich diese „Zerstückelung und Emotionalisierung der
       Weltwahrnehmung“ wohl kaum, meint Pankow – und bringt als potenzielles
       Gegengift wieder Algorithmen ins Spiel.
       
       Sogenannte Sprachmodelle wie ChatGPT und Claude operieren allein mit
       statistischen Wahrscheinlichkeiten, sie sind leidenschaftslose
       „probalistische Maschinen“, die zwischen Fake und Fakten nicht
       unterscheiden können. Ihnen gelingt laut Pankow aber, „die Vielfalt der
       faktischen Zusammenhänge in der Welt zu erkennen und zu verarbeiten“ und
       aus unterschiedlichen Perspektiven und Fachbereichen ein
       „multidimensionales Wissensgewebe“ aus „wahrscheinlichen Wahrheiten“ zu
       erstellen.
       
       Die Ergebnisse seien „selten brillant oder originell“. Abgebildet werde
       lediglich „das Mittelmaß von menschlichen Beschreibungen der Welt“ – eine
       „mittelmäßige Wahrheit“. Doch gerade diese ist laut Pankow „für viele
       Menschen anschlussfähig und praktisch nützlich“. Von einem Spagat zwischen
       der Vielfalt individueller Perspektiven und dem Wunsch nach
       gemeinschaftlicher Orientierung in einer immer komplexeren Welt schreibt
       er. Der Vernunftmensch, der an den Errungenschaften der aufklärerischen
       Wahrheit hängt, runzelt unweigerlich die Stirn: Was ist mit Vorurteilen und
       Verschwörungstheorien? Was mit den Tausenden alten Büchern, die KI-Firmen
       gerade hektisch aus Antiquariaten aufkaufen, um ihre Maschinen damit zu
       füttern: Sollen Texte aus vergangenen Jahrhunderten, die gespickt sind mit
       den Rassismen und Geschlechterklischees ihrer Zeit, auch in die
       „mittelmäßige Wahrheit“ der Zukunft einfließen?
       
       Nein, sagt Pankow, an bestimmten Stellen müsse der Mensch weiterhin
       eingreifen. Für mehr „menschliche Kontrollgremien“ plädiert er, im
       Idealfall wären sie auf demokratischem Wege bestimmt. Den
       Open-Source-Gedanken bringt er ins Spiel, das Wikipedia-Prinzip und
       „Bürgerinnen- und Bürgerräte“. Das alles weckt Erinnerungen an die „liquid
       democracy“-Fantasie, einen politischen Rohrkrepierer, mit dem die
       Piratenpartei sich vor anderthalb Jahrzehnten mal blamiert hat.
       
       Die Macht der Big-Tech-Firmen wächst seither so gut wie ungebremst weiter,
       und an allen Ecken der Welt bilden sich neue autoritäre Strukturen heraus.
       Für Diktaturen wäre KI noch sehr viel brauchbarer als für Demokratien. Über
       „Künstliche Intelligenz und Faschismus“ denkt aktuell etwa der Philosoph
       Rainer Mühlhoff nach, in einem schmalen Reclam-Bändchen. Mads Pankow bleibt
       eher vage an diesem heiklen Punkt. Das ist eine Schwäche seines Buches.
       
       Stark sind seine Überlegungen dennoch, und zwar in anderer Hinsicht: Die
       von KI berechnete „statistische“ oder „wahrscheinliche Wahrheit“ bestimmt
       schon heute die Gesellschaftsorganisation in Dutzenden Bereichen, wie
       Pankow mit zahlreichen, teils überraschenden Beispielen aufzeigt.
       Krankenversicherungen, die abstrakte „Risikoraten“ je nach Alter und
       Lebenswandel ihrer Kundschaft erstellen, Polizeiermittlungen, die sich auf
       die Wahrscheinlichkeitswerte des „Profilings“ stützen: Nach Pankows
       Einschätzung ist die alte „regel- und argumentbasierte Ordnung“ längst in
       Auflösung begriffen und wird schon bald in eine „wahrscheinliche
       Gesellschaft“ münden, in der Rechenmodelle, Prognosen, Skalen das Denken
       und Handeln bestimmen – kühle Effizienzerwägungen statt mühsam
       aufklärerisch abgewogener Pros und Contras.
       
       Wenn es so weitergeht, wäre eine neue soziale Ordnung früher oder später
       die Folge, schließt Pankow, und diese neue Ordnung wäre bestimmt von einer
       „Moral ohne feste Werte, die sich allein am Einzelfall entscheidet und aus
       einer Summe subjektiver Bewertungen speist“. Umso wichtiger wäre es, dass
       der Mensch sich schnellstmöglich taugliche Regeln fürs Zusammenleben mit
       und unter der Regie von künstlicher Intelligenz überlegt, mahnt er. Sollen
       Algorithmen zum Beispiel zu „Gerechtigkeitsmaschinen“ werden und
       menschliche Richterinnen und Richter ersetzen? Schon jetzt laufen
       Planspiele in diese Richtung.
       
       Wollen wir das? Das fragt Pankow seine Leserinnen und Leser zwischen den
       Zeilen immer wieder.
       
       Eindeutige Antworten gibt er nicht vor. Eben diese nachdenkliche Offenheit
       ist die Stärke seines Buches. Der Autor ist eben kein allwissend tuender
       Algorithmus – sondern ein Mensch, der genauso unsicher und bang in die
       ungewisse Zukunft blickt wie alle anderen auch. Eine Menge intelligenten
       Nachdenkstoff hat er zusammengetragen. Eine Patentlösung ist nicht dabei.
       
       3 Oct 2026
       
       ## LINKS
       
 (DIR) [1] /KI-Forscherin-Theresa-Zueger/!6208301
 (DIR) [2] https://menschmaschine.podigee.io/about
       
       ## AUTOREN
       
 (DIR) Katja Kullmann
       
       ## TAGS
       
 (DIR) literataz
 (DIR) Schwerpunkt Frankfurter Buchmesse 
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) Kolumne Starke Gefühle
       
       ## ARTIKEL ZUM THEMA
       
 (DIR) Anthropics Ablenkungsmanöver: Ja, KI wird uns alle töten. Aber anders, als ihr denkt
       
       Die Tech Bros behaupten, dass die KI die Menschheit auslöschen könnte. So
       eine lächerliche Behauptung! Die Bedrohung ist viel unmittelbarer.
       
 (DIR) Regeln für Hochschulprüfungen: Die künstliche Intelligenz schreibt sowieso mit
       
       Nur wenige Unis haben klare Regeln für den Umgang mit Sprachmodellen. In
       zwei Fällen musste schon ein Gericht ran.
       
 (DIR) Alternativer Nobelpreis: Kämpferin für eine bessere Technologie
       
       Künstliche Intelligenz muss nicht konzernorientiert sein, findet die
       Informatikerin Timnit Gebru. Die Preisträgerin will die Technologie
       alternativ denken.
       
 (DIR) Buchpreis 2024: Wer nominiert ist
       
       Kurz vor Eröffnung der Frankfurter Buchmesse wird der Buchpreis verliehen.
       Sechs Autor*innen sind nominiert. Die taz hat ihre Werke rezensiert.