# taz.de -- Künstliche Intelligenz: Der drohende Daten-Kolonialismus
       
       > Künstliche Intelligenz (KI) wird vielfach als Lösung für zahlreiche
       > Probleme gepriesen. Doch die KI ist kein Allheilmittel, warnen Experten.
       
 (IMG) Bild: In der medizinischen Diagnostik können Algorithmen dazu beitragen, tomografische Aufnahmen schneller und besser auszuwerten
       
       Berlin taz | Die Spannung zwischen Gesellschaft und Technik, ihr Nutzen und
       ihr Schaden, prägt derzeit vor allem die Auseinandersetzung um die
       künstliche Intelligenz (KI). Nach einer Anfangsphase des unbeschwerten
       Forschens, nur manchmal gestört durch technische Dystopien einer
       Herrschaft der Rechenmaschinen, ist das Thema inzwischen in der Politik
       angekommen. Aktuell diskutieren sowohl der Deutsche Bundestag als auch das
       Europäische Parlament, welche Leitplanken und Begrenzungen der neuen
       Technik gesetzt werden sollen – Stichwort „Ethische KI“. Wo dies nicht
       geschieht, etwa in China mit seinem System des „Social Scoring“, werden
       die Rechner zum politischen Überwachungsinstrument.
       
       Eine gute Zusammenfassung der KI-Trends und der gesellschaftlichen Reaktion
       gibt jetzt das [1][neue Jahrbuch „Technik im Gespräch: KI in der Praxis“
       (pdf-Datei)], das vom Austrian Institute of Technology (AIT) regelmäßig zu
       den [2][Alpbacher Technologiegesprächen] herausgegeben wird. „Angesichts
       der planetarischen Gefahren und Herausforderungen brauchen wir dringend
       entsprechende technologische Entwicklungen und Innovationen, um diese zu
       bewältigen und weitere Gefahren abzuwehren – damit es nicht, wie Martin
       Rees gemeint hat, unser letztes Jahrhundert wird“, erklärt Herausgeber
       Hannes Androsch in seinem Vorwort.
       
       In der Darstellung wird unterschieden zwischen der Anwendung von
       KI-Methoden in bestimmten Domänen und für spezifische Fragestellungen
       („vertical AI“) und dem Einsatz von [3][Algorithmen,] die in vielen
       Anwendungsbereichen einsetzbar sind („horizontal AI“).
       
       Nach der Statistik gibt es in den USA derzeit 13.700 Organisationen
       (Forschungsinstitute und Unternehmen), die sich mit KI beschäftigen. In
       China sind es 11.400 und in der EU 5.900. Großbritannien wird mit 3.500
       Organisationen gesondert geführt, während Japan mit 1.200 Organisationen
       vergleichsweise wenig zu bieten hat. Im wirtschaftlichen Bereich werden
       KI-Systeme vor allem zur Produktivitätssteigerung eingesetzt (49 Prozent
       bei einer Befragung von 360 Unternehmen für die Studie [4][„Machine
       Learning“ des INFORM DataLab]) vor Kostensenkung (46 Prozent) und besserer
       Qualität (26).
       
       ## Einsatz im Pharmalabor
       
       In der Pharmaforschung hilft KI bei der Entwicklung von neuen
       Medikamenten, etwa gegen antibiotikaresistente Bakterien. So konnte ein
       KI-System, das am Massachusetts Institute of Technology (MIT) mit
       zahlreichen Strukturen von Biomolekülen sowie deren biologischer Wirkung
       gefüttert wurde, eine chemische Struktur als potenziell wirksam
       identifizieren, auf die die menschlichen Experten nie gekommen wären.
       Versuche im Labor und in der Klinik führten dann zu einem völlig neuartigen
       Antibiotikum, dessen Hauptsubstanz „Halicin“ getauft wurde – in Anlehnung
       an „HAL“, den legendären Supercomputer mit menschlichen Empfindungen aus
       dem Film „2001: Odyssee im Weltraum“.
       
       Auch in Fachrichtungen, von denen man es nicht erwarten würde, hält KI
       Einzug. So zum Beispiel im Spezialgebiet der Epigrafik des Altgriechischen,
       das mit Texten auf Steinen und Gefäßen arbeitet. Von ihnen sind häufig nur
       Fragmente über die Jahrtausende erhalten geblieben, die dann auch längere
       Transporte hinter sich hatten. Ein internationales Forscherkonsortium hat
       dafür die KI-Anwendung „Ithaca“ entwickelt, bei dem es sich um ein „tiefes
       neuronales Netzwerk“ handelt, das die gleichzeitige textliche
       Restaurierung, geografische Zuordnung und chronologische Zuweisung von
       altgriechischen Inschriften ermöglicht.
       
       Sein Wissen schöpft Ithaca aus der Auswertung von 78.000 Inschriften, die
       mit Metadaten über den Ort (84 Regionen) und die Zeit ihrer Anfertigung
       (zwischen 800 vor und 800 nach Christus) verknüpft wurden. Bei Eingabe
       neuer Text-Fragmente schlägt Ithaca eine Ergänzung der fehlenden Zeichen,
       einen Entstehungsort und eine Entstehungszeit vor. Nach den bisherigen
       Erfahrungen arbeitet das KI-System bei der Standortzuordnung mit einer
       Genauigkeit von 71 Prozent und beim Entstehungszeitpunkt der Texte mit
       einer Bandbreite von weniger als 30 Jahren. Auf diese Weise können
       Schlüsseltexte des klassischen Griechenlands neu gelesen und datiert
       werden.
       
       Aber es gibt auch Grenzen für den Einsatz von KI. „Man sollte nicht jede
       neue Methode als Allheilmittel betrachten“, gießt Andreas Kugi, Professor
       für komplexe dynamische Systeme an der TU Wien, ein wenig Wasser in den
       Wein des Technikoptimismus. „Bei Automatisierungslösungen bin ich kein
       Vertreter des starken End-to-End-Learnings, bei dem man vorne Daten
       hineinfüttert und erwartet, dass man am Ausgang alles herausbekommt, was
       man möchte“, gibt er Erfahrungen aus seinem Institut für Automatisierungs-
       und Regelungstechnik wieder.
       
       „Unser Ansatz besteht eher darin, dass wir möglichst viel A-priori-Wissen
       und spezifisches Domänen-Wissen in den Lernprozess mit einfließen lassen.“
       Konkret bedeutet das, die klassischen Automatisierungsmethoden mit
       physikalisch basierten, mathematischen Modellen und modernen Methoden des
       maschinellen Lernens zu kombinieren. Auf diese Weise lasse sich etwa die
       Bewegung eines Roboters optimieren. Während die Gelenksgeschwindigkeiten
       des stählernen Arbeiters vorprogrammiert sind, bleiben nach den Worten von
       Kugi „für die Modellierung der Umgebung aber moderne Verfahren des
       maschinellen Lernens unabdingbar“.
       
       Die maschinelle „Intelligenz“ kann aber auch ausgesprochen dumm sein. Das
       führte in den USA zu einer heftigen [5][Debatte über Diskriminierung durch
       KI.] Nachdem es Berichte über Fehlleistungen von KI-Systemen – etwa in
       sexistischen Jobeinstellungspraktiken oder rassistischen Polizeiaktionen –
       gab, stellte sich heraus, dass die Trainingsdaten für solche KI-Systeme
       systematisch verzerrt waren. Sie wurden überwiegend optimiert mit den Daten
       von weißen Männern, eben der Gruppe der IT-Programmierer, während Frauen
       und People of Color in dieser berechneten KI-Gesellschaft nur randständig
       vorkamen.
       
       „Die Unterrepräsentation von Frauen und People of Color in der Technologie
       und die Untererfassung dieser Gruppen in den Daten, die die KI formen, hat
       zur Entwicklung von Technologien geführt, die für einen kleinen Teil der
       Welt optimiert sind“, kritisierte die amerikanische Aktivistin Joy
       Buolamwini im Namen der von ihr gegründeten [6][„Algorithmic Justice
       League“].
       
       Inzwischen dreht sich die internationale Diskussion weiter und greift
       Vorwürfe eines „neuen Kolonialismus“ auf. In den Augen dieser Kritiker
       wiederholen sich in der aktuellen, vor allem von großen Datenkonzernen
       getriebenen Entwicklung der KI die „Muster aus dem historischen
       Kolonialismus“. Sprich: die Dominanz westlicher Industrieländer über den
       Globalen Süden. Konkret reiche dieser negative Einfluss „von der Ausbeutung
       von Arbeitskräften bis hin zur massenhaften Extraktion von Daten aus
       Ländern mit schwachem Datenschutz“, so die Kritiker.
       
       Auf der Website der MIT Technology Review wurden zahlreiche konkrete
       Beispiele dafür angeführt, die das Alpbach-Jahrbuch zusammenfasst:
       „Beginnend bei der Rekrutierung von Fachkräften durch
       US-Daten-Labelling-Firmen zu minimalsten Löhnen im krisengeschüttelten
       Venezuela bis hin zu einer neuen digitalen sozialen Kluft zwischen Weiß und
       Schwarz in Südafrika (digital apartheid)“.
       
       Eine bessere Welt durch KI? So einfach dürfte es wahrscheinlich nicht
       werden. Denn viele gesellschaftliche Konflikte und Problemlagen lassen sich
       nicht mit verbesserter Rechnerei beilegen.
       
       3 Oct 2022
       
       ## LINKS
       
 (DIR) [1] https://www.ait.ac.at/fileadmin/cmc/downloads/News/efatec22/TG2022-Book-165x240-SCR.pdf
 (DIR) [2] /Ressourcenschutz-ausweiten/!5875199
 (DIR) [3] /Verbraucherschuetzerin-ueber-Digital-Gesetze/!5826301
 (DIR) [4] https://info.inform-datalab.de/machine-learning-studie?utm_term=studie%20machine%20learning&utm_campaign=DACH+-+Datalab+-+Search+ML+Studie&utm_source=adwords&utm_medium=ppc&hsa_acc=2212182829&hsa_cam=13984492486&hsa_grp=125285811259&hsa_ad=535100111917&hsa_src=g&hsa_tgt=kwd-478022737577&hsa_kw=studie%20machine%20learning&hsa_mt=p&hsa_net=adwords&hsa_ver=3&gclid=EAIaIQobChMIm8f-prG6-gIVl9J3Ch1txQwGEAAYAiAAEgLbk_D_BwE
 (DIR) [5] /Gesichtserkennung-in-der-Kritik/!5547535
 (DIR) [6] https://www.ajl.org/
       
       ## AUTOREN
       
 (DIR) Manfred Ronzheimer
       
       ## TAGS
       
 (DIR) Schwerpunkt Rassismus
 (DIR) Diskriminierung
 (DIR) Digitalisierung
 (DIR) Algorithmen
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) Big Tech
 (DIR) Unternehmen
 (DIR) Bot
 (DIR) Datenschutzabkommen
 (DIR) Algorithmen
 (DIR) Lesestück Recherche und Reportage
 (DIR) Pentagon
       
       ## ARTIKEL ZUM THEMA
       
 (DIR) Dekolonialisierung von KI: Die Bots sollen indigene Sprachen lernen
       
       Chile hat ein KI-Sprachmodell entwickelt, das lokale Sprachen und Kulturen
       berücksichtigt. Doch Big Tech bedroht die technologische Unabhängigkeit.
       
 (DIR) Künstliche Intelligenz: Faktenfreiheit zum Mitnehmen, bitte
       
       Algorithmen und Moral haben auf den ersten Blick wenig gemeinsam. Doch der
       gehypte Chatbot GPT zeigt, wie gefährlich es ist, die Ethik zu vergessen.
       
 (DIR) Künstliche Intelligenz via ChatGPT: Alles verändert?
       
       Eine KI, die für uns Texte schreibt? Klingt toll. Und ist inzwischen
       Wirklichkeit. ChatGPT ist lustig, eloquent – und gefährlich.
       
 (DIR) Datenschutzabkommen zwischen EU und USA: Kalkuliertes Scheitern
       
       Washington und Brüssel verhandeln darüber, wie viele Daten US-Plattformen
       aus Europa sammeln dürfen. Die Nutzer:innenrechte? Nebensache.
       
 (DIR) Automatisierung im Alltag: Rettet Künstliche Intelligenz die Welt?
       
       Die Bundesregierung hat sich zur Künstlichen Intelligenz viel vorgenommen.
       Nun startet der Digitalgipfel.
       
 (DIR) Gesichtserkennung in der Kritik: Diskriminierende Algorithmen
       
       KI-Programme erobern immer mehr Bereiche unseres Lebens. In der Regel
       wissen wir nicht, nach welchen Kriterien sie Entscheidungen treffen.
       
 (DIR) Nachruf auf Marvin Minsky: Der Uropa künstlicher Intelligenz
       
       Vom menschlichen Verstand hielt er nicht viel. Marvin Minsky brachte
       Maschinen das Lernen bei – und wurde zum Wegbereiter künstlicher
       Intelligenz.