# taz.de -- Juristin über KI und Migration: „Was an den Grenzen passiert, bleibt nicht dort“
       
       > Weltweit überwachen Staaten ihre Grenzen mit neuen Technologien. Die
       > Juristin Petra Molnar warnt vor den Folgen.
       
 (IMG) Bild: Grenze zwischen den USA und Mexiko: Ein Grenzpatrouillenfahrzeug fährt entlang der Grenzmauer auf der US-Seite
       
       taz: Frau Molnar, Sie warnen auch mit Blick auf die kommende
       Trump-Präsidentschaft vor „hochriskanten und unregulierten
       Grenztechnologien“, die Folgen für „jeden Aspekt der Migration“ haben.
       Womit ist zu rechnen? 
       
       Petra Molnar: Wir leben in einer Welt, die sehr diskriminierend und
       ausgrenzend ist, wenn es darum geht, wer mobil sein darf und wer nicht.
       Technologie verschärft diese Unterschiede. Es gibt eine schockierende
       Bereitschaft von Staaten, den Grenzschutz mit Technologie zu
       externalisieren und zu militarisieren, ohne dass man darüber spricht, was
       das vor Ort bewirkt und welche Auswirkungen es auf die Menschenrechte hat.
       
       taz: Vor einigen Jahren warnten Menschenrechtler:innen vor einer
       Migrationsabwehr mit Satelliten, Biometriescannern, Radar, Drohnen. Sie
       haben ein Buch über die nächste Generation der Grenzschutz-Technologien
       geschrieben. Wie sieht die aus? 
       
       Molnar: Die Nutzung und Entwicklung neuer Grenzschutz-Technologien wird
       exponenziell gesteigert. Die Biometrie in Flüchtlingslagern etwa haben die
       UN in Kenia und Jordanien vorangetrieben. Es gibt immer mehr automatisierte
       Überwachung durch experimentelle Projekte wie Roboterhunde, die zuerst 2022
       an der Grenze zwischen den USA und Mexiko getestet wurden. Die EU hat
       Roboter namens Roborder, KI-Lügendetektoren und Software zur
       automatisierten Stimmerkennung getestet.
       
       taz: Wie funktionieren solche Projekte? 
       
       Molnar: Eines dieser Projekte ist iBorderCtrl. Die KI in Form eines Avatars
       soll Gesichter und Emotionen erkennen und damit feststellen, ob jemand bei
       der Einreise lügt. Es wurden Fragen gestellt, um herauszufinden, ob jemand
       vorhat, Asyl zu beantragen, oder ob es Sicherheitsrisiken gibt. Auf
       Grundlage der Interaktion wird eine Risikobewertung formuliert – etwa, weil
       die Person keinen Augenkontakt hergestellt hat, wie es bei Ehrlichkeit zu
       erwarten wäre. Dann wird eine Warnung im Profil der Person hinterlegt.
       
       taz: Wie zuverlässig ist so ein System? 
       
       Molnar: Ich habe in Kanada Flüchtlinge bei Anhörungen vor Gericht als
       Anwältin vertreten und gesehen, wie Richter etwa reagierten, wenn jemand
       keinen Augenkontakt herstellte. Die Richter, also menschliche
       Entscheidungsträger, konnten sich teils nicht vorstellen, dass das
       vielleicht an der Religion, eigenen Erfahrungen, den Nerven, an Traumata
       liegt. Oder daran, dass wir Geschichten ohnehin nicht linear erzählen,
       geschweige denn komplexe, schwierige Dinge, die uns widerfahren sind. Die
       Richter hatten damit Schwierigkeiten und zogen teils äußerst problematische
       Schlussfolgerungen. Wie soll eine KI mit solchen Komplexitäten besser
       umgehen können?
       
       taz: Die EU hat auf Kritik entgegnet, das System sei nur ein Test gewesen. 
       
       Molnar: Beteiligte Wissenschaftler sagten nach öffentlicher Kritik, sie
       hätten nicht erkannt, dass das Projekt solche Auswirkungen auf die
       Menschenrechte haben würde. Aber sprechen Sie mit einem Asylanwalt oder
       einer Person auf der Flucht – die werden Bedenken daran äußern, was ein
       solches System bewirkt. Deshalb ist es wichtig, wer bei der Entwicklung
       solcher Projekte mit im Raum sitzt und wer entscheidet.
       
       taz: Welche Technologien gibt es noch? 
       
       Molnar: Seit einiger Zeit ist eine Schallkanone auf dem Markt, die etwa an
       der Grenze zwischen Griechenland und der Türkei eingesetzt wurde. Das
       deutsche Bundesamt für Migration und Flüchtlinge nutzt seit 2017 einen
       „Dialektidentifizierungsassistenten“ bei Asylanträgen – eine Software, die
       prüft, ob jemand beispielsweise aus einer bestimmten Provinz eines Landes
       stammt und dazu womöglich falsche Angaben macht. Nach öffentlichen
       Diskussionen hat das Bundesamt den Einsatz allerdings beendet.
       
       taz: Wer ist die treibende Kraft hinter dieser Entwicklung? Die
       Innenministerien oder die Industrie? 
       
       Molnar: Beide. Innenministerien und Regierungen im Allgemeinen können
       solche Technologie nicht selbst entwickeln. Sie treten an private Partner
       heran. Umgekehrt macht auch der Privatsektor seinen Einfluss geltend, um zu
       bestimmen, was entwickelt wird. Man sieht das auf Foren wie dem World
       Border Security Congress, ich habe das mehrfach selbst so erlebt: Da steht
       dann der Migrationsminister und unterhält sich mit einem
       Drohnenlieferanten. Der Privatsektor sagt: „Ihr habt das Migrationsproblem
       – wir haben die Lösung“, und das ist eine Drohne oder ein Roboterhund oder
       Gesichtserkennung.
       
       taz: Selbst die Erfinder warnen vor den Risiken einer KI, die keinen
       gesetzlichen Schranken unterworfen ist. Könnte das den möglichen Einsatz an
       Grenzen bremsen? 
       
       Molnar: Menschen sind heute zu Recht besorgt darüber, was KI tut. Aber die
       Diskussion über die Regulierung kommt nicht voran. Im August trat das
       EU-Gesetz zur künstlichen Intelligenz in Kraft. Ich war ab 2021 Teil einer
       Gruppe von Fachleuten namens „Schützen statt überwachen“. Wir forderten
       unter anderem ein Verbot von KI-Modellen, die Migrationsbewegungen
       vorhersagen sollen und [1][für Pushbacks eingesetzt werden könnten]. Leider
       ohne Erfolg.
       
       taz: W as hätten solche Bestimmungen in dem Gesetz gebracht? 
       
       Molnar: Hätte das EU-KI-Gesetz Menschenrechte stärker in den Blick
       genommen, wären Länder wie Kanada, die USA, Großbritannien und Australien
       dem wohl gefolgt. Aber viele Regeln wurden im Gesetzgebungsprozess
       verwässert, nicht nur in Bezug auf Grenztechnologie. Es bietet keinen
       Anreiz für andere Länder, KI zu regulieren. 2023 haben wir einen Bericht
       für das Büro des UN-Menschenrechtskommissars verfasst und eine
       menschenrechtskonforme digitale Grenzverwaltung gefordert. Dazu gehörten
       auch Moratorien und Verbote bestimmter Grenztechnologie. Nichts davon wurde
       aufgegriffen. Denn wenn Migration als Problem und die Technologie als
       Lösung gesehen wird – warum sollte man sie dann regulieren?
       
       taz: Dient der Einsatz an den Grenzen dazu, Technologien für eine
       weitergehende Nutzung im Innern zu testen? 
       
       Molnar: Ich beschäftige mich seit 2008 mit Migrationsfragen und kann sagen:
       Was an den Grenzen und in Flüchtlingslagern passiert, bleibt nicht dort.
       Gesichtserkennung ist heute weitgehend als biometrische Massenüberwachung
       normalisiert, sogar in Sportstadien. Robohunde wurden 2022 an der Grenze
       getestet, 2023 setzte die Polizei sie auf den Straßen von New York ein.
       Einer war sogar weiß mit schwarzen Flecken bemalt, wie ein Dalmatiner. Was
       in einem Flüchtlingslager passiert, ist dem Durchschnittsbürger vielleicht
       egal, weil es ihn vermeintlich nicht betrifft. Aber wenn dieselbe
       Technologie dann Teil unseres öffentlichen Lebens wird, dann fangen die
       Leute vielleicht an, sich dafür zu interessieren.
       
       taz: Werden Asyl- und Visumantragsgespräche zukünftig von Bots geführt? 
       
       Molnar: Sehr wahrscheinlich ist, dass die teilweise oder vollständige
       Automatisierung zur Normalität werden könnte. Mit Verweis auf die
       vermeintliche Effizienz werden diese Dinge durchgesetzt. So sollen Fälle
       schneller bearbeitet oder abgelehnt werden.
       
       taz: Schneller wäre doch besser, oder nicht? 
       
       Molnar: Manchmal dauert es Jahre bis zu einer Entscheidung. Das System kann
       also nicht bleiben, wie es ist. Aber die Antwort kann keine technische
       Lösung sein, die Probleme noch verschlimmert und neue schafft. Wenn man
       sich tatsächlich um Effizienz sorgt, sollte man etwa vermeiden, wegen
       diskriminierender Entscheidungen verklagt zu werden. Das ist nämlich eine
       Folge von KI und wird das auch bleiben. Es gibt bereits entsprechende
       Entscheidungen in Kanada und UK, immer mehr Menschen sind betroffen,
       Anwält:innen werden darauf aufmerksam und klagen. Solche Systeme
       funktionieren nicht richtig und sind eine Verschwendung von Ressourcen.
       Diese Ressourcen könnten auf ganz andere Weise für eine Reform des Systems
       genutzt werden. Aber ich glaube nicht, dass das die Priorität ist. Die
       Priorität ist, dass wir zu viele Menschen haben, die herkommen und man will
       technische Lösungen schaffen, um sie – vielleicht – schneller loszuwerden.
       
       taz: Fühlen sich die Staaten denn langfristig überhaupt verpflichtet,
       Gerichtsentscheidungen zu respektieren?
       
       Molnar: Die Achtung des Rechts [2][geht den Bach runter], das ist ein
       breiterer Trend. Wir können alle Gerichtsentscheidungen der Welt haben,
       aber was bringt es, wenn sie nicht respektiert werden? Ich war an der
       polnisch-weißrussischen Grenze, als es diese Sperrzone gab, es war ein
       klares Beispiel für die Formbarkeit des Rechts in Krisensituationen. Sofort
       wurde die etablierte Norm außer Kraft gesetzt, dass Medien Zugang haben.
       Als jemand, der versucht, das Zusammenspiel zwischen Technologie, Macht und
       Migration zu verstehen, denke ich, dass wir aus dem Blick verloren haben,
       dass es echte Menschen sind, die im Mittelpunkt stehen.
       
       taz: Die EU verlagert ihren Grenzschutz an Partnerländer in der Sahara, die
       USA nach Lateinamerika. Gibt es Unterschiede im Vorgehen? 
       
       Molnar: Die USA bauen auf die Externalisierung ihres Grenzschutzes
       [3][mithilfe von Mexiko] als direktem Nachbarn und anderen Ländern in
       Lateinamerika. Das ähnelt der EU, die ihren Grenzschutz bis weit auf den
       afrikanischen Kontinent ausgebaut hat und die Routen überwacht. Dabei wird
       nicht nur Geld gezahlt. Es werden auch biometrische Datenbanken in Mexiko
       erweitert, Grenzschutzkräfte ausgebildet oder Ausrüstung an mittel- und
       lateinamerikanische Länder gegeben. Die Ausrüstung kommt direkt aus den
       USA, sehr ähnlich wie in der EU. Beide Regionen lernen da voneinander und
       kopieren sich gegenseitig.
       
       taz: In Afrika wenden sich mittlerweile viele Staaten vom Westen ab. Das
       unterminiert die EU-Grenzschutzkooperationen. Haben die USA ähnliche
       Probleme? 
       
       Molnar: Die Menschen gehen nach Nordamerika, das Geld fließt in die andere
       Richtung, um sie davon abzuhalten. Das ist ein lukratives Geschäft für
       viele der Partnerländer. Deshalb gibt es vielleicht keinen Akteur, der die
       USA als Machtfaktor im Migrationsmanagement auf dem amerikanischen
       Kontinent entthronen könnte. Russland ist, soweit bekannt, in dieser Region
       kaum aktiv. Das soll nicht heißen, dass das nicht passieren könnte. Aber
       die Vormachtstellung der USA ist immer noch sehr stark – durch die
       Wiederwahl Trumps jetzt umso mehr.
       
       taz: Heute kommen immer mehr Menschen aus Afrika über Lateinamerika in die
       USA, statt über die Sahara in Richtung EU. Woran liegt das? 
       
       Molnar: Ein Faktor ist wohl, dass die europäischen Migrationsrouten so
       tödlich geworden sind. Allerdings ist Sicherheit dabei womöglich nicht
       einmal das wichtigste Thema. Diese neuen Routen, die wir hier sehen, zeigen
       einmal mehr, dass Menschen in verzweifelten Situationen bereit sind, alles
       zu versuchen.
       
       15 Nov 2024
       
       ## LINKS
       
 (DIR) [1] /20-Jahre-Frontex/!6043012
 (DIR) [2] /Doku-zu-EU-Asylpolitik/!6044128
 (DIR) [3] /Folgen-der-US-Wahl/!6047622
       
       ## AUTOREN
       
 (DIR) Christian Jakob
       
       ## TAGS
       
 (DIR) Grenzpolitik
 (DIR) Migration
 (DIR) wochentaz
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) Geflüchtete
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) Satire
 (DIR) Schwerpunkt Künstliche Intelligenz
 (DIR) Jair Bolsonaro
 (DIR) US-Wahl 2024
 (DIR) US-Wahl 2024
       
       ## ARTIKEL ZUM THEMA
       
 (DIR) Milliarden Euro gegen Migration: KI an der Grenze
       
       Europa baut ein KI-Kontrollsystem an seinen Grenzen auf – finanziert von
       der EU, vorangetrieben von Deutschland. Die Rüstungsindustrie profitiert.
       
 (DIR) Mein Leben als Starautor: Die Einreise
       
       Als aufgehender Stern am Literaturhimmel beschloss ich, mein neues Buch in
       der Türkei drucken zu lassen. Leider hielt ich an der Grenze nicht den
       Mund.
       
 (DIR) USA investieren in KI: Ein 500 Milliarden Dollar-Versprechen
       
       Die USA wollen ihre Vormachtstellung in dem Sektor ausbauen – mit massiven
       Investitionen und Deregulierung.
       
 (DIR) Nach dem Anschlag in Brasilien: Tat eines „geistig Verwirrten“?
       
       Der früher in der Partei des rechten Ex-Präsidenten Bolsonaro aktive
       Attentäter soll alleine gehandelt haben. Doch die Rhetorik der Rechten
       könnte ihn inspiriert haben.
       
 (DIR) Nominierungen für Trumps Kabinett: Schockwellen selbst bei Republikanern
       
       Mit der Nominierung des radikalen Abgeordneten Matt Gaetz als
       US-Justizminister provoziert Donald Trump Widerspruch sogar in den eigenen
       Reihen.
       
 (DIR) Melania Trump im russischen Fernsehen: Dominanzgeste aus Moskau
       
       Das russische Staatsfernsehen zeigt Nacktbilder der nächsten US-First-Lady
       Melania Trump. Eine Machtdemonstrationen des Kremls gegenüber Trump.