KI-Technologie zur Zurückweisung von Migration

Die Festung Europa steht nicht erst seit gestern. Vom römischen Limes bis zum Eisernen Vorhang hat der Kontinent immer darauf geachtet, seine Grenzen zu definieren und sich „vom Anderen” abzugrenzen. Grenzen werden neu gezogen und ändern sich, wenn sich Gesellschaften verändern. Im Zeitalter von Digitalisierung und künstlicher Intelligenz ist ein Teil dieser Mauern unsichtbar geworden, bleiben aber dennoch sehr real.

Diese Grenzen sind überall und nirgends zugleich. Heutige Technologien ermöglichen es, sie ins Immaterielle zu projizieren. Werkzeuge zur Massenüberwachung, Algorithmen und Gesichtserkennung bieten die Möglichkeit, diese Grenzen immer weiter auszuweiten. Nach außen und nach innen.

---

---

Im Rahmen ihrer Arbeit für die gemeinnützige Organisation Solomon teilen Giorgos Christides, Katy Fallon, Deana Mrkaja, Marguerite Meyer, Florian Schmitz und Hibai Arbide Aza die Ergebnisse einer groß angelegten Studie, die belegt, wie massiv einige europäische Länder, darunter Griechenland investieren, um Migranten an ihren Grenzen aufzuhalten. „Das Arsenal, über das Europa dabei verfügt, umfasst KI-basierte Systeme, Drohnen, Wärmebildkameras, Dialektdetektoren, Telefondatenextraktionssysteme und ausgeklügelte Überwachungsnetzwerke“, erklären die Journalisten. „Je nachdem, welches Land sie einsetzt, soll der Einsatz dieser fortschrittlichen und oft teuren Systeme die Ankunft von Migranten verhindern, Asylanträge prüfen oder Schleusernetzwerke zerstören.”

Massenüberwachungstechnologien erfreuen sich heute offensichtlich wachsender Beliebtheit, ohne dass ihre Konsequenzen überdacht werden. „Kritiker [meinen], dass sie voller rechtlicher und moralischer Fallstricke sind, die Menschenrechte untergraben, den Zugang zu Asyl beschränken, die Privatsphäre von Migranten verletzen und dazu verwendet werden können, kollektive Abschiebungen zu erleichtern - eine Praxis, die umfassend dokumentiert ist und kürzlich vom Europäischen Gerichtshof für Menschenrechte als 'systematisch' eingestuft wurde.“

In einigen Fällen dienen Methoden, die eigentlich zur Kontrolle von Migrationsbewegungen gedacht sind, auch dazu, die gesamte Bevölkerung zu kontrollieren. In Zusammenarbeit mit Lighthouse Reports und Wired macht Caitlin Chandler die Größe des Marktes für Technologien zur „vorausschauenden Reiseüberwachung“ deutlich. Seit mehreren Jahren versprechen Unternehmen den Regierungen überall auf der Welt neue Programme, die es auf Grundlage von Algorithmen ermöglichen, gezielt Personen während ihrer Flugreisen zu verfolgen: Terroristen, Menschenhändler oder Migranten. Das Ziel dabei ist, den internationalen Flugverkehr flüssiger zu machen, die Arbeit von Fluglotsen und Polizeikräften zu erleichtern und die Sicherheit anderer Reisender zu gewährleisten. „Für Auslandsreisende können solche Überwachungssysteme praktisch sein”, erklärt Chandler. „Sie können aber auch eine potenzielle Bedrohung darstellen oder sogar die Reisefreiheit einschränken, wobei kaum die Möglichkeit besteht, etwas dagegen zu unternehmen.”

Mögliche Fehler sind dabei zahlreich: Was passiert zum Beispiel, wenn ein Nutzer fälschlicherweise als verdächtig eingestuft wird oder wenn umgekehrt eine wirklich gefährliche Person vom Algorithmus aussortiert wird? Auch die Frage, wie die Daten gespeichert werden und wer Zugang darauf hat, stellt sich. Darüber hinaus muss über die gesellschaftlichen Folgen solcher Technologien nachgedacht werden. Denn, wie eines der im Artikel genannten Unternehmen erklärt, „ermöglichen sie es Regierungen, ihre Grenzen an jeden beliebigen Ort der Erde zu exportieren. Also überall dort, wo Passagiere in Flüge, Schiffe oder Züge mit Zielort in ihr Hoheitsgebiet steigen können.” Und so ist die Welt zwar offen, die Grenzen jedoch überall und dezentralisiert.

Die Grenze zwischen Überwachung von Migration und allgemeiner Massenüberwachung ist überhaupt sehr schmal. Seit dem Gebrauch von künstlicher Intelligenz fasziniert auch die künstliche Überwachung, ohne dass damit verbundene Risiken die Regierungen oder die Industrie aufrütteln. Dies gilt besonders für Frankreich: Laut einer Studie von Investigate Europe hat sich Paris dafür eingesetzt, dass KI-basierte Praktiken wie die Gesichtserkennung in Echtzeit, die Interpretation von Emotionen oder die Erfassung politischer und religiöser Überzeugungen erlaubt werden im Rahmen der EU-Verordnung über künstliche Intelligenz, die 2024 in Kraft getreten ist.

„Stellen Sie sich vor, Sie nehmen an einer Klimaschutz-Demonstration teil und halten dort ein Schild hoch“, schreiben Maria Maggiore, Leïla Miñano und Harald Schumann in ihrer Studie. „Eine 'intelligente' Kamera erkennt dies, zeichnet Ihr Gesicht auf und überträgt die Bilder an die Polizei, die sie mit der Fahndungsdatei für Umweltverbrechen abgleicht. Auch wenn Sie dort nicht verzeichnet sind, bleiben Ihre Daten dort gespeichert.“ Dabei handelt es sich um eine Technologie, die nach Meinung der Autoren auch gegen Migranten eingesetzt werden könnte. „Stellen Sie sich einen Schiffbrüchigen vor, der gerade auf Lampedusa angekommen ist. Er wird festgenommen und vor einer Kamera ausgefragt, die angeblich Emotionen erkennen und interpretieren kann. Das System registriert Anzeichen von Nervosität, Angst und Unentschlossenheit und kommt deshalb zu dem Schluss, dass der Flüchtling bezüglich seines Alters oder seiner Herkunft lügt, sodass sein Asylantrag abgelehnt wird.”

Genau das hat Frankreich nach langem Lobbying in den Brüsseler Institutionen erreicht. Zudem hat Frankreich zusammen mit anderen europäischen Ländern gefordert, dass Gefängnisse und Grenzgebiete von der Definition des „öffentlichen Raums“ ausgenommen werden. „In ein paar Wochen können die Mitgliedstaaten also Systeme zur Gefühlserkennung an ihren Grenzen einsetzen“, heißt es in der Studie. Dabei spielt keine Rolle, dass künstliche Intelligenzen, die angeblich Emotionen erkennen und bewerten können, wegen Ungenauigkeiten heftig kritisiert werden.

„Auch das ist künstliche Intelligenz“, erklärt Félix Tréguer, Autor und Sprecher der Vereinigung zur Verteidigung der digitalen Freiheiten La Quadrature du Net. Er beklagt eine „Rückkehr zu naturalistischen Theorien, Pseudowissenschaften und willkürlichen Kategorien, die nun in mächtigen automatisierten Systemen zur Umsetzung staatlicher Gewalt verankert sind.”

Aber die allgemeine Überwachung steht hoch im Kurs. Davon zeugt zum Beispiel das Vorgehen der CDU, die - wenige Tage vor der Bundestagswahl - vorgeschlagen hat, das Sammeln von Telekommunikationsdaten, den Einsatz von Gesichtserkennung und den staatlichen Einsatz von Spionagesoftware auszuweiten. Wie Constanze Kurz für Netzpolitik berichtet, „ergibt sich in der Zusammenschau das Bild einer Zukunft, in der technisierte massenhafte Überwachung allgegenwärtig wird.”

Die Christdemokraten fordern außerdem, Massenüberwachung von einer möglichen Kontrolle zu befreien. Dabei handelt es sich um eine Kontrolle, die es derzeit gar nicht gibt und die auch schwer umsetzbar ist, wie Kurz erklärt: „Es ist Wahlkampfgetöse der Union. Doch das Getöse macht überdeutlich, wohin die Reise gehen wird, wenn sie die Kanzlerschaft erringt.”

Für die Massenüberwachung scheinen heute alle Mittel recht. Bei genauerer Betrachtung ermöglicht der Einsatz von digitalen Überwachungstechnologien nichts anderes als das, was Grenzen immer getan haben: Sie schützen ihre Bevölkerung vor dem Außen und umschließen sie in ihrem Inneren. Je gerader die Grenze, desto besser.

Und so sieht die EU von außen aus wie eine Festung. Von innen betrachtet, lassen ihre Mauern an ein Gefängnis denken.