IA : de la répression migratoire à la surveillance généralisée

L’Europe forteresse ne date pas d’hier. Des limes romains au rideau de fer, le continent a toujours pris soin de soigneusement définir son tracé, de se séparer de l’extérieur, de l’autre. Les frontières, ça change, ça se redessine, ça évolue à mesure que les sociétés bougent. À l’ère du numérique et de l’intelligence artificielle, une partie de ces murs s’est faite invisible, mais demeure bien réelle. 

La frontière est proche et lointaine, partout et nulle part à la fois. Les technologies que nous développons nous permettent de projeter ces démarcations dans l’immatériel ; et les outils de surveillance de masse, les algorithmes et la reconnaissance faciale offrent la possibilité de diluer ces frontières, de les généraliser, de les étendre. Vers l’extérieur et l’intérieur.

Dans Solomon, Giorgos Christides, Katy Fallon, Deana Mrkaja, Marguerite Meyer, Florian Schmitz et Hibai Arbide Aza partagent les conclusions d’une large enquête collaborative montrant les investissements massifs effectués par certains pays, dont la Grèce, pour stopper les personnes migrantes aux frontières. “L'arsenal dont dispose l'Europe comprend des systèmes d'intelligence artificielle (IA), des drones, des caméras thermiques, des détecteurs de dialectes, des systèmes d'extraction de données téléphoniques et des réseaux de surveillance sophistiqués”, expliquent les journalistes. “Selon le pays qui les utilise, le déploiement de ces systèmes avancés et souvent coûteux a pour but d'empêcher les arrivées de migrants, d'examiner les demandes d'asile et de perturber les réseaux de passeurs.”

Si les technologies de surveillance de masse connaissent aujourd’hui une popularité grandissante, leurs écueils inquiètent. “Les critiques [estiment] qu'elles sont pleines de pièges juridiques et moraux, qu'elles sapent les droits humains, limitent l'accès à l'asile, portent atteinte à la vie privée des migrants et peuvent être utilisées pour faciliter les expulsions collectives – une pratique largement documentée et récemment qualifiée de ‘systématique’ par la Cour européenne des droits de l'homme.”

Dans certains cas, les méthodes destinées au contrôle des mouvements migratoires servent aussi à contrôler les populations, qu’elles soient en mouvement ou non. Pour Wired et en partenariat avec Lighthouse Reports, Caitlin Chandler dévoile l’ampleur du marché des technologies de “surveillance prédictive des voyages”. Depuis plusieurs années, des entreprises promettent en effet aux gouvernements du monde des programmes permettant, sur base d’algorithmes, de suivre des personnes ciblées lors de leur voyage en avion : terroristes, trafiquants ou personnes migrantes. Le but : fluidifier le trafic international, faciliter le travail des contrôleurs et des forces de police et assurer la sécurité des autres voyageurs. “Pour les personnes qui voyagent à l'étranger, ces systèmes de surveillance peuvent s'avérer pratiques”, explique Chandler. “mais ils peuvent aussi vous signaler comme une menace potentielle ou même limiter votre liberté de voyager, tout en vous laissant peu de moyens d'agir.”

Les dérives possibles sont nombreuses : que se passe-t-il si un usager est considéré à tort comme suspect ou, à l’inverse, si une personne réellement dangereuse est écartée par l’algorithme ? La question de la conservation des données, et de qui y a accès, est également soulevée. Au delà de cela se pose la question des conséquences sociétales de ce genre de technologie qui, comme le résume une des entreprises citées dans l’article, “permet à un gouvernement d'exporter ses frontières vers tous les points du globe où des passagers peuvent embarquer sur des vols, des bateaux ou des trains à destination de son territoire”. Le monde est ouvert. La frontière, elle, est partout. Décentralisée.

La frontière entre répression migratoire et répression tout court est décidément bien fine. Depuis l’essor de l’intelligence artificielle voilà quelques années, la surveillance assistée fascine, sans que les risques associés n’émeuvent gouvernements ou industriels. C’est notamment le cas en France : selon une enquête collaborative d’Investigate Europe, Paris a milité pour que des pratiques comme la reconnaissance faciale en temps réel, l’interprétation des émotions ou le fichage sur base des convictions politiques et religieuses soient permises par le règlement européen sur l’intelligence artificielle entré en vigueur en 2024.

“Imaginez que vous participiez à une manifestation pour le climat, que vous portiez un badge ou que vous brandissiez une pancarte”, supposent Maria Maggiore, Leïla Miñano et Harald Schumann, les auteurs de l’enquête. “Une caméra ‘intelligente’ détecte ces signes, enregistre votre visage et transmet les images à la police pour les comparer au fichier des personnes recherchées pour crimes environnementaux. Vous n’y figurez pas, mais les données restent stockées”. Une technologie qui pourrait, selon eux, être utilisée pour policer les personnes migrantes. “Imaginez un naufragé qui vient de débarquer sur l’île de Lampedusa. Arrêté, il est interrogé à l’aide d’une caméra capable de détecter des émotions. Le système enregistre des signes de nervosité, de peur, d’indécision : il en conclut que l’exilé ment sur son âge ou ses origines. Sa demande d’asile est rejetée.”

C’est ce qu’a obtenu la France après un long lobbying au sein des institutions bruxelloises. Au nom de la sécurité nationale, l’Etat sera en mesure de rechercher des individus sur base de critères personnels, notamment les convictions religieuses ou les engagements politiques. La France, aux côtés d’autres pays européens, a également requis que les prisons et les zones frontalières soient exclues de la définition d’“espace public”. “Dans quelques semaines, les Etats membres pourront donc déployer des systèmes de reconnaissance émotionnelle à leurs portes”, explique l’enquête. Qu’importe que les intelligences artificielles supposées reconnaître les émotions soient largement critiquées, notamment en raison des biais qui émaillent leur fonctionnement.

“C’est aussi ça l’intelligence artificielle”, explique Félix Tréguer, auteur et porte-parole de l’association de défense des libertés numériques La Quadrature du Net. “Le retour des théories naturalisantes, des pseudosciences et des catégories arbitraires, désormais inscrites dans de puissants systèmes automatisés pour mettre en œuvre la violence d’Etat.”

Mais la surveillance généralisée à la cote. En témoigne le programme de l’Union chrétienne-démocrate d'Allemagne (CDU), qui – à quelques jours des élections anticipées de février 2025 – proposait, entre autres, d’étendre la collecte de données de télécommunications, l’utilisation de la reconnaissance faciale et l’emploi des logiciels espions par l’Etat. Comme le rapporte Constanze Kurz pour Netzpolitik, “la vision qui [se] dégage [de cette liste] est celle d'un avenir dans lequel la surveillance de masse sera omniprésente.”

Ce que souhaite également le parti, c’est libérer cette surveillance de masse de tout contrôle éventuel – contrôle qui n’existe pas, pour l’heure, et qui semble difficilement applicable, comme l’explique Kurz : “Il s’agit d’une campagne électorale de [la CDU]”, tempère-t-elle. “Mais ce vacarme montre clairement la direction qu’elle prendra si elle accède à la chancellerie.”

Ce double usage des technologies fait écho à la fonction duelle qu’ont toujours rempli, historiquement, les frontières : protéger les populations de l’extérieur tout en les maintenant à l’intérieur. Et en les faisant filer droit, si possible. 

De l’extérieur, l’Europe ressemble à une forteresse. Vu d’ici, ses murs pourraient bien vite évoquer une prison.