IA: de la represión migratoria a la vigilancia generalizada

La fortaleza Europa no es ninguna novedad. Desde los limes romanos hasta el Telón de Acero, el continente siempre se ha preocupado por definir cuidadosamente sus fronteras, de separarse del exterior, del otro. Las fronteras cambian, se vuelven a trazar, evolucionan a medida que cambian las sociedades. En la era digital y de la inteligencia artificial, una parte de estos muros se ha vuelto invisible, pero sigue siendo muy real. 

La frontera está cerca y lejos, en todas partes y en ninguna al mismo tiempo. Las tecnologías que estamos desarrollando nos permiten proyectar estas demarcaciones en lo inmaterial. Por su parte, las herramientas de vigilancia masiva, los algoritmos y el reconocimiento facial ofrecen la posibilidad de diluir estas fronteras, generalizarlas y ampliarlas. Hacia fuera y hacia dentro.

Giorgos Christides, Katy Fallon, Deana Mrkaja, Marguerite Meyer, Florian Schmitz e Hibai Arbide Aza comparten en Solomon las conclusiones de una amplia investigación colaborativa que muestra las enormes inversiones que han realizado algunos países, entre ellos Grecia, para detener a los migrantes en las fronteras. “El arsenal europeo incluye sistemas de inteligencia artificial (IA), drones, cámaras térmicas, detectores de dialectos, sistemas de extracción de datos telefónicos y sofisticadas redes de vigilancia”, exponen los periodistas. “En función del país que los utilice, el objetivo del despliegue de estos avanzados y a menudo costosos sistemas es impedir la llegada de migrantes, examinar las solicitudes de asilo y desarticular las redes de contrabandistas”.

Aunque las tecnologías de vigilancia masiva son cada vez más populares, sus escollos son motivo de preocupación. “Los críticos [argumentan] que están repletas de trampas legales y morales, socavan los derechos humanos, restringen el acceso al asilo, invaden la privacidad de los migrantes y pueden utilizarse para facilitar expulsiones colectivas, una práctica ampliamente documentada y calificada recientemente de ‘sistemática’ por el Tribunal Europeo de Derechos Humanos”.

En algunos casos, los métodos diseñados para controlar los movimientos migratorios también se utilizan para controlar las poblaciones, estén o no en movimiento. Caitlin Chandler revela en Wired, en colaboración con Lighthouse Reports, la magnitud del mercado de las tecnologías de “vigilancia predictiva de los viajes”. Desde hace varios años, las empresas prometen a los Gobiernos del mundo programas que se basan en algoritmos para seguir a determinadas personas durante sus viajes en avión: terroristas, traficantes o migrantes. El objetivo es agilizar el tráfico internacional, facilitar el trabajo de los controladores y las fuerzas policiales y garantizar la seguridad de los demás pasajeros. “Para las personas que viajan al extranjero, estos sistemas de vigilancia pueden resultar muy útiles”, explica Chandler. “Pero también pueden señalar a una persona como una amenaza potencial o incluso restringir su libertad para viajar, dejándole pocos medios para actuar”.

Los posibles abusos son muchos: ¿qué ocurre si se considera erróneamente que un usuario es sospechoso o, por el contrario, si el algoritmo descarta a una persona realmente peligrosa? También se plantea la cuestión de la conservación de datos y quién tiene acceso a ellos. Más allá de eso, está la cuestión de las consecuencias sociales de este tipo de tecnología que, como resume una de las empresas citadas en el artículo, “permite a un Gobierno exportar sus fronteras a cualquier punto del globo donde los pasajeros puedan embarcar en vuelos, barcos o trenes con destino a su territorio”. El mundo está abierto. La frontera está por todos lados, descentralizada.

Hay una delgada línea entre reprimir la migración y reprimir todo lo demás. Desde el auge de la inteligencia artificial hace unos años, existe una fascinación por la vigilancia asistida, sin que los Gobiernos ni la industria se inmuten por los riesgos que entraña. Es lo que ocurre especialmente en Francia: según una investigación colaborativa de Investigate Europe, París ha hecho campaña para que prácticas como el reconocimiento facial en tiempo real, la interpretación de emociones y el fichaje basado en creencias políticas y religiosas estén permitidas por el reglamento europeo sobre inteligencia artificial que entró en vigor en 2024.

“Imagínese participar en una manifestación por el clima, llevando una insignia o una pancarta”, plantean Maria Maggiore, Leïla Miñano y Harald Schumann, autores de la investigación. “Una cámara 'inteligente' detecta estas señales, graba su rostro y envía las imágenes a la policía para que las compare con el fichero de personas buscadas por delitos contra el medio ambiente. Usted no está en el fichero, pero los datos se quedan almacenados”. En su opinión, se trata de una tecnología que podría utilizarse para vigilar a los migrantes. “Imagine a un náufrago que acaba de desembarcar en la isla de Lampedusa. Le detienen y le interrogan con una cámara capaz de detectar emociones. El sistema registra signos de nerviosismo, miedo e indecisión y concluye que el exiliado miente sobre su edad o sus orígenes. Y rechazan la demanda de asilo”.

Esto es lo que ha logrado Francia tras ejercer una gran presión en las instituciones de Bruselas. En nombre de la seguridad nacional, el Estado podrá buscar a individuos basándose en criterios personales, como creencias religiosas o vínculos políticos. Junto a otros países europeos, Francia también ha pedido que las cárceles y las zonas fronterizas queden excluidas de la definición de 'espacio público'. “Dentro de unas semanas, los Estados miembros podrán desplegar sistemas de reconocimiento emocional en sus puertas”, explica la investigación. Poco importa que las inteligencias artificiales que supuestamente reconocen las emociones sean objeto de muchas críticas, entre otras cosas por los sesgos que plagan su funcionamiento.

“En eso consiste también la inteligencia artificial”, explica Félix Tréguer, autor y portavoz del grupo de libertades digitales La Quadrature du Net. “El retorno de las teorías naturalizadoras, las pseudociencias y las categorías arbitrarias, ahora consagradas en poderosos sistemas automatizados para aplicar la violencia de Estado.”

Pero la vigilancia generalizada está de moda. Prueba de ello es el programa de la Unión Cristianodemócrata (CDU) alemana que, pocos días antes de las elecciones anticipadas de febrero de 2025, propuso, entre otras cosas, ampliar la recogida de datos de telecomunicaciones, el uso del reconocimiento facial y la utilización de programas espía por parte del Estado. Como señala Constanze Kurz para Netzpolitik, “la visión que [se] desprende [de esta lista] es la de un futuro en el que la vigilancia masiva será omnipresente”.

Lo que el partido también quiere es liberar esta vigilancia masiva de cualquier posible control, un control que actualmente no existe y que parece difícil de aplicar, como explica Kurz. “Se trata de una campaña electoral de [la CDU]”, matiza. “Pero este escándalo demuestra claramente la dirección que tomará si accede a la Cancillería”.

Este doble uso de la tecnología se hace eco de la doble función que han cumplido históricamente las fronteras: proteger a las personas del mundo exterior y, al mismo tiempo, mantenerlas dentro. Y, si es posible, mantenerlas a raya.

Desde fuera, Europa parece una fortaleza. Vista desde aquí, sus muros bien podrían parecer una prisión.