Décryptage Technologie et politique

En Italie et ailleurs en Europe, l’intelligence artificielle se met au service de l’extrême droite

Frères d’Italie, le parti post-fasciste qui a remporté la majorité aux élections italiennes de septembre 2022, prévoyait d'utiliser l'intelligence artificielle pour attribuer des emplois aux jeunes. Une telle initiative n'est pas nouvelle en Europe. Algorithm Watch se penche sur les liens entre l'IA et l'extrême droite.

Publié le 2 novembre 2022 à 12:33

En avril dernier, le parti post-fasciste Frères d’Italie (Fratelli d'Italia, FdI) présentait ses "Notes sur un programme conservateur”. Dans ce livre blanc, il appelait à la mise en place d'un "système d'intelligence artificielle" (IA) qui "retrace la liste des jeunes qui terminent le lycée et l'université chaque année et les met en relation avec les entreprises du secteur”.

Une mesure qui, écrivaient les auteurs du texte, résoudrait enfin le “chômage des jeunes”, car le jeune en question “ne pourra plus choisir de travailler ou non, mais [sera] tenu d'accepter l'offre d'emploi pour lui-même [sic], pour sa famille et pour le pays, sous peine de perdre tous les avantages avec l'application d'un système de sanctions.

Cette proposition ne figurait pourtant pas dans le programme final que FdI a publié avant les élections du 25 septembre, lors desquelles il est devenu le premier parti d'Italie avec 26 % des voix.

Les néofascistes avaient en réalité très probablement l'intention d'utiliser l'IA pour "créer un brouillard autour d'eux, autour de ce qu'ils sont et de ce qu'ils veulent, parce qu'ils souhaitent attirer un électorat de droite plus modéré", explique le sociologue Antonio Casilli, dont les recherches portent sur les réseaux sociaux, les plateformes numériques et la vie privée.

Le meilleur du journalisme européen dans votre boîte mail chaque jeudi

Guido Crosetto, le cofondateur de Frères d’Italie à l’origine du livre blanc, n'est pas considéré comme un expert en technologie. Il a pourtant un jour tweeté qu'il était “favorable à l'introduction de l'intelligence artificielle au ministère de la Justice”.

Je n'ai pas rencontré de geek fasciste en Italie”, rassure Casilli. “Mais j'ai quitté le pays il y a deux décennies, et j'en ai rencontré beaucoup ailleurs en Europe”, a-t-il ajouté plus tard sur Twitter.

L'IA et l'extrême droite, une histoire d’amour

Dans son essai Reconnaître le fascisme, Umberto Eco, qui était un enfant pendant la dictature de Benito Mussolini, énumère certaines des caractéristiques du fascisme. En plus d'être adeptes d'un “culte de la tradition” qui mythifie et idolâtre le passé (par exemple, l'appel de Mussolini à une "nouvelle Rome"), les fascistes vénèrent également – de manière irrationnelle, mais finalement sans surprise – la technologie, dans la mesure où ils croient en elle comme un moyen de réaffirmer l'inégalitarisme, écrit Eco.

Aux Etats-Unis, des personnes influentes dans le domaine de l'IA sont connues pour leur fascination pour les idées d'extrême droite. William Shockley, l'un des fondateurs de la Silicon Valley, était un ardent eugéniste. Un autre pionnier de l'IA, John McCarthy, professeur à Stanford, pensait que les femmes étaient biologiquement moins douées en mathématiques et en sciences. En 2020, le fondateur de la société de reconnaissance faciale Clearview AI a collaboré avec l’activiste d'extrême droite Chuck Johnson pour le développement du logiciel de Clearview AI.

Quelques semaines plus tard, le PDG de la société de surveillance Banjo s'est révélé être un ancien membre des Dixie Knights, un chapitre du Ku Klux Klan. En 1990, il avait été accusé d’avoir tiré sur une synagogue ; cette révélation a fait perdre à l'entreprise un contrat avec le département de la sécurité de l'Utah.


En plus d'être adeptes d'un “culte de la tradition” qui mythifie et idolâtre le passé, les fascistes vénèrent également la technologie, dans la mesure où ils croient en elle comme un moyen de réaffirmer l'inégalitarisme, écrit Umberto Eco


En 2016, l'un des groupes que le provocateur d'extrême droite Milo Yiannopoulos présentait dans son "guide de l'extrême droite" pour le site ultra-conservateur Breitbart s’appelait les “néo-réactionnaires” : des personnes adhérant à la philosophie politique selon laquelle la démocratie est en échec et demandant un retour à un régime autoritaire. Dans son essai The Silicon Ideology, la critique Josephine Armistead décrit l'un des fantasmes des néo-réactionnaires comme un monde d'aristocrates dirigé par un PDG de la technologie ou une IA super intelligente.

LessWrong.com, un forum de discussion créé par le Machine Intelligence Research Institute (MIRI), aura été l’un des premiers incubateurs de ces idées. Basé en Californie, l’institut soutient qu'une IA ayant le potentiel de dominer le monde sera un jour inventée. Pourtant, les personnes associées au MIRI “ne font pratiquement aucune recherche et racontent des histoires effrayantes sur la façon dont l'IA va nous réduire à l’état de données”, explique le chercheur David Gerard. "C'est une énorme distraction.”

En 2010, certains utilisateurs de LessWrong discutaient déjà de la façon de vivre éternellement en étant réincarné par une IA divine sur un disque dur. Un homme appelé Roko Mijic – qui se décrit comme un "tradhumaniste", entre-temps exclu des événements organisés par le MIRI pour harcèlement sexuel – avançait l'argument selon lequel quiconque imaginerait cette future "IA divine" mais n'aiderait pas à financer son développement risquerait un jour d'être torturé par elle.

Parmi les donateurs célèbres du MIRI figurent le magnat de la technologie Peter Thiel et le fondateur de la crypto-monnaie Vitalik Buterin. “Ce sont des réactionnaires dont la version de l'économie libertaire se termine en néo-féodalisme, avec eux au sommet”, estime Gerard.

Des "solutions algorithmiques" au chômage dans l'Union européenne

Selon Casilli, la proposition d'"intelligence artificielle" de FdI a en fait beaucoup de points communs avec des propositions plus anciennes d'utilisation de systèmes automatisés pour s'attaquer au chômage, et qui trouvent leurs origines dans des partis de centre-droit ou libéraux dans d'autres pays de l'Union européenne.

En 2014, le gouvernement polonais, alors mené par les Libéraux, a par exemple introduit un système de notation que les agences pour l'emploi devaient utiliser pour décider de la meilleure façon d'allouer les allocations. Le personnel de ces agences était largement considéré comme surchargé de travail et manquant de temps à accorder aux personnes s'inscrivant au chômage. Le système de notation utilisait les informations recueillies auprès des personnes inscrites (âge, durée du chômage, etc.), et triait les demandeurs d'emploi en trois catégories déterminant l'aide qu'ils recevaient.

Les mères célibataires, les personnes handicapées ou vivant à la campagne se retrouvaient de manière disproportionnée dans la troisième catégorie. En pratique, ces personnes ne recevaient que peu d'aide, car cette catégorie était considérée comme “ne valant pas l’investissement”. Comme pour la proposition FdI, il était très difficile de faire appel de la décision de l'algorithme. Le système a été mis au rebut en 2019.

En France, Emmanuel Macron a été élu président en 2017 en promettant de faire de son pays une “nation de startups”. A peu près au même moment, un homme d'affaires et “jeune génie” de 24 ans nommé Paul Duan faisait parler de lui en déclarant qu'il pouvait réduire le chômage de 10 % en concevant un algorithme qui – de manière similaire à la proposition de Frères d’Italie – aiderait les gens à trouver des emplois en les mettant en relation avec des employeurs potentiels et en les aidant dans le processus de candidature. Des années plus tard, l'administration publique qui avait initialement commandé le projet a publié un rapport pour annoncer que l'algorithme ne fonctionnait pas.

Pour Casilli, “ce type de solution algorithmique au chômage montre un continuum entre les politiciens d'extrême droite en Italie, les politiciens en Pologne et les politiciens de centre-droit comme Macron".

Il ajoute : "Il s'agit de différentes nuances de la même idéologie politique, certaines sont présentées comme des solutions favorables au marché comme la solution française, d'autres comme extrêmement bureaucratiques et ennuyeuses comme la solution polonaise. La proposition italienne, de la manière dont elle est formulée, est très réactionnaire et autoritaire.

👉 Article original sur AlgorithmWatch

Vitalik Buterin, le “dictateur bienveillant de l’Ethereum”

Dans une conversation avec Vitalik Buterin, le podcasteur du New York Times Ezra Klein se plonge  dans la création la plus connue de Buterin : l’Ethereum. Vitalik Buterin a "rédigé le livre blanc des idées qui sous-tendent Ethereum alors qu'il n'était qu'un adolescent", explique Ezra Klein. “Le ‘dictateur bienveillant de l’Ethereum’ est devenu en quelque sorte le roi philosophe de la crypto", poursuit-il.

Son intuition était que si l'on pouvait programmer une monnaie comme le Bitcoin qui éliminerait le besoin d'une autorité centrale, on pouvait utiliser la même technologie pour créer un langage de programmation capable de programmer n'importe quel type d'accord ou de contrat numérique et de lier tous ceux qui l'acceptent de n'importe quelle manière.

Le Bitcoin pouvait être une monnaie numérique, mais l’Ethereum pouvait être une infrastructure numérique et structurer la façon dont les gens coopèrent en ligne. Et l’Ethereum a décollé. Sa crypto-monnaie, l'Ether, est la deuxième plus valorisée, après le Bitcoin.


Cet article vous a intéressé ? Nous en sommes très heureux ! Il est en accès libre, car nous pensons qu’une information libre et indépendante est essentielle pour la démocratie. Mais ce droit n’est pas garanti pour toujours et l’indépendance a un coût. Nous avons besoin de votre soutien pour continuer à publier une information indépendante et multilingue à destination de tous les Européens. Découvrez nos offres d’adhésion et leurs avantages exclusifs, et devenez membre dès à présent de notre communauté !

Média, entreprise ou organisation: découvrez notre offre de services éditoriaux sur-mesure et de traduction multilingue.

Soutenez le journalisme européen indépendant

La démocratie européenne a besoin de médias indépendants. Rejoignez notre communauté !

sur le même sujet