IA : anatomie d’un risque civilisationnel

L’espèce humaine, notait déjà David Hume dans son Traité de la nature humaine (1743), est avant tout une espèce inventive. La bipédie, puis la fabrication d'outils, ont permis au genre Homo de se différencier de ses cousins les plus proches, schimpanzés et Bonobo, grâce à une étroite interaction entre la main et le cerveau. Les résultats en furent : l’inventivité, la sociabilité, la transmission des savoirs et la capacité d'abstraction. Mais cette interaction a toujours eu un revers. Platon, dans le Phèdre, employait le mot polysémique “pharmakon” pour qualifier l'effet de l'écriture sur l'esprit : à la fois remède, poison et substance magique. 

Comme l’écriture, toute invention technique est ambivalente, et cette ambivalence se démultiplie à mesure que le fonctionnement des machines devient, pour le commun des mortels, une boîte noire à la dimension quasi magique. L'intelligence artificielle (IA) générative n'échappe pas à cette règle : pour nombre d'analystes qui l'ont testée en profondeur, elle est l'illustration la plus aboutie d'un "pharmakon", avec une dimension de poison qui semble l'emporter largement sur celle de remède.

Les modèles d’IA sont stupides

Les modèles d'IA sont des machines et, il convient de préciser ce qu'elles ne sont pas ou des qualités qu'elles ne possèdent pas. Ces modèles de langage de grande dimension (LLM) ne sont pas intelligents au sens où ils comprendraient quoi que ce soit à vos questions et à leurs propres réponses. Ce ne sont que des machines, comme votre calculette ou votre smartphone. Elles fonctionnent sur la base de systèmes statistiques probabilistes entraînés à deviner la suite la plus probable d'une séquence de mots et elles sont dotées de mécanismes d'attention (les “transformers”) repérant les éléments pertinents d'un contexte. 

Ils n'ont cependant aucune connaissance du monde physique, aucun sentiment, aucune croyance, aucune sensation. Contraints de toujours donner une réponse à une question ou à une instruction, ils peuvent en produire une inventée, faute de la trouver dans leurs données : c'est ce que l'on nomme des “hallucinations”. S'y ajoute l'inévitabilité des bugs : atteindre un “zéro bug” est impossible, car dans un système entraîné sur des milliards de données dont la pertinence n'est pas contrôlée, le bug n'est pas une anomalie mais une conséquence inhérente à sa construction composé d’une succession de codes algorithmiques.

S'ajoute aussi l'effet de boîte noire : du fait de leurs réseaux hyper-complexes de neurones profonds, leurs concepteurs eux-mêmes ne sont plus en mesure d’expliquer les raisons pour lesquelles leur modèle a pris telle ou telle décision. Enfin, ces systèmes sont conçus pour fidéliser l'utilisateur davantage que pour dire le vrai : la flagornerie algorithmique, ou effet sycophante, pousse les modèles à valider les idées de la personne qui les interroge plutôt qu'à la contredire – un choix dicté par un objectif commercial.

L’impact anthropologique de l’IA

L'usage de plus en plus généralisé de l'IA, sous pression des Big Tech et des gouvernements qui les soutiennent et en imposent l'usage aux administrations, aux entreprises et aux citoyens, conduit à neutraliser les quatre stimuli qui ont historiquement structuré l'inventivité humaine : l'exigence de survie, l'ennui, la paresse et la curiosité.

L'exigence de survie conduit à inventer modes et moyens d'affronter l'adversité, avec plus ou moins de succès. Depuis l'avènement de l'ère industrielle, grâce aux luttes sociales et à des périodes de paix, les progrès techniques, en médecine en particulier, ont permis, pour une grande partie des populations, de réduire cette exigence durant la vie d'un individu. La propagande des Big Tech, conceptrices et marchandes multimilliardaires des outils d'IA, comme celle du grand capitalisme depuis deux siècles, consiste à nous faire croire que l'intelligence artificielle satisfera enfin pleinement, et sans effort, cette exigence de survie.

Cette promesse d'abondance, qui sert surtout à légitimer l'accumulation sans limite de moyens financiers par une poignée d'acteurs, trouve un écho d'autant plus large qu'elle nourrit la béatitude d'une majorité de la population devant le progrès technique, chacun espérant que la machine le libère enfin des contraintes de l'exigence de survivre.

L'ennui qui, selon les études de psychologie cognitive, favorise le vagabondage mental et l'imagination est aujourd'hui comblé en permanence par l'usage compulsif des écrans (smartphones, tablettes, télévision), sans ne plus lui laisser aucune place. 90 % des utilisateurs d'Internet en Europe se connectent principalement via un smartphone et le temps total passé devant les écrans (hors travail) des adultes atteint une moyenne d'environ 6 h 02 (dont environ 4 heures sur les smartphones), soit l’équivalent de 49 jours par an !

La paresse, qui a stimulé l’invention d'innombrables artefacts utiles pour économiser son temps et ses efforts, devient un anesthésiant lorsqu'il suffit d'une question posée à un modèle, ou d'appuyer sur quelques boutons, pour qu'un travail soit effectué à votre place. Sam Altman, dirigeant d'OpenAI, maison-mêre de ChatGPT, présente cette automatisation de la pensée et de l'action comme inéluctable et promesse d'abondance généralisée. Mais, une société où le travail humain disparaît au profit d'un temps libre saturé par l'usage des instruments digitaux est aussi une société où la paresse et l'ennui perdent toute fonction créatrice. 

Quant à la curiosité, l'intrigue de l'inconnu, elle a suscité, pendant des millénaires, la volonté de savoir, de découvrir de nouveaux peuples ou territoires, de comprendre les comportements humains et les phénomènes naturels, de mesurer le monde et d'en transmettre les savoirs. Cette vélléité, que les dogmes religieux n'ont jamais réussi à éradiquer, risque de s'éteindre dès lors qu'il suffit d'interroger un modèle d'IA plutôt que de chercher soi-même : à quoi bon curioser, si le modèle fournira toujours une réponse, même inexacte ou biaisée ? 

Le physicien italien Giorgio Parisi, prix Nobel, ajoute une inquiétude : lorsque plus personne ne fera et ne publiera ses recherches, les sources dont s'alimentent les modèles se tariront, les contraignant à se répéter à l'infini en se recopiant les uns les autres.

Le philosophe français, spécialiste de l’étude de l’ère digitale et de l’IA, Eric Sadin, résume par une formule lapidaire cette trajectoire anthropologique négative qui est en cours de généralisation: nous sommes en train de construire le “désert de nous-mêmes”, l'humanité devenant ainsi protagoniste de sa propre obsolescence.

Les risques concrets de l’IA sur nos sociétés

Ces impacts anthropologiques méritent d'être complétés par les différents risques concrets actuels et pour un futur proche, auxquels nous expose l’IA, risques que l'on peut classer en quatre familles, auxquelles s'ajoutent deux risques systémiques.

Les risques sociétaux et économiques d'abord : chômage technologique de masse, concentration des bénéfices entre quelques entreprises, atrophie des capacités cognitives liée à la délégation systématique de la rédaction, de l'analyse, de l'action ou de la décision aux machines. 

Les risques éthiques résultent des discriminations algorithmiques lorsque les données d'entraînement reproduisent des biais existants (sexisme, racisme, idéologies, dogmatismes…). Risques auxquels s’ajoutent les manipulations informationnelles à grande échelle grâce aux deepfakes de plus en plus réalistes aupoint d’être inindentifiables, dont l'effet le plus grave est de détruire la croyance en toute vérité institutionnelle ou scientifique, en rendant quasiment impossible la distinction entre le vrai et le faux. 

Les risques de sécurité individuelle : armes autonomes létales, cyberattaques automatisées… les problèmes d'alignement des modèles sur les valeurs humanistes, mettent à risque la sécurité individuelle, et ce, d’autant plus que les mesures permettant d'éviter ces risques affichées par les Big Tech ne sont parfois qu'un habillage marketing des seuls progrès en capacités des machines. 

Les risques existentiels enfin : les compétitions géopolitiques et la course à l'armement entre Etats qui en résulte, non contrôllées démocratiquement, joints à la concentration du pouvoir entre quelques acteurs privés contrôlant les infrastructures critiques d’une nation, peut conduire à une perte de contrôle progressive des humains. Un risque accru dans le cas où une IA en viendrait à optimiser des objectifs mal spécifiés et ne seraient plus soumise à des règles éthiques et à un contrôle humain.

A ces quatre familles de risques s’ajoutent deux risques systémiques : 

Le premier est un risque environnemental : l'entraînement et l'utilisation des grands modèles ainsi que les data-center exigent des infrastructures dont la consommation d'énergie et d'eau croît avec leur taille, au point qu'un seul serveur peut consommer, pour son fonctionnement et son refroidissement, autant d’eau et d’électricité qu'une petite ville. 

Le second touche au domaine militaire et policier : des armes autonomes capables de décider de tuer sans supervision humaine, des systèmes de surveillance conduisant à arrêter un individu sur base d'une reconnaissance faciale, posent une question éthique irréductible dès lors que des machines structurellement imparfaites reçoivent un pouvoir de vie ou de mort, de liberté ou de prison. Début 2026, le département de la Défense américain (renommé depuis “département de la Guerre”) a assoupli ses restrictions quant à l'usage militaire de l'IA, supprimant l'exigence d'un jugement humain pour l'usage de la force, ce qui a conduit l'un de ses fournisseurs, Anthropic, à refuser de poursuivre sa collaboration.

Du fait de leurs effets inévitables à brève échéance, deux risques, parmi ceux briévement évoqués ci-dessus, méritent d'être présentés plus précisément : d’une part, l'impact sur le travail humain et les finances publiques et, d’autre part, les conséquences de l'usage de l'IA sur la démocratie.

Le travail humain, le financement des comptes publics et des systèmes sociaux

Les chiffres disponibles donnent à ce risque une consistance immédiate. Comme le rappelle Sam Altman, patron d'OpenAI, la main-d'œuvre est le principal facteur de coût à de nombreux niveaux de la chaîne d'approvisionnement : “son coût, qui détermine le prix des biens et des services, tendra vers zéro dès qu'une IA suffisamment puissante rejoindra le marché du travail”. Ainsi, par exemple, une étude 2025 du Stanford Digital Economy Lab chiffre à environ 16 % la baisse relative de l'emploi des jeunes de 22 à 25 ans dans les métiers les plus exposés depuis l'arrivée de l'IA générative en 2022. Le FMI estimait fin 2024 qu'environ 40 % des emplois dans le monde, et 60 % dans les pays avancés, sont significativement exposés aux capacités de l'IA.

L'impact des précédentes révolutions industrielles a pu être en grande partie compensé par le développement du secteur tertiaire. Toutefois, cette compensation ne sera pas possible avec l'IA, car son usage se développera précisément dans ce secteur. Or, il n'existe pas de quatrième secteur susceptible d’absorber l’excédent de main-d’œuvre. Cette contraction inéluctable de l'emploi salarié – qui est, selon les propres termes d'Altman, l'objectif même de l'IA et de la robotique, avec l'accroissement des profits des Big Tech qui l'accompagne – aura un effet direct sur le financement des comptes publics et des systèmes sociaux. 

Ceux-ci reposent, d'une part, sur les impôts assis en grande partie sur les revenus du travail et, d'autre part, sur les cotisations sociales prélevées sur les salaires, qui financent respectivement les services publics et l'assurance chômage, les retraites et la santé. Si l'on y ajoute l'effet de la baisse de natalité dans les sociétés occidentales, il en résulte un redoutable effet ciseau : moins d'emplois signifie moins de cotisations et moins de recettes fiscales, tandis que la montée du chômage et le vieillissement de la population exigeront davantage de dépenses sociales. 

Un impôt de 2 à 3 % sur les Big Tech et les entreprises ayant licencié du fait de l'IA, comme certains l'ont suggéré, serait bien loin de suffire à compenser ces pertes. En théorie, il faudrait que l'activité économique automatisée non salariée génère seule des contributions sociales et fiscales équivalentes à celles que le travail humain remplacé par l’IA et la robotique ne fournira plus.

L’information et les démocraties

L'un des effets le plus grave de la généralisation des usages de l'IA générative concerne la démocratie elle-même. Celle-ci repose sur un présupposé simple : des citoyens peuvent délibérer librement à partir d'un socle d’histoire et de faits communs ainsi que de valeurs suffisamment partagées, qui permettent de donner du sens à un débat contradictoire non violent. Or, l'IA générative a transformé la fabrication de la désinformation en une industrie à bas coût et à haute efficacité. 

Ce qui exigeait autrefois des moyens humains et financiers importants pour falsifier une image ou un discours ne demande plus qu'un accès à un modèle ad hoc et quelques instructions bien formulées. Cette industrialisation permet non seulement de produire en masse des contenus trompeurs hyperréalistes, mais aussi de les cibler individuellement, en ajustant le message à ce que les traces numériques de chacun révèlent de ses croyances ou de ses craintes. La manipulation cesse d'être un artisanat pour devenir une chaîne de production continue, alimentant commentaires et comptes automatisés (les fermes à troll) se faisant passer pour des citoyens ordinaires.

Le danger n'est pas seulement que l'on finisse par croire des fake-news particulières : il est plus profond. À mesure que les contenus falsifiés se multiplient et deviennent de moins en moins identifiables comme tels, que la presse indépendante et professionnelle perd de son importance et de sa crédibilité, c'est la confiance même en la possibilité de recevoir une vérité vérifiable, institutionnelle, scientifique ou journalistique, qui s'érode. Dès lors toute information peut être fausse, tout scandale écarté comme étant un fake, toute preuve gênante être contestée sans avoir à la réfuter sur le fond. 

Ce phénomène délétère ne s’impose pas par un coup de force brutal contre les institutions : il opère par une érosion progressive, déjà à l'oeuvre, de la confiance, rendant de plus en plus difficile, pour des citoyens désorientés par la profusion de contenus contradictoires, de distinguer une information vérifiée d'une manipulation industrialisée. Une démocratie pourra ainsi, éventuellement, conserver ses formes, ses élections et ses institutions, mais verra son fonctionnement réel se vider de sa substance. 

La délibération démocratique cédera la place, dans le meilleur des cas, à une confrontation permanente de réalités concurrentes, chacune défendue par des groupes antagonistes avec la même apparence de certitude, ou dans le pire, à une dictature du type de celle décrite par George Orwell dans son ouvrage prémonitoire 1984.

Conclusion

Etienne de La Boétie s'interrogeait, dans son Discours sur la servitude volontaire (1550), sur les raisons pour lesquelles les hommes, selon lui faits pour être libres, renonçaient si naturellement à leur liberté. Deux siècles de mécanisation capitalistique croissante, malgré les luttes sociales et, depuis une ou deux décennies, la généralisation de la numérisation puis de l’IA générative, la société de surveillance totale qu'elle rend possible et se perpétuent grâce à la complicité active de ses utilisateurs. 

En effet, ces derniers, pour nombre d'entre eux, sont rendus aveugles par la propagande des Big Tech, par le soutien irresponsable de nos gouvernements et par les peurs irrationnelles créées par des politiciens machiavéliques avides de pouvoir. Tout cela ne fait que renforcer le constat de La Boétie, bien avant l'avènement de l'IA : “La première raison pour laquelle les hommes s'asservissent volontairement, c'est qu'ils naissent serfs et qu'ils sont élevés dans la servitude.”

Le rapport The Human Advantage: Stronger Brains in the Age of AI du World Economic Forum, peu soupçonné de gauchisme, modernise cette conclusion et en pointe la raison : “le risque d'une dépendance excessive à l'IA à mesure que nous l'utilisons comme notre ‘deuxième cerveau’ font que certains chercheurs anticipent que plus l'IA devient intelligente, plus les humains deviennent stupides.”

Bibliographie

● Altman, Sam (2021), Moore's Law for Everything, publié sur son blog le 16 mars 2021, https://moores.samaltman.com/ 

● Brynjolfsson, Erik ; Chandar, Bharat ; Chen, Ruyu (2025), Canaries in the Coal Mine? Six Facts about the Recent Employment Effects of Artificial Intelligence, Stanford Digital Economy Lab, 13 novembre 2025

● Fonds monétaire international (2024), Gen-AI: Artificial Intelligence and the Future of Work, IMF Staff Discussion Note, 14 janvier 2024

● GSMA (2026), The Mobile Economy Europe 2026, Groupe Special Mobile Association

● Hume, David (1740), Traité de la nature humaine, Livre III

● La Boétie, Étienne de (1550), Discours de la servitude volontaire

● Parisi, Giorgio (2025), Le simmetrie nascoste, perché la fisica è alle radici dell'intelligenza artificiale di oggi e di domani, Rizzoli editore

● Platon, Phèdre, in : Platone, tutti gli scritti, a cura di Giovanni Reale, Bompiani, 2018

● Sadin, Éric (2025), Le désert de nous-mêmes, L'Échappée éditeur

● World Economic Forum (2026), Global Risks Report 2026, janvier 2026