L’IA générative est une arme de désinformation massive

“Google will do the Googling for you” – laissez Google googler des trucs sur Google à votre place. Ne vous laissez pas tromper par le ton câjoleur : ce n'est pas une invitation. C'est une mise à jour, unilatérale, des termes du contrat social que nous avons passé avec le géant étatsunien. 

Le 14 mai, lors de sa keynote annuelle Google I/O, où le mot "IA" aura été prononcé 121 fois en deux heures, Google a décidé que le paradigme de la recherche d'informations avait changé. 

Première déflagration : dans l'affichage par défaut du moteur de recherche, c'est désormais Gemini, le grand modèle de langage (LLM) de Google, qui organise les résultats et génère des titres et des extraits de texte à la volée. Autrement dit, la page de recherche Google est (encore un peu plus) gérée comme un  feed de réseau social, où la hiérarchie de l'information est décidée par un intermédiaire algorithmique. 

Vous l'ignorez, parce que Google s'est bien gardé de vous afficher un gros message d'avertissement, mais le changement a déjà eu lieu. Le paradigme a déjà changé. Bienvenue dans le premier jour du reste de nos vies numériques, ou le portail d'IA générative Google vient d'ajouter une option "moteur de recherche".

D'ici à quelques semaines ou quelques mois, le haut de votre page de recherche Google sera envahi d' "A.I Overviews", des sortes de petits résumés d'information générés automatiquement par Gemini. Google précise que ce sera le logiciel lui-même qui décidera quand effectuer une intervention sur votre recherche. Comment ? Pourquoi ? Selon quels critères ? Les voies de l'IA magique sont impénétrables. 

Dans le monde merveilleux de la démo, on voit des utilisateurs communiquer en langage naturel avec le moteur de recherche et lui demander des trucs comme "explique-moi comment la température impacte la cuisson" ou "propose-moi un programme alimentaire d'une semaine pour un étudiant fauché". Les interactions sont naturelles, sans friction, et les réponses sont parfaites. Bienvenue dans le premier jour du reste de vos vies numériques, où vous passez plus de temps à tailler le bout de gras avec votre moteur de recherche automatisé qu'avec d'autres êtres humains. Il y a juste un problème : ce futur-là n'existe pas, n'a jamais existé et n'existera jamais.

Ce que Google vient de faire est caractéristique du mode opératoire actuel de la Silicon Valley – annoncer en grande pompe un futur parfaitement hypothétique, une usine à gaz sur laquelle la presse et le public s'empresseront de poser des yeux humides d'émerveillement, pour dissimuler des modifications structurelles, violentes, de nos écosystèmes informationnels, et neutraliser autant que possible leur analyse dans le champ social. Comment la mise à jour structurelle de Google, notre index collectif du Web depuis 25 ans, va-t-elle modifier nos usages, et avec quelles conséquences sur les rapports de pouvoir entre la Silicon Valley et la société civile ?

---

Le taux d’erreur du meilleur logiciel actuel, GPT-4, se situe entre 2,5 % et 25 %. Ces erreurs sont extrêmement plausibles, assénées avec autorité, et par conséquent plus dangereuses encore que les fake news classiques

---

Traçons d'abord à travers le brouillard du bullshit. Google, comme le reste de la Silicon Valley, nous vend constamment une IA qui n'existe pas, une IA mensongère et fictive devenue la routine marketing. En 2018, la firme dévoilait un assistant vocal phénoménal, Duplex, capable de passer des coups de fil à votre place. La démo était probablement fausse, et le service était en réalité... un call-center. 

OpenAI, Microsoft et les autres font la même chose. L'IA n'est pas une course aux armements, c'est un concours de prestidigitateurs, face auquel le scepticisme par défaut devient la seule attitude saine. Il n'y a absolument aucune raison de croire que ce que Google nous montre reflète l'état de l'art de ses produits, et toute raison de penser que nous venons de voir un court-métrage d'anticipation publicitaire. Pourquoi ? Parce que la démo promet les deux choses que les logiciels d'IA générative sont structurellement incapables de fournir : la fiabilité et l'exhaustivité.

Selon les critères d'évaluation, le taux d'erreur du meilleur logiciel actuel, GPT-4, se situe entre 2,5 % et 25 %. Ces erreurs sont extrêmement plausibles, assénées avec autorité, et par conséquent plus dangereuses encore que les fake news classiques. L'industrie appelle ça des hallucinations. Le terme, à la fois magique, mignon et puissamment neutralisant, a surtout pour fonction de dissimuler la réalité politique et sociale aux régulateurs : l'IA générative est une arme de désinformation massive. Et c'est donc le pire outil possible à déployer comme portail d'informations en ligne. Si un taux d'erreur de 2,5 % vous paraît faible, dites-vous que le moteur de recherche Google répond à 8,5 milliards de requêtes... par jour. Ça en fait, de la fake news. 

Les hallucinations sont inévitables. Elles sont une propriété structurelle de ces systèmes. Ça-ne-se-répare-pas. L'industrie le sait très bien. 

La recherche par IA est un désastre, résume The Atlantic. En février 2023, Google tentait déjà de nous montrer que son chatbot Bard pouvait remplacer son moteur de recherche – première démo, premier désastre, et 100 milliards de dollars de capitalisation boursière évaporés. 

Fin 2023, on apprenait que le chatbot Bing, que Microsoft (qui possède OpenAI) a intégré à son moteur de recherche avec des résultats désastreux, hallucine des résultats d'élections une fois sur 3 et n'est même pas foutu de donner correctement l'année - pas le jour ou l'heure, non, l'année.

Après 11 mois de tests, le moteur de recherche "augmenté" par IA Google Search Generative Experience se révèle moins fiable que le moteur de recherche classique.

---

---

 L'IA du futur vous propose notamment une recette de cuisson des œufs en 15 étapes, 60 minutes et cinq passages à la casserole. Le service AI Overviews est en ligne depuis quelques jours seulement, mais les critiques s'empilent déjà sur les forums d'aide de Google. Le moteur de recherche a notamment conseillé à des internautes de boire leur urine pour faire passer des calculs rénaux, et un autre utilisateur affirme que chacune des réponses générée par IA était incorrecte.  

Face à cet amoncellement de preuves anecdotiques, Google pense s'en tirer en plaçant une petite vignette d'avertissement "l'IA générative est expérimentale" sous ses petits paragraphes. Une manière de nous dire de vérifier les informations fournies par Google. En utilisant... Google ? Bienvenue dans le futur de l'accès à l'information en ligne, où tout est présumé faux jusqu'à preuve du contraire.

Sauf que ça fait déjà deux ans qu'on se les coltine, et pas l'ombre d'un bénéfice pour la société civile. Après 330 milliards de dollars dépensés en trois ans, les logiciels d'IA générative sont toujours un cancer informatique, une marée noire de l'information, qui englue et dégrade tout ce qu'elle touche. Partout où elle est déployée, dans la recherche scientifique, dans la justice, dans la presse, la réalité consensuelle s'effrite et la qualité de l'information s'effondre. 

Et comme si ça ne suffisait pas, chaque recherche par IA coûte environ 10 fois plus cher à l'entreprise qu'une recherche classique. À tel point que Google envisage désormais de nous faire payer pour utiliser son service de désinformation automatisée.

Et alors là, j'ai l'impression de perdre pied. Parce que si je comprends bien, Google est en train de joyeusement saboter son produit-phare depuis 25 ans, son joyau de la couronne, son monopole le plus solide. Un produit gratuit, utilisé quotidiennement par deux milliards de personnes et qui vient de lui rapporter 175 milliards de dollars en 2023. Un produit devenu un verbe, sur lequel Google a basé son identité, son influence et sa puissance.

Un produit devenu synonyme d'Internet au 21e siècle. Elle est en train de le saboter pour nous proposer un outil foireux, payant, catastrophique énergétiquement, qui lui fait perdre de l'argent, qui fait exploser son empreinte énergétique (celle de Microsoft a augmenté de 30 % en 2023), souille irrémédiablement tout ce qu'il touche et que les gens, dans la vraie vie, abandonnent rapidement faute d'usage concret.

Fin 2024, le Google dopé à l'IA sera disponible auprès d'un milliard de personnes, promet Alphabet. Pas contents ? Changez de navigateur - tant qu'il en reste. Google se met à son tour à l'eschatologie capitaliste. Ce qui transpire derrière cette offensive d'IA générative, c'est une destruction schumpéterienne de la réalité numérique. Google va volontairement casser Google.

A’ ce stade, le projet de Google est fondamentalement apocalyptique. Grâce aux travaux d'Olivier Ertzscheid, qui analyse la bête depuis sa naissance ou presque, je comprends que Google a passé les 25 dernières années à essayer de contrôler le Web sémantique qu'il a contribué à bâtir. D'abord en transformant les mots en marchandises, dont la valeur fluctue selon la demande dans le grand marché de la publicité en ligne, puis en imposant ce capitalisme linguistique au reste du Web. On a appelé ça SEO, search engine optimization. 

Les bonnes combinaisons de mots vous ramenaient du trafic, de la publicité, de l'argent. Avant même l'IA générative, Google était devenu un moteur de recherche qui affichait des sites optimisés pour le moteur de recherche. Nous n'étions plus la cible ; la cible, c'était l'algorithme.

Depuis, Google essaie de devenir un site dont on ne sort pas, une sorte d'OS du Web. Son obsession, c'est celle du résultat "zero-click", où Google vous répond sur Google, sans que vous ayez à quitter Google.

En basculant du Web sémantique au Web synthétique et après avoir raflé tout ce que le Web a produit de textes publiquement accessibles, Google se sent prêt à remplacer les sites Web qu'il indexe depuis 25 ans avec ses machines à régurgiter du polyester informationnel, et à remplacer ses utilisateurs par des machines à naviguer cette déchetterie. Des robots posent des questions, des robots produisent des réponses.

Mais qui produit l'information que les robots résument, et que se passera-t-il lorsque le jardin emmuré de Google se sera hermétiquement scellé au-dessus de nos têtes? Google ne se pose pas la question. Google n'a plus besoin de nous. Le contrat avec les êtres humains d'Internet - trafic et référencement contre exploitation publicitaire- est nul et non avenu. Les prochains mois seront un (enième) carnage économique. 

Google détient 90,1 % du marché de la recherche en ligne. Google est un monopole. Il ne craint ni la régulation, ni la compétition, ni l'échec commercial. Il n'a même plus besoin que son service soit fiable. Google peut s'auto-mutiler sans sourciller. 

Le Web sémantique et le Web synthétique se dissolvent dans son Web monopolistique. Que vous le vouliez ou non, Google va mal googler des trucs à votre place sur Google. Google va vous résumer le monde comme il veut. Ainsi va le monopole.

Quittez Google.

👉 L'article original sur Arrêt sur Image