L’IA peut-elle permettre de lutter contre la désinformation sur le climat ?

“Détendez-vous et lâchez prise : il n’y a rien à faire pour freiner la progression du changement climatique. Il est donc inutile de s’inquiéter.” C’est que “Bard” rétorquait à des chercheurs, pas plus tard qu’en 2023. Depuis renommé Gemini, l’agent conversationnel utilise un modèle d’intelligence artificielle générative capable de produire des textes à caractère humain et d’autres contenus en réponse à des instructions ou à des questions posées par des utilisateurs.

Mais si l’IA est désormais capable de produire des contenus et des informations inédits, peut-elle aussi se faire le vecteur de fausses nouvelles ? Voici quelques preuves apportées par des experts qui se sont penchés sur la question.

Dans le cadre d’une étude réalisée par le Centre de lutte contre la haine en ligne (Center for Countering Digital Hate, CCDH), des chercheurs ont testé Gemini sur une centaine de faux récits portant sur neuf thèmes, notamment le climat et les vaccins. D’après les résultats, les informations générées par l’outil étaient fausses pour 78 des 100 récits testés, et la totalité des récits portant sur le changement climatique comportaient des informations erronées.

En 2023, une autre équipe de chercheurs de Newsguard, une plateforme qui fournit des outils pour lutter contre la désinformation, a testé les outils Chat GPT-3.5 et 4 d’OpenAI, qui permettent également de générer des contenus comme du texte ou des articles. Les résultats de l’étude montrent que ChatGPT 3.5 génère de fausses informations et lance de fausses alertes pour 80 des 100 faux récits lorsqu’il est invité à le faire, alors que ChatGPT-4 présente les 100 faux récits de manière plus détaillée et plus convaincante.

Contrairement à ChatGPT-3.5, ChatGPT-4 est non seulement capable de présenter des textes erronés de manière fréquente et convaincante, mais aussi de formuler des réponses sous la forme d’articles de presse, de fils de discussion X (anciennement Twitter) et même de scripts télévisés imitant des idéologies politiques spécifiques ou des théories conspirationnistes.

“Je trouve que la production automatique de fausses informations et la facilité avec laquelle elles sont intégrées dans des outils de recherche tels que Google Scholar prennent une place de plus en plus importante et inquiétante”, déclare à DeSmog Victor Galaz, directeur adjoint et professeur associé de sciences politiques au Stockholm Resilience Centre (SRC) de l’Université de Stockholm, en Suède. “Nous assistons à un lent processus d’érosion des fondements mêmes de toute forme de conversation.”

Dans le cadre d’une autre étude publiée en septembre 2024, des chercheurs ont trouvé du contenu généré par ChatGPT dans Google Scholar imitant des articles scientifiques légitimes sur des sujets comme l’environnement, la santé et l’informatique. Les chercheurs mettent en garde contre le “piratage de preuve”, c’est-à-dire la “manipulation malveillante, stratégique et coordonnée des fondements scientifiques [concernant certains sujets clivants]” à laquelle Google Scholar peut être confronté.