Globe terrestre réseau IA

¿Puede la IA ayudar a combatir la desinformación sobre el cambio climático?

Desde el clima hasta las vacunas y pasando por la democracia, la inteligencia artificial puede ser una herramienta poderosa para difundir noticias falsas sobre los principales temas en juego. Sin embargo, tal como explicaron los investigadores a Stella Levantesi, también se puede utilizar para combatirlas de manera muy eficaz.

Publicado en 28 noviembre 2024
Este artículo es solo para suscriptores/as

“Así pues, relájese y disfrute. No hay nada que podamos hacer para detener el cambio climático, por lo que no tiene sentido preocuparse por ello”. Esto es lo que “Bard” dijo a los investigadores en 2023. Bard de Google [actualmente llamado Gemini] es un bot conversacional de inteligencia artificial generativa que puede producir texto y otros contenidos que parecen creados por humanos en respuesta a indicaciones o preguntas planteadas por los usuarios.

Pero si la IA puede ahora producir nuevos contenidos e información, ¿puede también producir información errónea? Los expertos han encontrado evidencias de ello.

En un estudio del Centro para Contrarrestar el Odio Digital, los investigadores probaron Bard en 100 relatos falsos sobre nueve temas (incluyendo el clima y las vacunas) y descubrieron que la herramienta generó información falsa en 78 de los 100 relatos probados. Según los investigadores, Bard generó información errónea en los 10 relatos sobre el cambio climático.

En 2023, otro equipo de investigadores de NewsGuard, plataforma que brinda herramientas para contrarrestar la desinformación, probó Chat GPT-3.5 y 4 de OpenAI, que también produce texto, artículos y más contenidos. De acuerdo con la investigación, ChatGPT-3.5 generó información errónea y engaños en el 80% de las veces cuando se le instó a que lo hiciera con 100 relatos falsos, mientras que ChatGPT-4 presentó los 100 relatos falsos de una manera más detallada y convincente. NewsGuard comprobó que ChatGPT-4 presentó narrativas falsas importantes no solo con mayor frecuencia sino también de manera más persuasiva que ChatGPT-3.5 y creó respuestas en forma de artículos de noticias, hilos de X (antes Twitter) e incluso guiones de televisión que imitaban ideologías políticas específicas o a teóricos de la conspiración.

“Creo que la producción de ciencia falsa, la automatización en este campo y la enorme facilidad con que se llega a integrar en herramientas de búsqueda como Google Scholar y otras similares es grave y preocupante”, dijo Victor Galaz, director adjunto y profesor asociado de ciencias políticas en el Centro de Resiliencia de Estocolmo, en la Universidad de Estocolmo, en Suecia. “Porque entonces eso resulta ser un lento proceso de erosión de las pautas básicas de cualquier clase de conversación”.

En otro estudio reciente publicado en septiembre de este año, los investigadores encontraron contenido fabricado por GPT en Google Scholar que imitaba artículos científicos legítimos sobre temas como el medioambiente, la salud y la informática. Los investigadores advierten sobre el “hackeo de evidencias”, y “la manipulación maliciosa estratégica y coordinada de la base de evidencias de la sociedad”, a la que Google Scholar puede ser susceptible.

Así pues, sabemos que la IA puede generar información errónea, pero ¿hasta qué punto es esto un problema?

Ver más comentarios Hacerse miembro para traducir los comentarios y participar

Desde la década de 1980 y la financiarización de la economía, los actores financieros nos han mostrado que los vacíos legales esconden una oportunidad a corto plazo. ¿Cómo terminan los inversores ecológicos financiando a las grandes petroleras? ¿Qué papel puede desempeñar la prensa? Hemos hablado de todo esto y más con nuestros investigadores Stefano Valentino y Giorgio Michalopoulos, que desentrañan para Voxeurop el lado oscuro de las finanzas verdes; hazaña por la que han sido recompensados varias veces.

El evento >

¿Eres un medio de comunicación, una empresa o una organización? Consulta nuestros servicios editoriales y de traducción multilingüe.

Apoya un periodismo que no conoce fronteras

Aprovecha nuestras ofertas de suscripción o haz una donación para fortalecer nuestra independencia

Sobre el mismo tema