La IA generativa es un arma de desinformación masiva

“Google will do the Googling for you”, Deje que Google busque en Google por usted. No se deje engañar por el tono persuasivo: no es una invitación. Se trata de una actualización unilateral de los términos del contrato social que firmamos con el gigante estadounidense. 

El 14 de mayo, durante la presentación anual de Google I/O, donde la expresión "IA" se utilizó 121 veces en dos horas, Google decidió que el paradigma de búsqueda de información había cambiado.

Primera deflagración: en la vista por defecto del motor de búsqueda, ahora es Gemini, el gran modelo de lenguaje (LLM) de Google, que organiza los resultados y genera títulos y extractos de texto sobre la marcha. Dicho de otra manera, la página de búsqueda de Google se gestiona (un poco más si cabe) como el feed de una red social, donde la jerarquía de la información la decide un intermediario algorítmico. 

Usted no lo sabe, porque Google se ha cuidado de avisarle abiertamente, pero el cambio ya ha tenido lugar. Ya se ha cambiado el paradigma. Bienvenido al primer día del resto de su vida digital, donde el portal de IA generativa de Google acaba de añadir una opción de “motor de búsqueda”.

Dentro de unas pocas semanas o meses, la parte superior de su página de búsqueda de Google será invadida por "A.I Overviews", pequeños resúmenes de información generados automáticamente por Gemini. Google especifica que será el propio software el que decidirá cuándo intervenir en la búsqueda del usuario. ¿Cómo? ¿Por qué? ¿Según qué criterios? Los caminos de la IA mágica son inescrutables.

En el maravilloso mundo mostrado en la  demo, vemos a los usuarios comunicarse en lenguaje natural con el motor de búsqueda y preguntarle cosas como "explícame cómo la temperatura afecta a la cocción" o "recomiéndame un plan de alimentación de una semana para un estudiante sin blanca". Las interacciones son naturales, sin fricciones y las respuestas, perfectas. Bienvenidos al primer día del resto de vuestras vidas digitales, donde pasaréis más tiempo hablando con vuestro motor de búsqueda automatizado que con otros seres humanos. Sólo hay un problema: este futuro no existe, nunca ha existido y nunca existirá.

Lo que Google acaba de hacer es característico del actual modo de operar de Silicon Valley: anunciar a bombo y platillo un futuro perfectamente hipotético, una máquina infernal que la prensa y el público se apresurarán a mirar con ojos húmedos de asombro, para ocultar violentas modificaciones estructurales de nuestros ecosistemas de información y neutralizar en la medida de lo posible sus análisis en el campo social. ¿Cómo modificará nuestros usos la actualización estructural de Google, nuestro registro colectivo de la Web desde hace 25 años, y con qué consecuencias sobre las relaciones de poder entre Silicon Valley y la sociedad civil?

---

La tasa de error del mejor programa actual, GPT-4, si sitúa entre el 2,5 % y el 25 %. Estos errores son extremadamente plausibles, afirmados con autoridad y, por lo tanto, incluso más peligrosos que las clásicas fake news.

---

Empecemos por rastrear a través de ese montón de sandeces. Google, como el resto de Silicon Valley, nos vende constantemente una IA que no existe, una IA engañosa y ficticia que se ha convertido en una rutina de marketing. En 2018, la firma presentó un fenomenal asistente de voz, Duplex, capaz de realizar llamadas telefónicas por usted. La demo probablemente era falsa y el servicio era en realidad... un call center.

OpenAI, Microsoft y el resto están haciendo lo mismo. La IA no es una carrera armamentista, es una competencia de ilusionistas, frente a la cual el escepticismo se convierte por defecto en la única actitud sensata. No hay absolutamente ninguna razón para creer que lo que Google nos muestra refleja el estado más avanzado de sus productos, y sí que hay todos los motivos para pensar que acabamos de ver un cortometraje a modo de anticipo publicitario. ¿Por qué? Porque la demo promete las dos cosas que el software de IA generativa es estructuralmente incapaz de ofrecer: fiabilidad y exhaustividad.

Según los criterios de evaluación, la tasa de error del mejor programa actual, GPT-4, si sitúa entre el 2,5 % y el 25 %. Estos errores son extremadamente plausibles, afirmados con autoridad y, por lo tanto, incluso más peligrosos que las clásicas fake news. La industria lo llama alucinaciones. El término, a la vez mágico, lindo y poderosamente neutralizante, tiene la función principal de ocultar la realidad política y social a los reguladores: la IA generativa es un arma de desinformación masiva. Y, por tanto, es la peor herramienta posible para implementar como portal de información en línea. Si una tasa de error del 2,5 % les parece baja, recuerden que el motor de búsqueda de Google responde a 8500 millones de consultas... al día. En realidad, son fake news.

Las alucinaciones son inevitables. Constituyen una propiedad estructural de estos sistemas. No se puede arreglar. La industria lo sabe muy bien.

La búsqueda por IA es un desastre, resume The Atlantic. En febrero de 2023, Google ya había intentado enseñarnos que su chatbot Bard podía reemplazar a su motor de búsqueda. Primera demostración y primer desastre… y 100 000 millones de dólares de capitalización bursátil evaporados.

A finales de 2023, se supo que el chatbot Bing, que Microsoft (propietario de OpenAI) integró en su motor de búsqueda con resultados desastrosos, alucina con los resultados electorales una de cada 3 veces y ni siquiera es capaz de indicar correctamente el año; no el día o la hora, no, el año.

Después de 11 meses de ensayos, el motor de búsqueda “aumentado” por IA Google Search Generative Experience se revela menos fiable que el motor de búsqueda clásico.

---

---

La IA del futuro propone especialmente una receta para cocer huevos en 15 etapas, 60 minutos y cinco pasos por la cazuela. El servicio AI Overview solo lleva en línea unos cuantos días, pero ya se amontonan las críticas en los foros de ayuda de Google. El motor de búsqueda ha aconsejado muy especialmente a los internautas beber sus propios orines para expulsar los cálculos renales, mientras que otro usuario afirma que cada una de las respuestas generadas por la IA era incorrecta.  

Ante este montón de pruebas anecdóticas, Google cree que puede salirse con la suya colocando una pequeña etiqueta de advertencia "La IA generativa es experimental" por debajo de sus pequeños párrafos. Una forma de decirnos que revisemos la información proporcionada por Google. ¿buscando en... Google? Bienvenido al futuro del acceso a la información en línea, donde todo se presume falso hasta que se demuestre lo contrario.

Sólo que ya llevamos dos años soportando esta pejiguera y no vemos el menor beneficio para la sociedad civil. Después de gastar 330 000 millones de dólares en tres años, el software de IA generativa sigue siendo un cáncer para la informática, una marea negra de información que engulle y degrada todo lo que toca. Dondequiera que se despliegue, en la investigación científica, en la justicia, en la prensa, la realidad consensuada se desmorona y la calidad de la información cae por los suelos.

Y por si esto no fuera suficiente, cada búsqueda por IA resulta cerca de 10 veces más cara a la empresa que una búsqueda clásica. Hasta tal punto que Google se plantea ahora hacernos pagar por utilizar su servicio de desinformación automatizada.

Y ahora sí que tengo la impresión de estar perdiendo el hilo. Porque si no lo he entendido mal, Google sabotea alegremente lo que desde hace 25 años ha sido su producto estrella, su joya de la corona, su monopolio más fuerte. Un producto gratuito, utilizado diariamente por dos mil millones de personas y que acaba de reportarle 175 000 millones de dólares en 2023. Un producto que se ha convertido en un verbo, en el que Google ha basado su identidad, su influencia y su poder.

Un producto que se ha convertido en sinónimo de Internet en el siglo XXI. Está a punto de sabotearlo para proponernos una herramienta pésima, de pago, catastrófica energéticamente, que le hace perder dinero, que multiplica su huella energética (la de Microsoft ha aumentado un 30 % en 2023), que contamina irremediablemente todo lo que toca y que la gente, en la vida real, abandona rápidamente por falta de uso concreto.

Alphabet promete que a finales de 2024, el Google dopado con IA estará disponible para mil millones de personas. ¿No les hace felices la promesa? Cambien de navegador, mientras queden otros a los que recurrir. Google, a su vez, abraza la escatología capitalista. Lo que hay detrás de esta ofensiva de IA generativa es una destrucción schumpeteriana de la realidad digital. Google va a destrozar voluntariamente a Google.

A estas alturas, el plan de Google es básicamente apocalíptico. Gracias al trabajo de Olivier Ertzscheid, que ha estado analizando la bestia desde su nacimiento o casi, entiendo que Google ha pasado los últimos 25 años intentando controlar la Web semántica que ayudó a construir. Primero, transformando las palabras en mercancías, cuyo valor fluctúa según la demanda en el gran mercado de la publicidad en línea, y luego imponiendo ese capitalismo lingüístico al resto de la Web. A eso lo han llamado SEO, search engine optimization (optimización de motores de búsqueda).

Las combinaciones correctas de palabras generaban tráfico, publicidad y dinero. Incluso antes de la IA generativa, Google se había convertido en un motor de búsqueda que ofrecía sitios optimizados para el motor de búsqueda. Nosotros ya no éramos el objetivo; el objetivo era el algoritmo.

Después, Google intenta convertirse en un sitio del que no hay que salir, una especie de sistema operativo Web. Su obsesión es la del resultado de “cero clics”, donde Google responde al usuario en Google, sin que tenga que salir de Google.

Al pasar de la Web semántica a la Web sintética y después de haber arramblado con todo lo que la Web ha producido en textos de acceso público, Google se siente preparado para sustituir los sitios Web que indexa desde hace 25 años con sus máquinas de regurgitar poliéster informativo y reemplazar a sus usuarios por máquinas para navegar por este basurero. Los robots hacen las preguntas, los robots generan las respuestas.

Pero, ¿quién produce la información que resumen los robots y qué pasará cuando el jardín amurallado de Google quede herméticamente cerrado sobre nuestras cabezas? Google no hace la pregunta. Google ya no nos necesita. El contrato con los seres humanos de Internet (tráfico y SEO contra explotación publicitaria) queda anulado y sin efecto. Los próximos meses serán otra carnicería económica (más).

Google posee el 90,1 % del mercado de búsquedas online. Google es un monopolio. No teme ni a los reglamentos oficiales, ni a la competencia, ni al fracaso comercial. Ya ni siquiera necesita que su servicio sea fiable. Google puede automutilarse sin pestañear.

La Web semántica y la Web sintética se disuelven dentro de su Web monopolista. Lo quieran o no, Google va a googlear mal las cosas en Google. Google resumirá el mundo como quiera. Así funciona el monopolio.

Dejen de usar Google.

👉 Artículo original en Arrêt sur Image