Elige un idioma
Junto con la guerra en Ucrania, la nueva ola de la crisis migratoria y el desastre actual del cambio climático, la inteligencia artificial (IA) es uno de los temas que han dominado el mundo este año. Dependiendo de a quién escuches, la IA resolverá todos los problemas de la humanidad o destruirá la civilización tal como la conocemos. He aquí nuestra primera paradoja: a veces son las mismas personas las que dicen ambas cosas. Y, sorprendentemente, la mayoría provienen de Silicon Valley...
Repasemos algunos de los principales acontecimientos relacionados con la IA en este año, para tener una idea de lo que está sucediendo. Ya describí muchos de ellos en un largo ensayo que apareció en el New York Times a principios de este año.
Permítanme revelar aquí la premisa básica: nuestro actual encaprichamiento con la promesa de la IA es, en muchos sentidos, solo una extensión de nuestro encaprichamiento con el mercado y el neoliberalismo. No hay manera de entender por qué tantas instituciones públicas se están creyendo las dulces promesas de los impulsores de la IA, a menos que situemos este impulso de marketing en un historial más amplio de privatización de soluciones que en circunstancias normales serían problemas públicos y colectivos. Entonces, resolver nuestros problemas a través de la IA hoy equivale a resolverlos mediante el mercado. Personalmente, lo encuentro problemático y espero que ustedes también. Pero esta conexión (entre la IA actual y el neoliberalismo) no se comprende bien. Déjenme explicarles esto un poco mejor.
En mayo, más de 350 ejecutivos, investigadores y académicos del campo de la tecnología firmaron una declaración advirtiendo sobre los peligros existenciales de la inteligencia artificial. "Mitigar el riesgo de extinción debido a la IA debería ser una prioridad mundial junto con otros riesgos a escala social, como las pandemias y la guerra nuclear", advirtieron los firmantes.
Esto se produjo inmediatamente después de otra carta de gran notoriedad, firmada por personas de la talla de Elon Musk y Steve Wozniak, cofundador de Apple, en la que se pedía una moratoria de seis meses para el desarrollo de sistemas avanzados de inteligencia artificial.
Mientras tanto, la administración Biden instó a una innovación responsable en IA, afirmando que "para aprovechar las oportunidades" que ofrece, "primero debemos gestionar sus riesgos". En el Congreso, los senadores pidieron por primera vez unas audiencias sobre el potencial y los riesgos de la IA, una especie de curso intensivo impartido por ejecutivos de la industria, académicos, activistas de derechos civiles y otras entidades interesadas.
La creciente ansiedad sobre la IA no se debe a las tecnologías aburridas pero fiables que completan automáticamente nuestros mensajes de texto o dirigen los robot-aspiradora para que esquiven los obstáculos de nuestras salas de estar. Es el auge de la inteligencia artificial general, o AGI, lo que preocupa a los expertos.
La AGI aún no existe, pero algunos creen que el avance a grandes zancadas de ChatGPT de OpenAI sugieren que su aparición está cerca. Sam Altman, cofundador de OpenAI, lo ha descrito como "sistemas que generalmente son más inteligentes que los humanos". Construir tales sistemas sigue siendo una tarea abrumadora y, según algunos, imposible. Pero las ventajas parecen realmente tentadoras.
Tomemos como ejemplo las Roombas, las aspiradoras inteligentes. Ya no estarían condenadas a aspirar los suelos solamente, sino que podrían evolucionar hasta convertirse en robots multiuso, listos para preparar el café de la mañana o doblar la ropa. La magia aquí es que, con la AGI, podrán hacerlo sin tener que ser programadas para hacer estas cosas.
Suena bien. Pero si estas Roombas de AGI se vuelven demasiado poderosas, su misión de crear una limpísima utopía podría acabar suponiendo un problema para sus dueños humanos que esparcen polvo por doquier. Después de todo, somos nosotros, los humanos, la causa de todo ese polvo y, una vez más, dado que estas Roombas nunca están programadas adecuadamente, podrían razonar que eliminar a los humanos es una forma de mantener el hogar limpio. Así pues, piénseselo dos veces antes de adquirir una Roomba con tecnología AGI.
Las discusiones sobre la AGI están plagadas de escenarios apocalípticos de este tenor. Sin embargo, un incipiente lobby a favor de la AGI formado por académicos, inversores y empresarios replica que cuando esta tecnología sea segura representará una gran ayuda para la civilización. Altman, el rostro visible de la campaña, se embarcó en una gira mundial para encandilar a los legisladores. A principios de este año escribió que la AGI podría incluso dinamizar la economía, impulsar el conocimiento científico y "elevar a la humanidad aumentando la abundancia".
Esta es la razón por la que, a pesar de todos los lamentos, tantas personas inteligentes de la industria tecnológica se están esforzando por construir esta controvertida tecnología: no usarla para salvar el mundo parece inmoral. Así pues, los riesgos de que la AGI destruya el planeta palidecen en comparación con sus promesas: curar el cáncer o eliminar el analfabetismo o darnos a todos un asistente personal.
Todos estos visionarios de la tecnología se sienten en deuda con una ideología que considera esta nueva tecnología como inevitable y, en una versión segura, universalmente ventajosa. Sus defensores no pueden pensar en mejores alternativas para arreglar la humanidad y aumentar su inteligencia. Permítanme repetirlo: para ellos, el camino para impulsar la inteligencia de nuestra civilización pasa por ajustar los modelos de datos, alimentándolos con más y mejores datos. Es principalmente un programa técnico.
Pero la ideología más amplia que impulsa este esfuerzo -llamémosle AGI-ismo- está equivocada. Los riesgos reales de la AGI son políticos y no se solucionarán domesticando robots rebeldes. Ni siquiera la AGI más segura no lograría la panacea progresista prometida por su lobby. Y al presentar su surgimiento como casi inevitable, el AGI-ismo distrae la atención de encontrar mejores formas de aumentar la inteligencia. Hablaré de algunos de ellos hacia el final de mi charla.
Sin que sus defensores lo sepan, el AGI-ismo es solo un hijo bastardo de una ideología mucho más ambiciosa que predica, tal como lo expresó de manera memorable Margaret Tatcher, que no hay alternativa, no al mercado. Porque las empresas de tecnología que están creando la AGI no son entes humanitarios en la línea de Naciones Unidas o la Madre Teresa: son capitalistas con ánimo de lucro interesados en promover la institución del mercado como la principal forma de organizar nuestra sociedad.
Esta es la razón por la que, en lugar de romper el capitalismo, como Altman insinuó que podría hacer, es más probable que la AGI -o al menos la prisa por crearla- genere un aliado poderoso (y mucho más moderno) para el credo más destructivo del capitalismo: el neoliberalismo.
Fascinados por la privatización, la competencia y el libre comercio, los arquitectos del neoliberalismo querían dinamizar y transformar una economía estancada y favorable a los trabajadores valiéndose de los mercados y la liberalización.
Algunas de estas transformaciones funcionaron, pero tuvieron un coste inmenso. A lo largo de los años, el neoliberalismo fue atacado por muchísimos críticos, que lo culparon de la Gran Recesión y la crisis financiera, el Trumpismo, el Brexit y mucho más.
No sorprende, entonces, que la presidencia de Biden se haya distanciado de la ideología, reconociendo que los mercados a veces se equivocan. Fundaciones, laboratorios de ideas y académicos incluso se han atrevido a imaginar un futuro posneoliberal. Lamentablemente, tales declaraciones son muy escasas en Europa, incluso aunque Emmanuel Macron haya aparecido recientemente en los titulares por su discurso sobre la planificación ecológica como forma de resolver la crisis climática.
Sin embargo, el neoliberalismo dista mucho de estar muerto. Peor aún, ha encontrado un aliado en el AGI-ismo, que refuerza y replica sus principales sesgos. Permítanme centrarme en tres en esta charla. En primer lugar, está la idea de que los actores privados suelen obtener unos resultados superiores a los públicos (lo que yo llamo sesgo del mercado). En segundo lugar está la idea neoliberal clásica de que adaptarse a la realidad es más importante que transformarla (podemos llamarlo sesgo de la adaptación). En tercer lugar está la idea de que la necesidad de maximizar la eficiencia siempre se impone a las preocupaciones sociales, particularmente aquellas relacionadas con la justicia social (podemos llamarlo el sesgo de la eficiencia).
Estos sesgos ponen patas arriba la seductora promesa que entraña la AGI: en lugar de salvar al mundo, el afán por crearla sólo empeorará las cosas.
El sesgo del mercado
Abordemos el primerísimo de los sesgos: el del mercado, es decir, la idea de que tenemos que recurrir a proveedores de servicios privados y situarlos por encima de los del mercado. ¿Recuerdan cuando Uber, con sus tarifas económicas, estaba intentando convertirse en el sistema de transporte público de muchísimas ciudades?
Todo empezó bien, cuando Uber prometió viajes inverosímilmente baratos, cortesía de un futuro con coches autónomos y costes laborales mínimos. A los inversores con mucho dinero les encantó esta visión, e incluso absorbieron las pérdidas multimillonarias de Uber.
Pero cuando la realidad se hizo palpable, los coches autónomos seguían siendo una quimera. Los inversores exigieron rentabilidad y Uber se vio obligada a subir los precios. Tirados en las aceras quedaron los usuarios que confiaban en Uber para sustituir a los autobuses y los trenes públicos. El instinto neoliberal que impulsó el modelo de negocio de Uber es que el sector privado puede hacer las cosas mejor que el sector público. Este es el meollo del sesgo del mercado.
No se trata solo de las ciudades y el transporte público. Miremos a Estados Unidos: los hospitales, las comisarías e incluso el Pentágono dependen cada vez más de Silicon Valley para cumplir sus misiones.
Con la AGI, esta dependencia no hará más que agravarse, sobre todo porque la AGI no tiene límites en su alcance y ambición. Promete realizar cualquier tarea sin que jamás se le enseñe a hacerla. Ningún servicio administrativo o gubernamental sería inmune a su promesa de perturbación.
Además, la AGI ni siquiera tiene que existir para atraerlos. Esta, en cualquier caso, es la lección de Theranos, una empresa incipiente que prometió "resolver" la asistencia sanitaria mediante una tecnología revolucionaria de análisis de sangre y que fue un capricho de las elites estadounidenses. Sus víctimas son reales, aunque su tecnología nunca lo fue.
Después de tantos traumas similares a los de Uber y Theranos, ya sabemos qué esperar del lanzamiento de la AGI. Constará de dos fases. En primer lugar, la fase de ofensiva de embelesamiento, en la que a los usuarios se les ofrecen servicios fuertemente subsidiados y al mismo tiempo se les dice que su bajo coste es el resultado de genios innovadores que inventan formas nuevas de hacer tareas de toda la vida. Luego viene la fea fase de los recortes, en la que usuarios y organismos excesivamente dependientes han de cargar con los costes de hacer rentables estos servicios.
Como siempre, los expertos de Silicon Valley restan importancia al papel del mercado. Como verdaderos populistas, nos aseguran que este nuevo tipo de inteligencia artificial consiste en poner a las personas en primer lugar. En un ensayo reciente titulado "Por qué la IA salvará al mundo", Marc Andreessen, un destacado inversor en tecnología, incluso proclama que la IA "es propiedad de personas y está controlada por personas, como cualquier otra tecnología".
Solamente un capitalista de riesgo puede operar con eufemismos tan exquisitos. La mayoría de las tecnologías modernas son propiedad de compañías mercantiles. Y estas –que no las míticas “personas”– serán las que monetizarán la presunta salvación del mundo.
¿Y realmente lo están salvando? El historial, hasta ahora, es harto deficiente. Empresas como Airbnb y TaskRabbit fueron recibidas como salvadoras de la asediada clase media, prometiendo convertir nuestros apartamentos y nuestro tiempo libre en auténticos cajeros automáticos. Los coches eléctricos de Tesla fueron vistos como un remedio al calentamiento global. Solyent, el batido que sustituye comidas enteras, se embarcó en una misión para "solucionar" el hambre en el mundo, mientras que Facebook prometió "resolver" los problemas de conectividad en el Sur Global. Ninguna de estas empresas salvó al mundo.
Hace una década, llamé a esto solucionismo, pero "neoliberalismo digital" sería un nombre igualmente apropiado para describir este seudohumanitarismo de las empresas incipientes y los capitalistas de riesgo. Esta visión del mundo replantea los problemas sociales a la luz de soluciones tecnológicas con fines de lucro. Como resultado, las preocupaciones que pertenecen al dominio público se recrean como oportunidades empresariales en el mercado.
Sin embargo, el neoliberalismo dista mucho de estar muerto. Peor aún, ha encontrado un aliado en el AGI-ismo, que refuerza y replica sus principales sesgos
El AGI-ismo ha reavivado este fervor solucionista. El año pasado, Altman, cofundador de OpenAI, afirmó que "la AGI probablemente sea necesaria para que la humanidad sobreviva" porque "nuestros problemas parecen demasiado grandes" para que podamos "resolverlos sin herramientas mejores". Recientemente afirmó que la AGI será un catalizador para el florecimiento humano.
Pero las empresas necesitan beneficios, y esa benevolencia, especialmente por parte de empresas no rentables que queman miles de millones de sus inversores, es poco común. OpenAI, después de haber aceptado miles de millones de Microsoft, ha considerado la posibilidad de captar otros cien mil millones de dólares para crear una AGI. Será necesario recuperar esas enormes inversiones mediante los asombrosos costes invisibles del servicio. (Una estimación de febrero sitúa el gasto de funcionamiento de ChatGPT en 700 000 dólares al día).
Así, la fea fase de recortes, con agresivas subidas de precios para hacer rentable un servicio de AGI, podría llegar antes que la "abundancia" y el "florecimiento". Es decir, la cruda realidad – que estos servicios no son rentables y sobreviven solo porque sus inversores los subvencionan – se hará sentir antes de que logren resolver todos los problemas del mundo. Pero para entonces, ¿cuántas instituciones públicas habrán confundido unos mercados volubles con unas tecnologías asequibles y se habrán vuelto dependientes de las costosas ofertas de OpenAI?
Y si no le gusta que su ciudad subcontrate el transporte público con una frágil empresa incipiente, ¿le gustaría que subcontratara los servicios sociales, la gestión de residuos y la seguridad pública con empresas de AGI que posiblemente sean todavía más volátiles?
El sesgo de la adaptación
Abordemos ahora el segundo sesgo, el insistente en que adaptarse a la realidad es muy superior a tratar de transformarla. Como resultado de este sesgo, el neoliberalismo tiene el don de recurrir a la tecnología para hacer soportables las miserias de la sociedad. Recuerdo una innovadora empresa tecnológica de 2017 que prometía mejorar el uso de una línea de metro de Chicago para los trabajadores que la usaban a diario.
Ofrecía recompensas para disuadir a los usuarios del metro de que lo usaran en horas punta. Sus creadores usaron la tecnología para influir en el lado de la demanda (los viajeros), considerando que unos cambios estructurales en el lado de la oferta (tales como aumentar la financiación del transporte público) eran demasiado complicados. La tecnología haría que los habitantes de Chicago se adaptaran a la deteriorada infraestructura de la ciudad en lugar de arreglarla para satisfacer las necesidades del público.
Este es el sesgo de la adaptación: la aspiración a que, con una varita tecnológica, podamos volvernos insensibles a nuestra difícil situación. Es el producto del incesante apoyo del neoliberalismo a la autosuficiencia y la resiliencia.
El mensaje es claro: prepárese, mejore su capital humano y trace su rumbo como una empresa incipiente. Y el AGI-ismo se hace eco de esta melodía. Bill Gates ha pregonado que la IA puede "ayudar a personas de todo el mundo a mejorar sus vidas". Esto ocurre solo una década después de que nos animaran a aprender a programar. Se suponía que esto también ayudaría a personas de todo el mundo a mejorar sus vidas. Se trata de cargar sobre los hombros de las personas los costes de solucionar los grandes problemas sociales y políticos.
La fiesta solucionista no ha hecho más que empezar: ya sea para luchar contra la próxima pandemia, la epidemia de soledad o la inflación, la IA ya se presenta como un martillo multiusos para muchos clavos reales e imaginarios. Sin embargo, la década perdida debido a la locura solucionista revela los límites de tales soluciones tecnológicas.
Sin duda, las numerosas aplicaciones de Silicon Valley (para controlar nuestros gastos, calorías y rutinas de ejercicio) son ocasionalmente útiles. Pero en su mayoría ignoran las causas subyacentes de la pobreza o la obesidad. Y sin abordar las causas, seguiremos estancados en el ámbito de la adaptación, no de la transformación. Así pues, tenemos la ilusión de hacer algo para resolver estos problemas, pero, en realidad, solo los estamos tocando con la punta de los dedos; estamos haciendo que nuestra tragedia sea más llevadera, pero no mucho más.
Hay una diferencia entre empujarnos a seguir nuestras rutinas de caminata, una solución que favorece la adaptación individual, y comprender por qué nuestras ciudades no tienen espacios públicos para caminar; un requisito previo para una solución políticamente amigable que favorezca la transformación colectiva e institucional.
Pero el AGI-ismo, al igual que el neoliberalismo, considera que las instituciones públicas carecen de imaginación y no son particularmente productivas. Son un coste para la sociedad, no un facilitador. Simplemente deberían adaptarse a la AGI, al menos según Altman, quien recientemente dijo que estaba nervioso por -y cito- "la velocidad con la que nuestras instituciones pueden adaptarse" y parte de la razón, añadió -y cito nuevamente- "de por qué queremos comenzar a implementar estos sistemas tan temprano, cuando aún no están plenamente desarrollados , es para que la gente tenga tanto tiempo como sea posible para hacerlo".
¿Pero las instituciones deberían adaptarse, nada más? ¿No pueden desarrollar sus propias agendas transformadoras para mejorar la inteligencia de la humanidad? ¿O solo utilizamos las instituciones para mitigar los riesgos de las propias tecnologías de Silicon Valley? ¿No son las instituciones algunas de las innovaciones más apreciadas en la historia humana, ya sean las universidades, las bibliotecas, los museos o el estado de bienestar?
El sesgo de la eficiencia
Finalmente, abordemos el tercer sesgo. Una crítica común del neoliberalismo es que ha allanado nuestra vida política, reorganizándola en torno a la eficiencia. "El problema del coste social", un artículo de 1960 que se ha convertido en un clásico del canon neoliberal, predica que una fábrica contaminante y sus víctimas no deberían molestarse en llevar sus disputas a los tribunales. Esas luchas son ineficientes (¿quién necesita justicia?) y además obstaculizan la actividad del mercado. En lugar de ello, las partes deberían negociar en privado la compensación y seguir adelante con sus asuntos. Para los neoliberales todo es así: la justicia y la política impiden hacer negocios y obtener beneficios.
Esta fijación en la eficiencia es la razón por la que hemos llegado a "resolver" el cambio climático dejando que los peores infractores siguieran como antes. La forma de evitar los grilletes de la regulación es idear un plan -en este caso, aplicar un impuesto al carbono- que permita a los contaminadores comprar créditos para compensar el carbono adicional que emiten.
Esta cultura de la eficiencia, en la que los mercados miden el valor de las cosas y sustituyen a la justicia, corroe inevitablemente las virtudes cívicas.
El AGI-ismo, al igual que el neoliberalismo, considera que las instituciones públicas carecen de imaginación y no son particularmente productivas. Son un coste para la sociedad, no un facilitador
Y los problemas que esto crea son visibles por doquier. A los académicos les preocupa que, bajo el imperio del neoliberalismo, la investigación y la enseñanza se hayan convertido en mercancías. Los médicos lamentan que los hospitales den prioridad a los servicios más rentables, como la cirugía electiva, sobre la atención de urgencias. Los periodistas odian que el valor de sus artículos se mida en globos oculares.
Ahora imagínense desencadenar la AGI en estas estimadas instituciones -la universidad, el hospital, el periódico- con la noble misión de "arreglarlas". Sus misiones cívicas implícitas seguirían siendo invisibles para la AGI, ya que estas misiones rara vez se cuantifican, ni siquiera en sus memorias anuales, la clase de materiales que se utilizan para enseñar los modelos en que se basa la IAG.
Después de todo, ¿a quién le gusta alardear de que su clase de historia del Renacimiento solo tuvo unos pocos de alumnos? ¿O que su artículo sobre la corrupción en algún país lejano solo obtuvo una docena de visitas? Ineficientes y poco rentables, estos valores atípicos sobreviven milagrosamente incluso en el sistema actual. El resto de la institución los subvenciona discretamente, priorizando valores distintos de la "eficiencia" impulsada por los beneficios.
¿Seguirá siendo así en la utopía de la AGI? ¿O arreglar nuestras instituciones por medio de esta tecnología será como ponerlas en manos de unos consultores despiadados? Ellos también ofrecen "soluciones" respaldadas por datos para maximizar la eficiencia. Pero estas soluciones a menudo no logran captar la enrevesada interacción de valores, misiones y tradiciones existente en lo más hondo de las instituciones, una interacción que rara vez es visible si solo se rasca la superficie de sus datos.
De hecho, el notable comportamiento de servicios similares a ChatGPT es, por naturaleza, una negativa a captar la realidad en un nivel más profundo, más allá de la superficie de los datos. Así, mientras que los sistemas de IA anteriores se basaban en reglas explícitas y requerían a alguien como Newton para teorizar sobre la gravedad (para preguntar cómo y por qué caen las manzanas) los sistemas más nuevos como la AGI sencillamente aprenden a predecir los efectos de la gravedad observando cómo millones de manzanas caen al suelo.
Sin embargo, si lo único que ve la AGI son instituciones con problemas de liquidez que luchan por sobrevivir, es posible que nunca infiera su verdadero valor. A ver cómo disciernen el significado del juramento hipocrático mientras observan que los hospitales se han convertido en centros de beneficios.
Para concluir, permítanme ofrecerles algunas reflexiones generales sobre aquello que podemos hacer de forma diferente.
Otra famosa máxima neoliberal de Margaret Thatcher fue que "la sociedad no existe".
El lobby de la AGI comparte, sin saberlo, esta sombría visión. Para ellos, el tipo de inteligencia que vale la pena replicar es una función de lo que sucede en las cabezas de los individuos más que en la sociedad en general.
Pero la inteligencia humana es tanto un producto de políticas a instituciones cuanto que lo es de genes y aptitudes individuales. Es más fácil ser inteligente contando con una beca en la Biblioteca del Congreso que teniendo varios trabajos en un lugar sin una librería o incluso sin una conexión Wi-Fi decente.
No parece tan controvertido sugerir que más becas y bibliotecas públicas impulsarán maravillosamente la inteligencia humana. Pero para la multitud solucionista de Silicon Valley, el aumento de la inteligencia es principalmente un problema tecnológico, de ahí el entusiasmo por la AGI.
Sin embargo, si la AGI es realmente neoliberalismo por otros medios, entonces deberíamos estar preparados para ver menos -no más- instituciones que fomenten la inteligencia. Después de todo, son restos de esa temida "sociedad" que, para los neoliberales, en realidad no existe. El gran proyecto de la AGI de aumentar la inteligencia puede acabar reduciéndola.
Debido a ese sesgo solucionista, incluso las ideas políticas aparentemente innovadoras en torno a la AGI no consiguen entusiasmar. Tomemos como ejemplo la reciente propuesta de un "Proyecto Manhattan para la seguridad de la IA". Esto se basa en la falsa idea de que no existe alternativa a la AGI.
Pero ¿nuestra búsqueda de aumentar la inteligencia no sería mucho más eficaz si los gobiernos financiaran un Proyecto Manhattan para la cultura y la educación y para las instituciones que las fomentan? ¿Por qué no concebir la inteligencia como algo que ocurre cuando los ciudadanos interactúan entre sí, pero también con otras instituciones? ¿No nos llevaría esta concepción más social y extendida de la inteligencia a un conjunto muy diferente de políticas, incluidas aquellas que nos permitirían ver que Silicon Valley a menudo se interpone en el camino para aumentar la verdadera inteligencia?
Sin tales esfuerzos, los vastos recursos culturales de nuestras instituciones públicas existentes corren el riesgo de convertirse en meros conjuntos de datos de capacitación para las nuevas empresas de AGI, reforzando la mentira de que la sociedad no existe.
Dependiendo de cómo (y de si) se desarrolla la rebelión de los robots, la AGI puede o no resultar una amenaza existencial. Pero con su inclinación antisocial y sus sesgos neoliberales, el AGI-ismo ya lo es: no necesitamos esperar a que las Roombas mágicas cuestionen sus principios.
Este texto es la transcripción del discurso pronunciado por Evgeny Morozov durante el festival de Internazionale en Ferrara 2023.
¿Aprecias nuestro trabajo?
Ayúdanos a sacar adelante un periodismo europeo y multilingüe, en acceso libre y sin publicidad. Tu donación, puntual o mensual, garantiza la independencia de la redacción. ¡Gracias!
