Elige un idioma
Junto con la guerra en Ucrania, la nueva ola de la crisis migratoria y el desastre actual del cambio climático, la inteligencia artificial (IA) es uno de los temas que han dominado el mundo este año. Dependiendo de a quién escuches, la IA resolverá todos los problemas de la humanidad o destruirá la civilización tal como la conocemos. He aquí nuestra primera paradoja: a veces son las mismas personas las que dicen ambas cosas. Y, sorprendentemente, la mayoría provienen de Silicon Valley...
Repasemos algunos de los principales acontecimientos relacionados con la IA en este año, para tener una idea de lo que está sucediendo. Ya describí muchos de ellos en un largo ensayo que apareció en el New York Times a principios de este año.
Permítanme revelar aquí la premisa básica: nuestro actual encaprichamiento con la promesa de la IA es, en muchos sentidos, solo una extensión de nuestro encaprichamiento con el mercado y el neoliberalismo. No hay manera de entender por qué tantas instituciones públicas se están creyendo las dulces promesas de los impulsores de la IA, a menos que situemos este impulso de marketing en un historial más amplio de privatización de soluciones que en circunstancias normales serían problemas públicos y colectivos. Entonces, resolver nuestros problemas a través de la IA hoy equivale a resolverlos mediante el mercado. Personalmente, lo encuentro problemático y espero que ustedes también. Pero esta conexión (entre la IA actual y el neoliberalismo) no se comprende bien. Déjenme explicarles esto un poco mejor.
En mayo, más de 350 ejecutivos, investigadores y académicos del campo de la tecnología firmaron una declaración advirtiendo sobre los peligros existenciales de la inteligencia artificial. "Mitigar el riesgo de extinción debido a la IA debería ser una prioridad mundial junto con otros riesgos a escala social, como las pandemias y la guerra nuclear", advirtieron los firmantes.
Esto se produjo inmediatamente después de otra carta de gran notoriedad, firmada por personas de la talla de Elon Musk y Steve Wozniak, cofundador de Apple, en la que se pedía una moratoria de seis meses para el desarrollo de sistemas avanzados de inteligencia artificial.
Mientras tanto, la administración Biden instó a una innovación responsable en IA, afirmando que "para aprovechar las oportunidades" que ofrece, "primero debemos gestionar sus riesgos". En el Congreso, los senadores pidieron por primera vez unas audiencias sobre el potencial y los riesgos de la IA, una especie de curso intensivo impartido por ejecutivos de la industria, académicos, activistas de derechos civiles y otras entidades interesadas.
La creciente ansiedad sobre la IA no se debe a las tecnologías aburridas pero fiables que completan automáticamente nuestros mensajes de texto o dirigen los robot-aspiradora para que esquiven los obstáculos de nuestras salas de estar. Es el auge de la inteligencia artificial general, o AGI, lo que preocupa a los expertos.
La AGI aún no existe, pero algunos creen que el avance a grandes zancadas de ChatGPT de OpenAI sugieren que su aparición está cerca. Sam Altman, cofundador de OpenAI, lo ha descrito como "sistemas que generalmente son más inteligentes que los humanos". Construir tales sistemas sigue siendo una tarea abrumadora y, según algunos, imposible. Pero las ventajas parecen realmente tentadoras.
Tomemos como ejemplo las Roombas, las aspiradoras inteligentes. Ya no estarían condenadas a aspirar los suelos solamente, sino que podrían evolucionar hasta convertirse en robots multiuso, listos para preparar el café de la mañana o doblar la ropa. La magia aquí es que, con la AGI, podrán hacerlo sin tener que ser programadas para hacer estas cosas.
Suena bien. Pero si estas Roombas de AGI se vuelven demasiado poderosas, su misión de crear una limpísima utopía podría acabar suponiendo un problema para sus dueños humanos que esparcen polvo por doquier. Después de todo, somos nosotros, los humanos, la causa de todo ese polvo y, una vez más, dado que estas Roombas nunca están programadas adecuadamente, podrían razonar que eliminar a los humanos es una forma de mantener el hogar limpio. Así pues, piénseselo dos veces antes de adquirir una Roomba con tecnología AGI.
Las discusiones sobre la AGI están plagadas de escenarios apocalípticos de este tenor. Sin embargo, un incipiente lobby a favor de la AGI formado por académicos, inversores y empresarios replica que cuando esta tecnología sea segura representará una gran ayuda para la civilización. Altman, el rostro visible de la campaña, se embarcó en una gira mundial para encandilar a los legisladores. A principios de este año escribió que la AGI podría incluso dinamizar la economía, impulsar el conocimiento científico y "elevar a la humanidad aumentando la abundancia".
Esta es la razón por la que, a pesar de todos los lamentos, tantas personas inteligentes de la industria tecnológica se están esforzando por construir esta controvertida tecnología: no usarla para salvar el mundo parece inmoral. Así pues, los riesgos de que la AGI destruya el planeta palidecen en comparación con sus promesas: curar el cáncer o eliminar el analfabetismo o darnos a todos un asistente personal.
Todos estos visionarios de la tecnología se sienten en deuda con una ideología que considera esta nueva tecnología como inevitable y, en una versión segura, universalmente ventajosa. Sus defensores no pueden pensar en mejores alternativas para arreglar la humanidad y aumentar su inteligencia. Permítanme repetirlo: para ellos, el camino para impulsar la inteligencia de nuestra civilización pasa por ajustar los modelos de datos, alimentándolos con más y mejores datos. Es principalmente un programa técnico.
Pero la ideología más amplia que impulsa este esfuerzo -llamémosle AGI-ismo- está equivocada. Los riesgos reales de la AGI son políticos y no se solucionarán domesticando robots rebeldes. Ni siquiera la AGI más segura no lograría la panacea progresista prometida por su lobby. Y al presentar su surgimiento como casi inevitable, el AGI-ismo distrae la atención de encontrar mejores formas de aumentar la inteligencia. Hablaré de algunos de ellos hacia el final de mi charla.
Sin que sus defensores lo sepan, el AGI-ismo es solo un hijo bastardo de una ideología mucho más ambiciosa que predica, tal como lo expresó de manera memorable Margaret Tatcher, que no hay alternativa, no al mercado. Porque las empresas de tecnología que están creando la AGI no son entes humanitarios en la línea de Naciones Unidas o la Madre Teresa: son capitalistas con ánimo de lucro interesados en promover la institución del mercado como la principal forma de organizar nuestra sociedad.
Esta es la razón por la que, en lugar de romper el capitalismo, como Altman insinuó que podría hacer, es más probable que la AGI -o al menos la prisa por crearla- genere un aliado poderoso (y mucho más moderno) para el credo más destructivo del capitalismo: el neoliberalismo.
Fascinados por la privatización, la competencia y el libre comercio, los arquitectos del neoliberalismo querían dinamizar y transformar una economía estancada y favorable a los trabajadores valiéndose de los mercados y la liberalización.
Algunas de estas transformaciones funcionaron, pero tuvieron un coste inmenso. A lo largo de los años, el neoliberalismo fue atacado por muchísimos críticos, que lo culparon de la Gran Recesión y la crisis financiera, el Trumpismo, el Brexit y mucho más.
No sorprende, entonces, que la presidencia de Biden se haya distanciado de la ideología, reconociendo que los mercados a veces se equivocan. Fundaciones, laboratorios de ideas y académicos incluso se han atrevido a imaginar un futuro posneoliberal. Lamentablemente, tales declaraciones son muy escasas en Europa, incluso aunque Emmanuel Macron haya aparecido recientemente en los titulares por su discurso sobre la planificación ecológica como forma de resolver la crisis climática.
Sin embargo, el neoliberalismo dista mucho de estar muerto. Peor aún, ha encontrado un aliado en el AGI-ismo, que refuerza y replica sus principales sesgos. Permítanme centrarme en tres en esta charla. En primer lugar, está la idea de que los actores privados suelen obtener unos resultados superiores a los públicos (lo que yo llamo sesgo del mercado). En segundo lugar está la idea neoliberal clásica de que adaptarse a la realidad es más importante que transformarla (podemos llamarlo sesgo de la adaptación). En tercer lugar está la idea de que la necesidad de maximizar la eficiencia siempre se impone a las preocupaciones sociales, particularmente aquellas relacionadas con la justicia social (podemos llamarlo el sesgo de la eficiencia).
Estos sesgos ponen patas arriba la seductora promesa que entraña la AGI: en lugar de salvar al mundo, el afán por crearla sólo empeorará las cosas.
El sesgo del mercado
Abordemos el primerísimo de los sesgos: el del mercado, es decir, la idea de que tenemos que recurrir a proveedores de servicios privados y situarlos por encima de los del mercado. ¿Recuerdan cuando Uber, con sus tarifas económicas, estaba intentando convertirse en el sistema de transporte público de muchísimas ciudades?
Todo empezó bien, cuando Uber prometió viajes inverosímilmente baratos, cortesía de un futuro con coches autónomos y costes laborales mínimos. A los inversores con mucho dinero les encantó esta visión, e incluso absorbieron las pérdidas multimillonarias de Uber.
Pero cuando la realidad se hizo palpable, los coches autónomos seguían siendo una quimera. Los inversores exigieron rentabilidad y Uber se vio obligada a subir los precios. Tirados en las aceras quedaron los usuarios que confiaban en Uber para sustituir a los autobuses y los trenes públicos. El instinto neoliberal que impulsó el modelo de negocio de Uber es que el sector privado puede hacer las cosas mejor que el sector público. Este es el meollo del sesgo del mercado.
No se trata solo de las ciudades y el transporte público. Miremos a Estados Unidos: los hospitales, las comisarías e incluso el Pentágono dependen cada vez más de Silicon Valley para cumplir sus misiones.
Con la AGI, esta dependencia no hará más que agravarse, sobre todo porque la AGI no tiene límites en su alcance y ambición. Promete realizar cualquier tarea sin que jamás se le enseñe a hacerla. Ningún servicio administrativo o gubernamental sería inmune a su promesa de perturbación.
Además, la AGI ni siquiera tiene que existir para atraerlos. Esta, en cualquier caso, es la lección de Theranos, una empresa incipiente que prometió "resolver" la asistencia sanitaria mediante una tecnología revolucionaria de análisis de sangre y que fue un capricho de las elites estadounidenses. Sus víctimas son reales, aunque su tecnología nunca lo fue.
Después de tantos traumas similares a los de Uber y Theranos, ya sabemos qué esperar del lanzamiento de la AGI. Constará de dos fases. En primer lugar, la fase de ofensiva de embelesamiento, en la que a los usuarios se les ofrecen servicios fuertemente subsidiados y al mismo tiempo se les dice que su bajo coste es el resultado de genios innovadores que inventan formas nuevas de hacer tareas de toda la vida. Luego viene la fea fase de los recortes, en la que usuarios y organismos excesivamente dependientes han de cargar con los costes de hacer rentables estos servicios.
Como siempre, los expertos de Silicon Valley restan importancia al papel del mercado. Como verdaderos populistas, nos aseguran que este nuevo tipo de inteligencia artificial consiste en poner a las personas en primer lugar. En un ensayo reciente titulado "Por qué la IA salvará al mundo", Marc Andreessen, un destacado inversor en tecnología, incluso proclama que la IA "es propiedad de personas y está controlada por personas, como cualquier otra tecnología".
Solamente un capitalista de riesgo puede operar con eufemismos tan exquisitos. La mayoría de las tecnologías modernas son propiedad de compañías mercantiles. Y estas –que no las míticas “personas”– serán las que monetizarán la presunta salvación del mundo.
¿Y realmente lo están salvando? El historial, hasta ahora, es harto deficiente. Empresas como Airbnb y TaskRabbit fueron recibidas como salvadoras de la asediada clase media, prometiendo convertir nuestros apartamentos y nuestro tiempo libre en auténticos cajeros automáticos. Los coches eléctricos de Tesla fueron vistos como un remedio al calentamiento global. Solyent, el batido que sustituye comidas enteras, se embarcó en una misión para "solucionar" el hambre en el mundo, mientras que Facebook prometió "resolver" los problemas de conectividad en el Sur Global. Ninguna de estas empresas salvó al mundo.
Hace una década, llamé a esto solucionismo, pero "neoliberalismo digital" sería un nombre igualmente apropiado para describir este seudohumanitarismo de las empresas incipientes y los capitalistas de riesgo. Esta visión del mundo replantea los problemas sociales a la luz de soluciones tecnológicas con fines de lucro. Como resultado, las preocupaciones que pertenecen al dominio público se recrean como oportunidades empresariales en el mercado.
Sin embargo, el neoliberalismo dista mucho de estar muerto. Peor aún, ha encontrado un aliado en el AGI-ismo, que refuerza y replica sus principales sesgos
El AGI-ismo ha reavivado este fervor solucionista. El año pasado, Altman, cofundador de OpenAI, afirmó que "la AGI probablemente sea necesaria para que la humanidad sobreviva" porque "nuestros problemas parecen demasiado grandes" para que podamos "resolverlos sin herramientas mejores". Recientemente afirmó que la AGI será un catalizador para el florecimiento humano.
Pero las empresas necesitan beneficios, y esa benevolencia, especialmente por parte de empresas no rentables que queman miles de millones de sus inversores, es poco común. OpenAI, después de haber aceptado miles de millones de Microsoft, ha considerado la posibilidad de captar otros cien mil millones de dólares para crear una AGI. Será necesario recuperar esas enormes inversiones mediante los asombrosos costes invisibles del servicio. (Una estimación de febrero sitúa el gasto de funcionamiento de ChatGPT en 700 000 dólares al día).
Así, la fea fase de recortes, con agresivas subidas de precios para hacer rentable un servicio de AGI, podría llegar antes que la "abundancia" y el "florecimiento". Es decir, la cruda realidad – que estos servicios no son rentables y sobreviven solo porque sus inversores los subvencionan – se hará sentir antes de que logren resolver todos los problemas del mundo. Pero para entonces, ¿cuántas instituciones públicas habrán confundido unos mercados volubles con unas tecnologías asequibles y se habrán vuelto dependientes de las costosas ofertas de OpenAI?
Y si no le gusta que su ciudad subcontrate el transporte público con una frágil empresa incipiente, ¿le gustaría que subcontratara los servicios sociales, la gestión de residuos y la seguridad pública con empresas de AGI que posiblemente sean todavía más volátiles?
