Así refuerza la IA generativa la explotación de los trabajadores

“Al igual que sucedió con otras olas de automatización, el supuesto potencial de la IA generativa para transformar nuestra forma de trabajar ha suscitado una enorme pasión”, dicen las investigadoras de Data & Society Aiha Nguyen y Alexandra Mateescu en un nuevo informe sobre la IA generativa y su uso en el trabajo. Para entender cómo afectará al empleo esta nueva ola, debemos ir más allá de la dicotomía entre la IA que nos refuerza y la IA que nos reemplaza.

Los defensores de la IA generativa repiten una y otra vez que mejorará la eficiencia del trabajo y automatizará tareas tediosas en todo, desde el servicio al cliente hasta los diagnósticos médicos. En realidad, su impacto es más ambivalente y mucho menos mágico.

Sí, la inteligencia artificial afectará a la organización del trabajo. Pero en esencia no ofrecerá nada a los trabajadores, excepto la intensificación de su propia explotación.

Todo el bombo mediático en torno a la IA generativa ha tenido tres consecuencias. En primer lugar, nos hizo olvidar que la mayoría de sus aplicaciones no serán recreativas, sino que impactarán ante todo en el mundo del trabajo. Luego ha exagerado la capacidad de la inteligencia artificial para reproducir el conocimiento y la experiencia de los trabajadores. Por último, ha minimizado los límites de las IA generativas, muy en especial la explotación de las zonas grises de las leyes (en particular, las de los derechos de autor) en las que se basa la inteligencia artificial. Pero, sobre todo, la IA reduce el trabajo humano a unos cuantos datos, al tiempo que sigue dependiendo en gran medida de ellos. Porque para desarrollar estos sistemas no sólo es necesario explotar la propiedad intelectual sin consentimiento; también es necesario aprovechar los datos que los trabajadores producen dentro del marco de su empleo.

En los centros de llamadas, por ejemplo, los datos de las conversaciones de los operadores se utilizan para crear IA conversacional, sin que a los trabajadores se les pague nada extra por esta nueva explotación. El mismo problema ocurre con los autores cuyos editores deciden entregar la explotación de contenidos a sistemas de inteligencia artificial generativa. Por ahora, los trabajadores tienen pocos recursos para hacer frente a la “mercantilización no remunerada de su trabajo”. Esta nueva forma de explotación podría, sin embargo, tener consecuencias a largo plazo, ya que también pretende sustituir su trabajo por herramientas, como en el caso de la proliferación de modelos virtuales en el mundo de la moda.

Hemos podido ver que algunos sectores han logrado ciertos avances. La asociación estadounidense de actores de doblaje, por ejemplo, ha abogado por exigir la recogida del consentimiento de los actores cuando su imagen o voz se vaya a utilizar para IA, con límites en la duración de la explotación y los ingresos correspondientes. Investigadores de la ONG Data & Society señalan que “unas enormes asimetrías de poder e información entre industrias y trabajadores siguen siendo sintomáticas” y requieren nuevos tipos de derechos y protecciones del trabajo.

En los centros de trabajo, la IA aparece frecuentemente de forma anodina, antes de ser integrada poco a poco en los procesos de trabajo existentes. En la práctica, la automatización rara vez reemplaza a los trabajadores. Automatiza de manera parcial determinadas tareas específicas y, sobre todo, reconfigura la forma en que los seres humanos trabajan al lado de las máquinas: los resultados de la IA suelen necesitar trabajo antes de poder explotarlos. Ahora se contratan editores para rehumanizar textos sintéticos generados por inteligencia artificial, pero se les paga menos que si los hubieran escrito ellos mismos, con el pretexto de que aportan menos valor.

---

No sólo aprovechamos cada vez más el trabajo para producir automatizaciones, sino que estas automatizaciones también están restringiendo cada vez más la actividad de ese mismo trabajo

---

Los chatbots se parecen cada vez más a los vehículos autónomos, con sus centros de mando a distancia donde los humanos pueden asumir el control si es necesario, y están eliminando la necesidad de la gran cantidad de personal que les enseña a hablar y corrige su discurso. La devaluación de las personas tras la IA difumina a menudo la amplitud del trabajo humano necesario su buen funcionamiento.

Con mucha frecuencia, la utilización de la IA generativa da lugar a simplificaciones problemáticas de los procesos de trabajo. En 2023, por ejemplo, Asociación Nacional de los Trastornos de Conducta Alimentaria de EE. UU. despidió al personal responsable de la asistencia en línea para reemplazarlo por un chatbot que tuvo que suspender rápidamente tras producirse un incidente en el curso del cual había dicho a las personas que le pedían ayuda… que perdieran peso

Del mismo modo, la utilización creciente de herramientas de traducción automática en lugar de usar intérpretes humanos en el sistema de inmigración norteamericano que se ocupa de las solicitudes de asilo ha dado lugar a negativas debido a errores manifiestos de traducción, como los nombres transformados en meses del año, o a plazos mal entendidos. Si bien la traducción automática permite reducir los costes, hay que reconocer que muy a menudo se utiliza en situaciones complejas con mucho en juego y para las que no es adecuada.

Por último, las investigadoras señalan que la IA generativa suele sustituir a determinados perfiles más que a otros, en particular a los puestos junior o de entrada, en detrimento de la formación y el aprendizaje de competencias esenciales... Sin olvidar que estos puestos son también aquellos en los que la presencia de mujeres y minorías es más fuerte.

El recurso a la IA generativa refuerza igualmente la vigilancia y la “datificación” del centro de trabajo, y agrava la práctica de toma automatizada de decisiones que ya son muy poco transparentes a ojos de los trabajadores. Estas decisiones incluyen la automatización de la asignación de tareas, la evaluación de los empleados, las medidas disciplinarias, etc.

No sólo aprovechamos cada vez más el trabajo para producir automatizaciones, sino que estas automatizaciones también están restringiendo cada vez más la actividad de ese mismo trabajo. Como ya hemos dicho, la IA generativa monitoriza a los asesores de los centros de llamadas para producir chatbots que los puedan sustituir, pero las respuestas de los empleados se utilizan igualmente para generar scripts que gestionan y regulan sus interacciones con los clientes, restringiendo siempre cada vez más su autonomía sumergiéndola en bucles de retroalimentación sin fin.

De hecho, presentar a los chatbots y las aplicaciones de IA generativa como ayudantes más que como controladores oculta el refuerzo de la asimetría de poder en el trabajo, argumentan acertadamente Aiha Nguyen y Alexandra Mateescu. Este discurso sirve para ocultar la opacidad y el refuerzo del control que implica actualmente el despliegue de la IA. De hecho, señalan, “la evolución crítica de la integración de la IA generativa en los centros de trabajo debería comenzar por preguntarse qué permite hacer una herramienta en particular a los empleadores y qué incentivos motivan su adopción más allá de las promesas de aumento de la productividad”.

En muchos sectores, la adopción de IA generativa suele estar motivada por la perspectiva de reducir costes o tiempos de producción. Se utiliza activamente en herramientas de planificación de personal, en particular en el comercio minorista, la logística o la atención sanitaria, donde optimiza las prácticas de subcontratación o de reducción de personal, lo que conduce a la maximización de los beneficios al tiempo que degrada las condiciones de trabajo. La sustitución por máquinas refuerza la idea de que los empleados han pasado a ser meros elementos intercambiables como los otros.

La IA generativa se adopta frecuentemente para acelerar la producción y reducir los costes. Lo que consigue aprovechándose del valor de los trabajadores al recoger los detalles de su trabajo y transferirlos a máquinas y a empleados menos costosos encargados de supervisar las máquinas.

A medida que los trabajadores quedan reducidos a sus datos, debemos reflexionar sobre cómo ampliar los derechos de estos últimos, así como las protecciones propuestas para los datos producidos por su trabajo.

👉 El artículo original en Dans les Algorithmes