Inteligencia artificial
Matteo Pasquinelli: «El problema de la IA no tiene que ver con la inteligencia, sino con los monopolios»

El filósofo sostiene en su último libro que la inteligencia artificial no imita la inteligencia biológica, sino la inteligencia del trabajo y de las relaciones sociales.
Matteo Pasquinelli
Adam Berry, CC BY-SA 4.0 (CC BY-SA)
Filósofo especializado en teorías feministas de la tecnología
18 jun 2024 07:00

Matteo Pasquinelli es profesor de Filosofía de la Ciencia en la Universidad de Venecia Ca' Foscari, y su investigación se sitúa en la intersección de la filosofía de la mente y la economía política. Sus trabajos sobre la IA —como el Nooscopio, junto a Vladan Joler— se ocupan, principalmente, de historizarla y demistificarla. En The Eye of the Master (Verso, 2023) defiende la siguiente tesis: «¿Qué es la IA? Una visión dominante la describe como una "imitación de la inteligencia”, que supuestamente debe encontrarse en la lógica secreta de la mente o en la fisiología profunda del cerebro, como por ejemplo en sus complejas redes neuronales. En este libro sostengo, por el contrario, que el código interno de la IA no está constituido por la imitación de la inteligencia biológica, sino por la inteligencia de las relaciones laborales y sociales.»

Abordas la inteligencia artificial desde una epistemología histórica comprometida con la tesis marxista según la cual las relaciones de producción determinan el desarrollo de las fuerzas productivas. Existe un corpus cada vez mayor de literatura marxista sobre la IA, como Revolutionary Mathematics de Justin Joque (que se centra en la estadística como base metafísica de la objetivación algorítmica) o Inhuman Power de Nick Dyer-Witheford, Atle Mikkola Kjøsen y James Steinhoff (una brillante crítica del tecnooptimismo con respecto a la automatización y el postrabajo). ¿Qué herramientas analíticas y metodológicas del marxismo siguen siendo útiles para los debates actuales sobre computación?

La literatura marxista sobre la IA forma parte de un debate mucho más amplio y antiguo en economía política sobre la automatización, desde la Cuestión de la Maquinaria en la Inglaterra del siglo XIX hasta las discusiones sobre la descualificación en la teoría del proceso laboral, por mencionar tan solo dos ejemplos. Dentro del gran archipiélago del materialismo histórico (y la epistemología histórica de la ciencia y la tecnología), todavía hace falta más cooperación y diálogo entre diferentes metodologías y escuelas de pensamiento. La IA es un campo nuevo y creo que necesitamos un análisis sistémico de la automatización antes de apresurarnos a dar explicaciones sencillas. Existen al menos tres grupos de teorías de la automatización (en realidad cinco, pero no tenemos tiempo para expandirnos aquí): las teorías del valor, que la conceptualizan como un proceso dinámico moldeado externamente por los imperativos del capital y los ciclos de inversión; las teorías laborales, que van más allá de la lógica del mercado atendiendo también a las necesidades materiales de la producción y el proceso de trabajo; y las teorías del punto de vista, que inciden en el antagonismo social y las jerarquías de género, raza y clase.

Estas posiciones son comunes entre los autores marxistas, pero Marx intentó elaborar una síntesis de las tres. En los famosos capítulos sobre maquinaria del primer volumen de El Capital, integró una teoría del valor de la automatización con el papel de la división del trabajo (una teoría laboral de la automatización inspirada por Charles Babbage) y del antagonismo social (una teoría del punto de vista de la automatización también influenciada por la Cuestión de la Maquinaria y el ludismo).

«Reapropiarnos de la IA no tiene sentido si no cambiamos las relaciones sociales que impulsaron su desarrollo.»

Siguiendo a Babbage, propones una teoría laboral de la IA según la cual su diseño sigue el esquema de la división del trabajo. Este marco enfatiza la inteligencia que surge de la cooperación laboral, no solo en forma de conocimiento científico o habilidades lingüístico-cognitivas (como sugiere la noción de “intelecto general” introducida en los Grundrisse de Marx), sino también de microdecisiones espontáneas y gestos inconscientes. Además, sostienes que el objetivo de esta captura algorítmica no es reemplazar tareas individuales sino funciones gerenciales, por lo que el escenario futuro –lejos de la automatización total– será la multiplicación de empleos precarios. ¿Deberíamos, por tanto, reapropiarnos de la IA como un bien público e impedir su privatización mediante la propiedad y el control colectivos? ¿O, por el contrario, su propio diseño reproduce estructuras capitalistas de explotación a las que hay que resistir mediante el sabotaje y el rechazo?

Has apuntado a una cuestión central: el diseño de las relaciones sociales que moldean y son moldeadas por los artefactos tecnológicos. Reapropiarse de la IA no tiene mucho sentido si no cambiamos las relaciones sociales que impulsaron su desarrollo, es decir, la forma de sociedad que gradualmente se sedimentó en sus vastos conjuntos de datos de entrenamiento y anteriormente en los gigantescos centros de datos de la sociedad de Internet. El problema de la IA no tiene que ver con las definiciones de “inteligencia”, sino con los monopolios globales de las grandes plataformas. Si nos centramos en la infraestructura material de estas plataformas, en lugar de distraernos con términos engañosos como “inteligencia”, podemos ver las cosas de otra forma: en el caso de ChatGPT, por ejemplo, tenemos millones de personas conectadas desde su casa o la oficina a un único centro de datos ubicado en Utah donde está alojado este gran modelo de IA, que brinda respuestas a tal multitud de personas conectadas desde todo el mundo.

«El problema de la IA no tiene que ver con las definiciones de “inteligencia”, sino con los monopolios globales de las grandes plataformas.»

Por lo tanto, la IA no aparece como un robot antropomórfico que reemplaza al trabajador individual, sino como un monstruo mecánico o un autómata colosal que orquesta una multitud de usuarios-trabajadores. No estamos asistiendo a un fenómeno de sustitución de mano de obra, sino más bien de desplazamiento y orquestación desde un sistema extremadamente centralizado que se estructura como un monopolio. Esto es, esencialmente, ChatGPT: un modelo algorítmico de dimensiones monstruosas, alojado dentro de un centro de datos en una ubicación remota para orquestar las microtareas (y la vida) de millones de trabajadores. La paradoja de la IA es que no reemplaza a los trabajadores, sino que los multiplica. En lugar de acabar con el empleo, genera subempleo: una precarización del mercado laboral en la que los trabajadores se ven obligados a trabajar cada vez más. Por supuesto, este destino no es inevitable. Lo que sugieren las teorías de la automatización que expuse al comienzo es que la composición tecnológica del trabajo puede cambiarse transformando la composición social y política de una época determinada.

«La paradoja de la IA es que no reemplaza a los trabajadores, sino que los multiplica; en lugar de acabar con el empleo, genera subempleo.»

En este sentido, el ‘amo’ mencionado en el título ya no está encarnado en un individuo humano, sino codificado en un sistema algorítmico; se trata, como señaló Marx, de un poder integrado por “la ciencia, las gigantescas fuerzas naturales y la masa del trabajo social encarnado en el sistema de maquinaria”. Esta definición cyborgiana, que incluye componentes sociotécnicos y ambientales, ofrece –en palabras de McKenzie Wark– ”una imagen inusual de la simbiosis humano-máquina bajo el comunismo, distinta de las habituales narrativas antagónicas o alienantes“. ¿Qué camino debería seguir esta simbiosis para asegurar la reciprocidad ecológica entre humanos, no humanos, la biosfera y la tecnosfera?

Como explico en el libro, en el paso de los Grundrisse a El Capital, Marx reemplazó las expectativas utópicas en torno al ”intelecto general“ (general intellect) por la figura material del ”trabajador colectivo" (Gesamtarbeiter), que era otro nombre para la cooperación laboral. En el libro utilizo la figura del trabajador colectivo como una especie de superorganismo que conecta humanos y máquinas, también para marcar el paso de la fábrica industrial a la era de la cibernética y sus experimentos de autoorganización. Al observar la composición de las infraestructuras de ChatGPT, en última instancia, no es difícil imaginar la IA como una manifestación más del trabajador colectivo, que para Marx era el actor principal de la producción industrial. Existe una conciencia cada vez mayor del frágil equilibrio entre la biosfera y la tecnosfera, pero deberíamos incluir lo que Jürgen Renn ha llamado “ergosfera”: la esfera de la producción de conocimiento y la cooperación laboral. No quiero sonar demasiado “productivista”, pero ¿por qué no incluir a todos los seres vivos, humanos y no humanos, en la figura del trabajador colectivo?

En el libro muestras la influencia de la racionalidad económica en las teorías de la mente, frente a la idea de que el desarrollo de IA responde únicamente a los avances en el modelado cerebral y la psicología del aprendizaje. ¿Pueden algunos enfoques contemporáneos, como las hipótesis de la cognición extendida, contribuir a la emancipación de “la inteligencia emergente de la división del trabajo”? ¿O también buscan la cuantificación y mecanización de las capacidades cognitivas en beneficio del capitalismo?

No sé si he entendido la pregunta correctamente, pero debemos ser francos y precisos: ¡la cognición siempre ha sido extendida! La civilización humana se expandió a través de un circuito de retroalimentación continua entre nuestros cerebros, manos y artefactos técnicos. Siempre externalizamos nuestros modelos mentales en artefactos técnicos e interiorizamos nuestros artefactos técnicos en nuevos modelos mentales, y así sucesivamente. Los arqueólogos y paleontólogos lo saben desde siempre. Si los filósofos analíticos necesitan “experimentos mentales” para demostrar lo obvio es su problema. Hoy necesitamos una filosofía de la mente progresista, anclada en la historia material y cultural de este planeta; necesitamos una epistemología histórica y política, y la filosofía analítica claramente no la proporciona.

Aunque el objetivo del libro no es ofrecer un prospecto, insistes en que la teoría laboral de la IA no es solo un principio analítico sino también sintético. Para concluir, ¿podrías mencionar algunas vías de acción o ejemplos que contribuyan a la igualdad material, la justicia social y el florecimiento humano?

Es difícil resumir estas cuestiones, pero considero que cualquiera que proponga una metodología de análisis político debe proporcionar también una metodología de síntesis política. Este fragmento de Romano Alquati, escrito en 1963, sigue resonando en mi mente: “La cibernética recompone global y orgánicamente las funciones del trabajador colectivo que se pulverizan en microdecisiones individuales: el bit vincula al trabajador atomizado con las figuras del Plan”. Se puede parafrasear de esta manera: la tecnología (incluida la IA) primero atomiza las relaciones sociales y luego las recompone en sus propios términos, proporcionando una cuantificación de dichas relaciones sociales que es crucial para la planificación capitalista. Esta atomización es un fenómeno de separación política del cuerpo social que todo el mundo experimenta, por ejemplo, con las redes sociales. Creo que hoy en día todo el mundo tiene un deseo inconsciente de iniciar prácticas para desvincularse de tales aparatos. Pero intentemos encontrar aquí un caso que vaya más allá de Occidente y su capitalismo de plataformas.

«La tecnopolítica contemporánea debería crear prácticas de autonomía social, fomentar una cultura de invención y desarrollar una contrainteligencia colectiva.»

Pienso en el caso de Agristack, una infraestructura masiva de extractivismo de conocimiento que se ha creado para recopilar datos de agricultores en India. El gobierno propone utilizar tecnologías como Big Data, Internet de las cosas, IA e incluso blockchain para “duplicar” los ingresos de los agricultores, argumentando que el problema es la asimetría de información. El gobierno dice que las nuevas tecnologías pueden ayudar a evitar el desperdicio de cultivos y las plagas. ¿Quién lo niega? Las asociaciones de agricultores, sin embargo, se quejan de que la iniciativa parece implementar políticas neoliberales y que el gobierno debería consultarles antes de concebir un plan de este tipo. Creo que este es un buen ejemplo de cómo la IA no es sólo una cuestión administrativa sino que está afectando a todos los sectores de la sociedad. La iniciativa de los agricultores indios apunta a los principales desafíos de la tecnopolítica contemporánea: crear prácticas de autonomía social, fomentar una cultura de invención y desarrollar una contrainteligencia colectiva.

Sobre o blog
Atenea cyborg es un espacio de Tecnopolitica.net (red asociada al IN3 de la UOC) dedicado a explorar los conflictos y las contradicciones de nuestro tiempo, un tiempo marcado por la tecnopolítica y la tecnociencia. Es un lugar desde el que destejer la urdimbre de la ciencia, la tecnología y la sociedad contemporáneas para imaginar otros mundos y vidas posibles. Por un giro retrofuturista, aquí la vieja Atenea no es ya diosa sino cyborg y no es una sino muchas; ya no está sola, pero sigue en pie de guerra.
Ver todas as entradas
Informar de un error
Es necesario tener cuenta y acceder a ella para poder hacer envíos. Regístrate. Entra na túa conta.

Relacionadas

Crisis climática
Cinco omnicidios Amenazados por cinco omnicidios I
La esperanza reside en las sociedades con prácticas democráticas deliberativas y tradiciones de compromiso cívico.
Tecnología
Tecnología “Sólo quedan máquinas chocando entre sí”
El proyecto de “Olimpiadas Aumentadas” pone en primer plano la tendencia a romper con los límites inherentes al ser humano, en una tendencia narcisista que se extiende también al erotismo.
Sobre o blog
Atenea cyborg es un espacio de Tecnopolitica.net (red asociada al IN3 de la UOC) dedicado a explorar los conflictos y las contradicciones de nuestro tiempo, un tiempo marcado por la tecnopolítica y la tecnociencia. Es un lugar desde el que destejer la urdimbre de la ciencia, la tecnología y la sociedad contemporáneas para imaginar otros mundos y vidas posibles. Por un giro retrofuturista, aquí la vieja Atenea no es ya diosa sino cyborg y no es una sino muchas; ya no está sola, pero sigue en pie de guerra.
Ver todas as entradas
Migración
Migracións Burocracia para os 'refuxiados de segunda': sete rapaces malianos ante o bloqueo do Estado ao pedir asilo
Presos da guerra, chegan a un novo territorio en procura de mellores oportunidades, pero son presos de temporalidades e trámites administrativos, minguando o seu estado anímico e deixándolles estancados nun limbo temporal que os anula como cidadáns.
Caso Carioca
Caso Carioca O caso Carioca a través dunha migrante explotada sexualmente: indemnización mínima e complot policial
O garda civil Armando aliábase con proxenetas e abusaba sexualmente de mulleres prostituídas facendo uso da súa capacidade para regularizar a súa situación.
Turismo
Organización social El turismo de masas revuelve a la España costera: un verano de movilizaciones contra la gentrificación
Las personas que viven en las zonas del Estado con los procesos de turistificación más avanzados han dicho basta. Baleares, Canarias, Cantabria, Cataluña o Valencia prometen un estío de protestas sin precedentes para reclamar un cambio de modelo.
Movimientos sociales
Instituto de las Mujeres Colectivos de personas trans pierden la paciencia con Isabel García: “Debe ser cesada de inmediato”
Plataforma Trans pide medidas contra la directora del Instituto de las Mujeres tras varias informaciones esta semana que apuntan a supuestos amaños en favor de la empresa de su mujer. FELGTBI+ espera una reacción del Ministerio Igualdad.
Palestina
Palestina La ocupación israelí de los territorios palestinos es ilegal según la Corte Internacional de Justicia
Israel viola la convención de Ginebra con su política de asentamientos en Cisjordania y Jerusalén Este. Medidas como demoler propiedades palestinas y reasignarlas a colonos israelíes no son de carácter provisional y el efecto es irreversibles.
Libertades
Derechos y libertades Oleada de suicidios y revueltas en las cárceles italianas
En la cárcel de Trieste, 257 personas se hacinan en un espacio previsto para 150. Allí se desencadenaba la revuelta carcelaria más intensa de una oleada que dio inició hace pocas semanas.
O Salto medra contigo
O Salto medra contigo Eles por diñeiro, nós por un futuro mellor: subscríbete ao Salto
Sempre que unha multinacional ou un goberno intentaron cometer un atentado medioambiental no noso territorio estivemos alí para contalo. Puidemos facelo porque a nós sostennos a nosa comunidade, pero queremos chegar máis lonxe e por iso precisámoste.
Crisis climática
Cine y crisis climática Muyuna Fest, cine selvático para aprender a flotar en un mundo que se hunde
La primera muestra de cine flotante de la historia emerge sobre las aguas del barrio de Belén, en la ciudad de Iquitos (Perú) para fomentar la conservación de la Amazonía y la soberanía audiovisual de los pueblos originarios.

Últimas

Tecnología
Oligopolio tecnológico Un fallo de Microsoft provoca una caída internacional de servicios de transportes, bancos y emergencias
Una interrupción del servicio vinculada a la firma de ciberseguridad Crowdstrike y Windows ha paralizado la actividad de decenas de miles de empresas públicas y privadas poniendo de relieve la dependencia del oligopolio tecnológico.
Unión Europea
Unión Europea Von der Leyen es reelegida como presidenta de la Comisión Europea gracias a un acuerdo con Los Verdes
La presidenta de la Comisión Europea es reelegida con 401 votos a favor. Su discurso incluye nuevas medidas de securitización de las fronteras, entre otras la multiplicación por tres del polémico Frontex.
Arte
Cristina Peña “Mi referente es la artesanía que nos dieron nuestros antepasados”
La cerámica artesana de Casa Peña Slow Atelier no iba a escapar de la turistificación. Su taller se traslada desde Churriana (Málaga), a un nuevo espacio en Úbeda, ciudad de tradición artesana que acoge la marca, sus ideas, y a la propia artista.
Migración
Migraciones Burocracia para los ‘refugiados de segunda’: siete jóvenes malienses ante el bloqueo del Estado al pedir asilo
Presos de la guerra, llegan a un nuevo territorio en búsqueda de mejores oportunidades, pero son presos de temporalidades y trámites burocráticos, mermando su estado anímico y dejándoles estancados en un limbo temporal que los anula como ciudadanos.
Más noticias
Sidecar
Sidecar El mismo filo de la navaja: Starmer contra la izquierda
Desde el principio de su liderazgo, Starmer y su equipo decidieron confundir el apoyo acrítico a Israel con una postura ecuánime contra el antisemitismo para poder utilizar esta confusión como un arma con la que matar a la izquierda.
Ocupación israelí
Derechos humanos Amnistía Internacional pide a Israel que ponga fin a la detención masiva y a la tortura de palestinos en Gaza
Un nuevo informe de esta organización de derechos humanos recoge testimonios de 27 exdetenidos entre ellos un niño de 14 años sobre torturas en los centros de detención israelíes.
Explotación laboral
Explotación laboral CC OO se persona contra Nacho Cano por dos posibles delitos contra los trabajadores
El sindicato ha confirmado este viernes que se personará como acusación contra el empresario Nacho Cano, investigado por traer a 17 bailarines mexicanos y mexicanas para trabajar en su espectáculo Malinche de manera irregular.
Opinión
Opinión Nacho Cano y la aplicación selectiva de la Ley de Extranjería
Las autoridades saben que más del 25% de las trabajadoras que atienden personas en situación de dependencia no tiene papeles, y no hay campañas de la policía o de la Inspección de Trabajo para encontrarlas.
Mugimendu Sozialista
Violencia policial La Ertzaintza desaloja el centro socialista Aresti de Bilbao
Decenas de jóvenes se manifestaron frente a los juzgados de la capital vizcaína para denunciar la actuación represiva del cuerpo policial

Recomendadas

Historia
Historia Chipre recuerda los 50 años de invasión turca
Se cumple medio siglo del ataque, seguido por la división y ocupación de la isla a manos del ejército turco. La izquierda chipriota critica el estancamiento de las negociaciones de paz y la falta de interés de Bruselas.
Infancia
Sira Rego “La palabra ‘mena’ deshumaniza al otro y nos negamos a deshumanizar a las infancias”
El Ministerio de Juventud e Infancia, creado en noviembre de 2023, tiene el reto de sacar adelante la propuesta para que se produzca la acogida de los 6.000 niños y niñas no acompañados que se encuentran en Canarias.
Mediterráneo
Fauna marina Compartir playa con tortugas marinas
En los últimos años se ha observado un aumento significativo de la anidación de la tortuga marina, y se espera que esta tendencia continúe en el futuro