Tecnología
Ayona Datta: “En las manos equivocadas, la IA puede hacer más daño que otras tecnologías previas”

Arquitecta y geógrafa urbana, el trabajo de esta investigadora gira en torno a los binomios “ciudad inteligente” e “inteligencia artificial”, pero cuestiona ambos conceptos para trabajar con perspectiva decolonial y desde las periferias.

Ayona Datta es geógrafa y profesora en la University College de Londres. Creció en Delhi, India, y quiso entender cómo el diseño de las ciudades condiciona la vivencia que de ella tienen las mujeres. Ahora reside en Londres, pero su trabajo de campo se desarrolla en periferias de ciudades de México, Kenia e India. Su campo de investigación gira en torno a dos binomios “ciudad inteligente” e “inteligencia artificial”, aunque cuestiona ambos conceptos como punto de partida.

En su ponencia en el curso ¿Inteligencia Artificial para la Innovación Social? (AI4SI), incluida en el programa de verano de la Universidad del País Vasco y organizado por Ayuda en Acción, habló de su trabajo sobre smart cities. En su presentación no había imágenes de rascacielos ni personas con smartphones de última generación conduciendo teslas. 

Cuando se piensa en una smart city, una ciudad inteligente, el imaginario social reproduce lo que aparece en una búsqueda de Google. Edificios grandes, amplias avenidas, luces de bajo consumo y móviles de última generación. Pero, ¿cuál es la imagen que tiene usted de una smart city, según sus investigaciones?
Mi investigación desde el principio ha consistido en cuestionar ese imaginario, un imaginario fantástico que casi parece una película de ciencia ficción. Empecé a investigar sobre ciudades inteligentes porque me interesaba ver qué otras versiones existen, qué es lo que realmente significa ser inteligente. Las imágenes de “ciudades inteligentes”, particularmente en la forma en que se producen y circulan en el Sur global, son muy parecidas a la ciencia ficción y creo que se debe a que provienen de su comprensión de que la tecnología lo resolverá todo. Ya hemos pasado por eso en los años 40, en los 70, en los 2000.

Yo quería ver cuál es la inteligencia que existe realmente, cómo se desarrolla la vida en la calle a través de la tecnología, o sin ella. Y descubrí varias versiones de ser “inteligente”, algo que comenzó cuando empecé a trabajar con las comunidades, a preguntar en ella qué es ser “inteligente”.

Hay muchas versiones de ser inteligente porque inteligente en sí no es una palabra cargada de tecnología. Inteligente solo significa ser prudente en la forma en que usas los recursos, en cómo poder usarlos para hacer más con menos. Y eso es realmente lo que nos dicen las comunidades.Así que quería trabajar con esa definición de inteligente, una definición que pudiera usarse. 

Inteligencia artificial
Panorama Tecnología del futuro, explotación del pasado
El control de los ritmos de trabajo por parte de los algoritmos combina el uso más avanzado de la tecnología con prácticas y métodos que recuerdan a los sistemas de explotación laboral del siglo XIX y al vasallaje del medioevo.

Cuando empiezas a pensar en la relación entre la ciudad inteligente y la tecnología, esta es muy fuerte, debido a las narrativas que transmiten de arriba hacia abajo los gobiernos y todas las empresas globales. Pero si vamos a pie de calle, ahí se hace un gran uso de la tecnología porque, por supuesto, en los últimos 20 años, las zonas pobres urbanas del Sur global han sido las mayores receptoras de tecnología, y hoy en día cada persona tiene un teléfono móvil. 

Eso no significa que sepan cómo usarlo para extraer la información correcta, pero cuando hablamos de ser inteligente, yo quiero hablar sobre el uso de tecnologías frugales y de bajo costo y sobre cómo las personas sobre el terreno sobreviven mediante el uso de este tipo de tecnologías.

Este tipo de lucha ha estado ahí durante generaciones, pero ahora hay una estratificación de la tecnología. Así es como entiendo la inteligencia, de manera mucho más diversa.

Cuestiono la etiqueta de “inteligencia artificial”, porque la inteligencia no puede ser artificial. Para que la IA funcione, necesitamos más intervención humana

Acaba de hablar de qué considera “inteligente”. En su ponencia también explicaba qué entiende por IA, Inteligencia Artificial, y cómo la IA está presente en el uso de WhatsApp o de aplicaciones sencillas. ¿Qué es esta tecnología?
No veo mucha diferencia entre IA y smart. Creo que la IA es un continuo de innovaciones y tecnologías anteriores. Smart es reciente, mientras que IA es aún más reciente. Yo cuestiono la etiqueta de “inteligencia artificial”, porque la inteligencia no puede ser artificial. Para que la IA funcione, necesitamos más intervención humana. 

A principios de la década de 2000, también utilizábamos tipos particulares de codificaciones y algoritmos. Por ejemplo, si quieres crear un sensor de humo, o si quieres crear un sistema de residuos inteligente o un sistema de reconocimiento facial instalado en todas las cámaras de circuito cerrado de televisión de una sala de control de tráfico de la ciudad, eso también era una ciudad inteligente. Ha sido imposible hacer este tipo de tecnología en los últimos años sin algoritmos y codificación, entonces. Es decir, el concepto “inteligencia artificial” inapropiado porque realmente necesita inteligencia humana para funcionar, no tiene el tipo de agencia que se muestra. 

Dicho esto, también está el otro lado, que es la IA generativa más reciente, que parece que tiene vida propia, como Chat GPT, por ejemplo, o los deepfakes. Incluso eso necesita la intervención humana. La IA generativa se está volviendo cada vez más popular, pero creo que también nos estamos volviendo cada vez más inteligentes al entender que realmente no podemos permitir que domine el mundo. 

Así que soy un poco escéptica ante estas visiones que dicen que la IA se apoderará de todo. La IA es, para mí, igual que la tecnología smart y, en ese sentido, es una tecnología menor, especialmente en la vida de las personas a pie de calle. Si vas a hablar con mujeres jóvenes que viven en asentamientos, en comunidades de clase trabajadoras y preguntas y preguntas si usan inteligencia artificial, pensarán: “¿De qué mundo vienes? Intento pagar mis facturas y comprar comida”.

Pero, por supuesto, me preocupa el tipo de extracción de datos que la IA es capaz de realizar. Como con otras tecnologías, hay cosas positivas que decir y algunos aspectos problemáticos, igual que pasa con otras tecnologías. Aunque creo que, en las manos equivocadas, puede causar mucho más daño del que podrían haber causado las tecnologías anteriores. 

Por eso necesitamos una regulación sólida. Pero, como decía, creo que de una forma u otra la IA siempre ha estado ahí, aunque ahora mismo su impacto en el terreno cotidiano, en el día a día de la gente, es menor, aunque se está apoderando de gran parte de la gobernanza.

La IA necesita una enorme cantidad de intervención humana y reconocimiento humano para que funcione de la manera en que está. Chat GPT nunca reemplazará a los humanos

La IAS se nos presenta como un nuevo dios, pero usted habla de ella como una tecnología menor…
Hace diez años, la IA se propuso como la próxima gran cosa. Y ahora mira dónde estamos, es como si hubiera pedacitos fragmentados e irregulares en diferentes ciudades del norte y el sur del mundo. Siento que siempre hay mucha prisa por entusiasmarse con algo nuevo, y no digo que no sea algo de lo que preocuparse. Lo es, puede utilizarse para desinformar. Pero no va a reemplazar a los humanos, nunca, porque siempre necesitará una enorme cantidad de trabajo humano. Cambiará el tipo de trabajo humano, sí. Pero la IA necesita una enorme cantidad de intervención humana y reconocimiento humano para que funcione de la manera en que está. Chat GPT nunca reemplazará a los humanos. 

Durante su presentación, mostró un vídeo de un grupo de chicas de una ciudad periférica en la India, donde una de ellas dice que “la ciudad inteligente es una falacia”. ¿Está de acuerdo con ella?
Estoy de acuerdo con que es una falacia para algunas personas, dependiendo de en qué lado de la ciudad se encuentren. Lo básico de una ciudad inteligente es que las tecnologías inteligentes tienen que superponerse a la infraestructura existente. Y por eso creo que para muchas de estas personas de la clase trabajadora, las ciudades inteligentes son una falacia porque no cuentan con una infraestructura que funcione arduamente. En el vídeo se ven montañas de basura y se ve que ni siquiera hay electricidad, no hay luz. Así que en un barrio donde no hay electricidad, no puedes poner luces con sensores porque no hay infraestructura de iluminación. No se pueden hacer un sistema de residuos inteligentes si no hay un sistema de saneamiento incorporado y la gente va a los campos a defecar. 

Para las clases menos favorecidas la ciudad inteligente es una falacia porque las tecnologías inteligentes solo son posibles cuando ya existe un tipo particular de infraestructura física. La forma en que se están implementando las tecnologías inteligentes en partes del Sur global es principalmente en los centros de las ciudades,  en los distritos comerciales y en los barrios de clase media, porque ahí es donde hay mucha infraestructura. 

Luego están las personas que siquiera pueden llegar a la ciudad porque no hay transporte público y para quienes la smart city es sin duda una falacia, pero de quienes, sin que ellos lo sepan, la IA recopila datos, sus datos se extraen continuamente. 

Ha realizado previamente trabajo sobre infraestructuras y género. ¿La IA también tiene sesgos de género?
Bueno, he trabajado sobre cómo las ciudades inteligentes tienen un sesgo de género y parte de mi trabajo viene de ahí. No he trabajado en cómo la IA tiene sesgos de género, pero por lo que entiendo hasta ahora, es que este sesgo viene de las capacidades de extracción de datos de la IA y también en la codificación de la IA, de manera que los códigos están realmente dirigidos a tipos particulares de parámetros que podrían perjudicar no solo a las mujeres, sino también a las minorías.

Lo que me parece realmente problemático es la forma en que la IA es tan íntima en nuestras vidas. Tenemos  esta visión de que va a hacer nuestra vida más fácil y sencilla, y así te seduce para que des más información. Y luego no sabemos qué se está haciendo con esta información ni cómo eso realmente puede afectar nuestras vidas. Esto ocurre en un contexto donde a veces no hay otros datos disponibles. Por ejemplo, durante la pandemia, en la India, de repente aparecieron un montón de trabajadores migrantes que necesitaban volver a sus hogares. El Estado no sabía que existían, no sabía cómo ayudarlos. Pero todos utilizaban teléfonos móviles.

¿Cómo se entrelazan la IA y la perspectiva decolonial?
Me interesa mucho ver cómo se acumulan las desigualdades de generación en generación. Por eso es importante ver cómo las tecnologías van y vienen pero también se basan la una en la otra, creo. Así que si piensas en la lógica colonial, en la cartografía del territorio, la construcción de infraestructura, por ejemplo en Canadá o la India, siempre se ha centrado en mover mercancías, en trasladar personas de los puertos a la ciudad, porque eso también forma parte de la expansión capitalista de las colonias. Más tarde, cuando llegaron la radio, los telegramas, la electricidad…  estas infraestructuras siguieron ese camino. La colonialidad tiene una geografía que se transmite de generación en generación. 

Los desarrollos poscoloniales también siguieron esa línea. Así que los corredores industriales, los corredores económicos, siguieron las líneas ferroviarias que creó el gobierno colonial, porque estas vías ya se habían creado. Y ahora, si realmente se superpone la infraestructura digital, se ve una fuerte correlación entre lo que había antes desde el punto de vista geográfico y el tipo de red de telefonía móvil que existe. Porque cuando se empieza a construir una infraestructura se injerta sobre otra. En ese sentido, se puede ver una genealogía, una historicidad de estas tecnologías. 

Las nuevas tecnologías también traen consigo nuevas desigualdades y nuevas marginaciones

Pero, por supuesto, las nuevas tecnologías también traen consigo nuevas desigualdades y nuevas marginaciones. Así que sí, me interesa mucho analizar las tecnologías y las discriminaciones de las tecnologías y las desigualdades de las tecnologías en el momento actual. 

Necesitamos ver lo que está sucediendo ahora en relación con lo que ha sucedido antes. Sé que ves que con comunidades particulares, comunidades que históricamente han quedado atrás: las clases trabajadoras, las mujeres, creo que las minorías, las poblaciones negras… históricamente se han quedado atrás y ahora también se han convertido en las fronteras de los nuevos experimentos con tecnologías digitales, de los nuevos experimentos con la IA. Veo una especie de continuidad histórica. 

El título del curso en el que ha participado estos días es “¿Inteligencia Artificial para la Innovación Social? (AI4SI)”. ¿Es optimista sobre cómo la IA puede contribuir a un cambio social? ¿No puede pensar que la IA está hecha para clases privilegiadas, principalmente hombres cishetero?
Es verdad que hay un sesgo, pero también hay sures globales dentro del Norte, y hay nortes dentro del Sur global. Así que creo que la discriminación y la desventaja son contextuales, no se trata de hombres blancos hetero contra mujeres negras, sino que necesitamos entender realmente cómo se desarrollan las tecnologías in situ en su contexto y qué tipo de nuevas desigualdades provocan. 

Debemos adoptar un enfoque crítico con respecto a la IA. Y sí, absolutamente, puede brindar justicia social, cuando se utiliza de manera ética, colaborativa y democrática, igual que cualquier otra tecnología. 

¿Cómo te interesaste por este campo de trabajo?
Claro. Bueno, soy arquitecta. He ejercido como arquitecta y luego estudié geografía urbana.Me interesan mucho las ciudades. Y me metí en la tecnología por accidente, porque estaba siguiendo las transformaciones urbanas en el Sur global. Y de repente empecé a ver, igual que tú, todas esas fascinantes imágenes de ciencia ficción, a preguntarme por qué la tecnología se ha vuelto tan importante. Creo que quienes estudian urbanismo no pueden alejarse de lo digital, porque la tecnología está cambiando enormemente las ciudades, y las ciudades también están configurando las tecnologías.

Y si me interesé por el género es porque crecí en Delhi, donde hay muchas agresiones sexuales contra las mujeres. Eso se hizo muy consciente y crítica con la forma en que se crean y producen las ciudades. Siempre quise entender por qué, tradicionalmente, las mujeres han estado excluidas tanto del diseño de las ciudades como de la vida urbana. La discriminación de género también se da en Londres, simplemente es más invisible. 

¿Cómo de inteligente es Londres?
En muchos sentidos es inteligente… pero depende de a qué parte vayas.

Informar de un error
Es necesario tener cuenta y acceder a ella para poder hacer envíos. Regístrate. Entra na túa conta.

Relacionadas

Inteligencia artificial
Resistencia ante la IA en pos de una transición justa Resistencia ante la IA en pos de una transición justa
No se puede concebir una transición justa sin cuestionar el engranaje de la inteligencia artificial
Opinión
Opinión IA: la nueva estética del fascismo
Es vergonzoso, destructivo y parece una mierda: el arte generado por IA es la forma estética perfecta para la extrema derecha.
Green European Journal
Green European Journal ¿Es posible una Inteligencia Artificial verde y justa?
Los líderes mundiales y los inversores privados se pelean por hacerse un hueco en la fiebre del oro de la inteligencia artificial, cuyo planteamiento de base debe cambiar si queremos impulsar una revolución ecológica y socialmente justa.
Medio ambiente
Crise climática Sarria, cun dos peores índices de calidade do aire de Galiza, á espera dunha nova planta contaminante
Sarria convive dende hai décadas coa contaminación provocada pola cementeira do Oural. Agora, Votorantim Cimientos proxecta a instalación dunha nova planta para a produción de combustible a partir da coincineración de residuos.
Economía social y solidaria
Tecnología Inteligencia Artificial y economía solidaria: ¿posibles aliadas?
¿Cómo debe relacionarse la economía solidaria con una tecnología que vulnera derechos humanos y ambientales constantemente? Cooperativas e investigadoras tecnológicas animan al movimiento a perderle el miedo y a utilizarla de manera crítica.
Líbano
Líbano Cinco décadas sin paz ni justicia en Líbano
El país mediterráneo conmemora el 50 aniversario desde el inicio de la guerra civil, un conflicto cuyos crímenes no se han juzgado y cuyos desaparecidos no se han encontrado

Últimas

Crisis climática
Crisis climática La UE se entrega al ardor guerrero mientras descuida la crisis social y la emergencia climática
Varios países de la UE ya están recortando drásticamente en servicios públicos y estado del bienestar para poder costear el aumento del presupuesto militar.
Opinión
Opinión Poliamor de derechas, poliamor de izquierdas
La no-monogamia no puede ser simplemente una etiqueta identitaria o una preferencia personal, sino una práctica material que cuestiona la propiedad privada, la privatización de los cuidados y la reproducción de los roles de género
La vida y ya
La vida y ya Días de vacaciones
No somos conscientes de que la lluvia depende, en un porcentaje altísimo, de ellas. Sin plantas hay menos lluvia. Sin lluvia las semillas no germinan. Así funciona.
València
València “‘El vol de Guillem’ ha supuesto la liberación de todos estos años de lucha”
Ricard Tàpera, autor del cuento, y Betlem Agulló, hermana de Guillem Agulló, que ha puesto voz a la historia, nos explican cómo ha sido el proceso de creación de esta obra coral, ilustrada por Helga Ambak.
Ayuntamiento de Madrid
Residuos La “motosierra de Almeida” no frena la oposición social al cantón de la limpieza en Montecarmelo
Los vecinos no entienden por qué el Ayuntamiento madrileño no accede a construir el cantón en una parcela técnicamente viable y que no afectaría a miles de niños y la única zona verde del barrio.
Opinión
Space X Los viajes al espacio y el efecto Katy Perry
El 2024 fue el año más caliente desde que hay registros, mientras que Katy Perry y un puñado de millonarias nos deleitaron con su viaje espacial cortesía de Jeff Bezos.
Estados Unidos
Estados Unidos La buena sintonía entre Trump y Meloni
Como era de esperar, los mandatarios mostraron afinidades políticas e ideológicas. La italiana insistió en la idea de “fortalecer Occidente”.

Recomendadas

Minería
Minaría Bruxelas cava fondo: litio galego para o novo militarismo europeo
No medio do rearme ordenado pola UE, Galiza entra no ámbito xeopolítico como potencial provedor de litio para a industria de defensa. Un enclave de alto valor ecolóxico en Doade (Ourense) converterase en canteira de baterías militares.
Historia
Historia Cuando la solidaridad antifascista reunió a musulmanes, judíos y cristianos en la España republicana
Marc Almodóvar y Andreu Rosés rescatan a los combatientes árabes de la Brigadas Internacionales en el libro ‘Moros contra Franco. El antifascismo y la Guerra Civil española en el mundo árabe’.
Senegal
Senegal Una ‘Escuela de rehenes’ o cómo Francia usó la educación en África para transformar las mentes
La administración colonial francesa puso en marcha en 1855 un centro educativo que tenía el objetivo de formar a los hijos de los reyes locales mediante el borrado de su cultura.
Camboya
Camboya 50 años del inicio del genocidio en Camboya
El régimen de Pol Pot acabó con la vida de más de dos millones de personas. Solo tres integrantes de los Jemeres Rojos han sido condenados por crímenes contra la humanidad.