Feminismos
Feminismo de datos: combatir la desigualdad en la tecnología y la sociedad

El feminismo de datos plantea una crítica interseccional a la forma en que la ciencia de datos refuerza el poder y una reflexión filosófica acerca de la supuesta “neutralidad” del conocimiento que produce.
knowme
James Veysey / Shutterstock
Filósofo especializado en género y tecnología
7 abr 2021 10:11

En los últimos meses han proliferado las controversias en torno a Google tras el despido de dos de sus especialistas en ética para la Inteligencia Artificial. ¿El motivo? Posicionarse públicamente contra algunas de las políticas de la empresa. En realidad se trata de una polémica que comenzó cuando, en 2019, se decidió desmantelar el comité encargado de abordar estas cuestiones tan solo una semana después de su formación. El caso de Google se suma a una larga lista de intentos por parte de las grandes corporaciones tecnológicas de crear consejos encargados de regular el tratamiento de datos personales y de velar por la transparencia y las buenas prácticas en un momento de descrédito general, propiciado por escándalos como el de Cambridge Analytica en Facebook o la venta de Rekognition (un sistema de reconocimiento facial desarrollado por Amazon) al servicio estadounidense de inmigración y aduanas, que provocaron varias protestas entre los propios empleados.

La recolección, uso y venta de datos resulta tremendamente lucrativa para empresas privadas que obtienen sus beneficios de la publicidad dirigida, las recomendaciones personalizadas o el análisis predictivo. Por ello, redes sociales como Facebook y Twitter se dedican a comerciar con la información de sus usuarios aprovechándose de unas condiciones de uso abusivas y engañosas. Y no solo esto, sino que los sistemas automáticos alimentados con estos datos han revelado tener sesgos marcadamente sexistas, racistas y clasistas: el traductor de Google reproduce estereotipos al traducir idiomas que usan género neutro; el algoritmo de selección de personal de Amazon penaliza los currículums que contienen la palabra “mujer”; buscar nombres afroamericanos aumenta las probabilidades de recibir anuncios de registros de arrestos u ofertas de tarjetas de crédito de alto interés… 

Tales ejemplos han motivado la creación de comités y códigos éticos con los que las corporaciones tecnológicas pretenden mostrar su rechazo hacia cualquier forma de discriminación. Podría parecer que esto responde a una preocupación loable por los efectos negativos de determinadas tecnologías, especialmente cuando se desarrollan con fines políticos o militares. En realidad, responde a una estrategia conocida como ethics-washing —o, expuesto llanamente, “lavado de cara”:

Las empresas privadas evitan la regulación usando la ética como la opción blanda frente a los marcos legales o la supervisión externa.

De ahí que expertos como Ben Wagner señalen la necesidad de disponer de criterios comunes que permitan evaluar la calidad de los compromisos adquiridos por parte de las corporaciones y evitar que sean arbitrarios e ineficaces a la hora de abordar estas cuestiones. Quizás habría que desplazar el debate de la esfera de la ética a la de la política, al tratarse de problemas estructurales que, en última instancia, tienen que ver con el poder en nuestras sociedades.

En esta línea han aparecido propuestas como el feminismo de datos. En palabras de Catherine D’Ignazio y Lauren Klein, autoras de Data Feminism:

El punto de partida del feminismo de los datos es algo que no se reconoce en la ciencia de los datos: el poder no está distribuido equitativamente en el mundo. Los que ejercen el poder son desproporcionadamente hombres de élite, heterosexuales, blancos, sanos y cisgénero del Norte Global. El trabajo del feminismo de datos consiste, en primer lugar, en entender el modo en que las prácticas estándar de la ciencia de datos refuerzan estas desigualdades existentes y, en segundo lugar, en utilizar la ciencia de datos para desafiar y cambiar la distribución del poder.

Tanto el debate en torno a los sesgos como la aproximación “ética” sitúan el origen del problema en los programadores o en los propios sistemas técnicos, pero la verdadera causa es la opresión sistémica que los genera.

Sin duda, los sesgos son un problema y reflejan la escasa diversidad que afecta a la ciencia de datos y a toda la industria tecnológica: las mujeres y otros grupos minorizados tienen menos acceso a estos ámbitos por motivos que van desde los estereotipos que dictan a qué trabajos se puede aspirar hasta prejuicios en la contratación. Que la mayoría de personas trabajando en ciencia de datos sean “hombres de élite, heterosexuales, blancos, sanos y cisgénero del Norte Global” hace que los sistemas que diseñan no tomen en consideración los efectos nocivos y discriminatorios de dichos sistemas, ya que sus autores no los experimentan en primera persona por su propia posición de privilegio. 

Ahora bien, el problema ya no es solo que los datos con los que se entrenan estos sistemas estén sesgados o no sean representativos: puede ocurrir que, por su carácter no lucrativo, estos nunca se recopilen. De ahí que hayan surgido iniciativas como Datos contra el ruido, un proyecto impulsado por DigitalFems que utiliza el big data para visibilizar las violencias machistas. En ella colaboran expertas de distintos ámbitos con el fin de recopilar “contradatos” para mostrar el alcance de un problema sobre el que escasea la información, muchas veces a causa de una negligencia institucional: a pesar de que esos datos existen en los juzgados y en las comisarías de policía, no se les da uso, visibilidad ni prioridad en la agenda política. De hecho, existen más datos sobre las multas de tráfico que sobre los casos de violencia sexual, y antes de este proyecto no existía ninguna fuente fiable, organizada y estructurada con respecto a este problema.

Es imprescindible crear bases de datos con perspectiva de género a partir de las cuales se puedan exigir responsabilidades, reclamar historias olvidadas y construir lazos de solidaridad, apoyo y acción colectiva.

También puede ocurrir que se recopilen datos en exceso, como ocurre cuando se trata de vigilar a determinados grupos sociales como las comunidades migrantes y racializadas o  grupos sociales empobrecidos, según señalan Safiya Umoja Noble en Algorithms of Oppression y Victoria Eubanks en Automating Inequality. Esto plantea cuestiones interesantes sobre la creencia, tan extendida como errónea, según la cual la exposición es siempre deseable y “lo que no se cuenta no existe”: si bien la recolección de datos puede ayudar a visibilizar ciertas opresiones y recabar información sobre fenómenos que, de otra forma, no serían objeto de debate público, en ocasiones esta visibilidad puede tener efectos perjudiciales que se traducen en un control excesivo o directamente en violencia (por ejemplo, al revelar la condición serológica de personas con VIH). Paradójicamente, a veces lo mejor es permanecer oculto e invisible.

Más allá de estos asuntos, el feminismo de datos también plantea una reflexión (más filosófica, si se quiere, pero igualmente ligada a la cuestión del poder) acerca del modo en que la ciencia de datos produce conocimiento sobre personas, lugares o cosas; un conocimiento pretendidamente objetivo y neutral que, sin embargo, es siempre parcial y situado, como nos enseñaron las epistemologías feministas de Sandra Harding o Donna Haraway. En primer lugar, porque los datos nunca son desencarnados y deshumanizados sino que tienen siempre una dimensión corpórea y vital. De hecho, podrían entenderse como un segundo cuerpo a partir del cual se estructura nuestra experiencia y nuestra vida afectiva, accedemos al mundo y nos relacionamos con los demás, tal y como sugiere la filósofa Alejandra López Gabrielidis. Y, en segundo lugar, porque cuando se produce conocimiento siempre se hace desde un punto de vista o un posicionamiento determinado; cuando éste se presenta como neutral, en realidad significa que ha adoptado el punto de vista hegemónico o dominante. Esto significa empezar a tomar en consideración la importancia del contexto, entendiendo que los números no hablan por sí solos: los datos no están desligados del entorno en el que se produjeron. Este contexto está formado tanto por las personas como por las prácticas, tecnologías, instituciones, objetos materiales y relaciones que hacen posible su recolección, almacenamiento y análisis. 

Por ello, el feminismo de datos remarca la importancia de adoptar el pluralismo epistemológico en la ciencia de datos, incluyendo una multiplicidad de perspectivas y voces en todas las etapas del proceso (desde la recopilación hasta la limpieza, el análisis y la comunicación), sin que esto implique caer en el relativismo o en una postura anticientífica. Al contrario, cuando se ponen en común distintos puntos de vista se consigue una comprensión más rica y sólida del mundo, frente a la arrogancia de quienes pretenden universalizar su posición particular. Esta es la postura de lo que llaman “Big Dick Data”: los proyectos de big data que ignoran el contexto, fetichizan el tamaño y sobreestiman sus capacidades técnicas y científicas. En definitiva, lo importante no es quién tiene la base de datos más grande.

A modo de conclusión, es importante señalar que la ciencia de datos es parte del problema pero también puede ser parte de la solución.

Al fin y al cabo, la asimetría de la que adolece actualmente no es más que un reflejo de la distribución desigual de poder que puede encontrarse en cualquier esfera social. De ahí que el feminismo de datos trate principalmente del poder —quién lo tiene y quién no— con el objetivo de examinarlo para, en última instancia, redistribuirlo. Algunas de las formas que propone para este fin son la recolección de “contradatos”, la auditoría de algoritmos opacos, la rendición de cuentas por parte de las empresas e instituciones públicas y el aprendizaje mutuo con comunidades a las que se pretende dotar de mayor autonomía tecnopolítica. Son muchas las alternativas y mucho el camino por recorrer. Por cerrar citando a D’Ignazio y Klein, “la opresión es el problema, la equidad es el camino y la coliberación es la meta”. 

Una versión preliminar y mucho más amplia de este texto fue debatida en la primera sesión del Vector de Conceptualización Sociotécnica, celebrada en el Canòdrom (Ateneo de innovación digital y democrática) con el apoyo del Ayuntamiento de Barcelona. Incluyó una exposición a cargo de Toni Navarro y una conversación con Digital Fems, disponible aquí

Arquivado en: Feminismos
Sobre o blog
Atenea cyborg es un espacio de Tecnopolitica.net (red asociada al IN3 de la UOC) dedicado a explorar los conflictos y las contradicciones de nuestro tiempo, un tiempo marcado por la tecnopolítica y la tecnociencia. Es un lugar desde el que destejer la urdimbre de la ciencia, la tecnología y la sociedad contemporáneas para imaginar otros mundos y vidas posibles. Por un giro retrofuturista, aquí la vieja Atenea no es ya diosa sino cyborg y no es una sino muchas; ya no está sola, pero sigue en pie de guerra.
Ver todas as entradas
Informar de un error
Es necesario tener cuenta y acceder a ella para poder hacer envíos. Regístrate. Entra na túa conta.

Relacionadas

Bebés robados
Generalitat Valenciana La GVA propone a una entidad de la Iglesia investigada por el robo de bebés para un premio feminista
Indignación y repulsa generalizada entre víctimas, grupos memorialistas y la sociedad civil ante la propuesta de la consellera de Justicia valenciana de otorgar el premio Meninas a la Casa Cuna Santa Isabel.
Derechos reproductivos
DÍA POR LOS DERECHOS REPRODUCTIVOS Voluntarias ponen en marcha un teléfono para informar y hacer frente a los estigmas ante el aborto
“La línea del aborto” amplía su ámbito a todo el Estado tras un periodo de prueba en Catalunya. L’Associació de Drets Sexuals i Reproductius quiere que este servicio telefónico gratuito y confidencial.
Feminicidio
Activismo Femen pone cara a las víctimas de violencia machista frente al museo Reina Sofía
Las activistas gritan “Si no nos asesinan, no nos ven” ante el repunte de asesinatos machistas. Igualdad convoca un comité de crisis ante las nueve muertes en este mes
#86889
9/4/2021 15:59

No hay feminismo que incluya al poder como a uno de los suyos.

El marxismo sólo es una trampa para la ultra-derecha. No se puede tomar como ideología de izquierdas.

Marx no era marxista. Le encargaron un trabajo, y, él, lo cumplió.

Marx hizo un trabajo antifascista; para destruir el fascismo.

El "Manifiesto comunista" sólo es una trampa para fascistas. No es antifascismo.

No se puede concluir que una batalla entre todo el mundo se pueda considerar antifascista.

El antifascismo es respeto y paz. No luchas de poder y derrota a los ultramarginados.

No hay "lumpen", hay problemas sociales. Y todo el mundo se merece el mismo respeto por muy enemigo que sea.

Ese es el dicho antifascista.

Men Club Mäî Clë.

0
0
Sobre o blog
Atenea cyborg es un espacio de Tecnopolitica.net (red asociada al IN3 de la UOC) dedicado a explorar los conflictos y las contradicciones de nuestro tiempo, un tiempo marcado por la tecnopolítica y la tecnociencia. Es un lugar desde el que destejer la urdimbre de la ciencia, la tecnología y la sociedad contemporáneas para imaginar otros mundos y vidas posibles. Por un giro retrofuturista, aquí la vieja Atenea no es ya diosa sino cyborg y no es una sino muchas; ya no está sola, pero sigue en pie de guerra.
Ver todas as entradas
Arte
Narración oral Bea Campos: “Conto segredos para que o fascismo non volva”
O espectáculo de narración oral “Marcho que teño que marchar”, de Inventi Teatro, pechou o Festival Internacional de Cabaret de México.
Plurilingüismo
Opinión Estraños no karaoke
Escoitaron falar en galego e non tardaron en amosar o seu desprezo deixando os auriculares no escano de Pedro Sánchez, acción equiparable ao mecanismo de rematar o cubata dun grolo.
Catalunya
Catalunya Amnistía y referéndum, dos palabras inseparables en la celebración del sexto aniversario del 1 de Octubre
Òmnium contabiliza 1.432 personas amnistiables de los alrededor de 4.400 represaliados desde 2017 en el Procés. La Plataforma Antirrepressiva de Ponent defiende una amnistía total, extensible a todos los presos políticos del Estado español.
Cine
Estreno de ‘Orlando’ Paul B. Preciado: “El relato de la transición de género se quiere despolitizar haciéndolo individual”
‘Orlando, mi biografía política’, se estrena el 11 de octubre en España. El filósofo Paul B. Preciado dirige esta interpretación de la novela de Virginia Woolf que es política porque es colectiva.
Promociones
Comunidad El Salto Descubre la otra cara de la actualidad con El Salto
Suscríbete este mes y llévate de regalo el libro ‘Pescar el salmón’, de Yago Álvarez, “una herramienta al servicio de la gente que está harta de sentirse manipulada”.
Memoria histórica
Memoria histórica Retrato de un fusilamiento: falangistas a caballo, una corbata roja y nueve republicanos desaparecidos
Apenas un mes después de la sublevación militar, y reducida a escombros la Casa del Pueblo, nueve trabajadores fueron fusilados y otros muchos encarcelados. Aún cuesta recomponer esta historia y más duele hacer memoria. Uno de ellos era mi bisabuelo.
Medio ambiente
Medio ambiente El ecologismo menorquín vuelve a unirse para defender el Camí de Cavalls
El Consell Insular ha anunciado que modificará la ley que protege el recorrido, pero usuarios y asociaciones aseguran que no hacen falta más servicios.

Últimas

Iglesia-Estado
Estado laico A Subdelegación do Goberno convida a unha misa polo Día da Policía a decenas de concelleiros pontevedreses
A subdelegada en Pontevedra, María Isabel Alonso e o comisario xefe da Policía Nacional da comisaría Vigo-Redondela, Ramiro José Gómez, envían unha carta na que convidan a asistir a “santa misa en honor de los Santos Ángeles Custodios”.
Afrodescendientes
Memoria Afro Lucía Mbomío: “A las personas que migran siempre se las tiene por recién llegadas”
Un proyecto audiovisual y fotográfico recoge en la exposición “Afromayores. Alcorcón y periferias” la memoria y genealogía de personas afro de la tercera edad en España.
Más noticias
Urbanismo
Tala de árboles Alicante, la ciudad como descampado
El Ayuntamiento de la ciudad ha talado más de 2.000 árboles y 30.000 plantas en los dos últimos años.
Inflación
IPC La inflación interanual sube hasta el 3,5% en septiembre
El aumento se debe principalmente al incremento de los precios de electricidad comparado con septiembre de 2022
Derechos reproductivos
Despenalización del aborto Así se articuló el movimiento feminista para despenalizar el aborto en México
Una sentencia de la Suprema Corte de Justicia despenaliza el aborto en México al considerar inconstitucional el artículo que lo criminaliza. El amparo presentado en el estado de Coahuila marcó el camino de la vía judicial en 2021.

Recomendadas

Literatura
Diego Sánchez Aguilar “Continuamente se vende la idea de que en el futuro habrá sitio solo para unos pocos elegidos”
Con su segunda novela ‘Los que escuchan’, Diego Sánchez Aguilar explora las distintas formas en las que la ansiedad permea unas vidas agitadas por “pequeños presentes apocalípticos”.
Actualidad árabe (y más)
Actualidad árabe (y más) Los supervivientes en Libia señalan a los “responsables políticos”
La negligencia y el autoritarismo continúan costando vidas en Oriente Medio; Libia protesta tras la catástrofe, MbS condena un tuitero a muerte; Líbano deporta miles de sirios y grupos israelíes crean el nuevo Pegasus.
Bolivia
Bolivia La guerra contra la coca en Bolivia: entre el mito y la realidad
La consideración de la planta de coca como un estupefaciente ha perjudicado históricamente a las poblaciones productoras, mientras alimenta la problemática del narcotráfico con todo lo que este conlleva para los territorios.
Laboral
Laboral Smoking Paper se fuma el convenio colectivo
La plantilla de producción y control de calidad de la planta del Besòs del Grupo Miquel y Costas lleva diez jornadas de huelga defendiendo que las nuevas contrataciones tengan la misma retribución que los veteranos.