Big data
[Podcast] Big Data, machine learning y justicia social: mitos y realidades

El equipo de El Salto Radio entrevista en el hacklab de La Ingobernable a Javier Sánchez, doctor en informática que estudia las relaciones entre la justicia social con el aprendizaje automático o machine learning. Una de las técnicas más desarrolladas de inteligencia artificial que procesa nuestros datos para todo tipo de funciones relacionadas con la gestión de las ciudades.

Redes Sociales2

Hace unas semanas, Ahora Madrid presentaba con orgullo un acuerdo para compartir los datos de los ciudadanos con Google a través del proyecto Waze Connected Citizens. La idea es suministrar información de los datos de tráfico para generar algoritmos que permitan optimizar el transporte de la ciudad. Un plan del tipo “no es que sobren coches, es que están mal gestionados”.

El de la capital no es el único ayuntamiento que celebra su metamorfósis hacia la ciudad inteligente. Las ciudades corren en pos de conseguir el apellido smart city. En su horizonte se encuentra la optimización de servicios y la extracción de datos masiva. Sin embargo, no debemos olvidar a todas las personas que viven en ellas sin conexión digital. En 2017 en la Comunidad de Madrid un nada desdeñable 10% de la población no había usado internet en el momento de la encuesta, y un 15% decía no ser usuaria frecuente.

Para Javier Sánchez, doctor en informática que investiga en la universidad de Cardif, en Reino Unido, cada vez que ha aplicado bases de datos digitales a cuestiones sociológicas, “siempre ha sido un desastre”. Sánchez estudia las relaciones entre la justicia social con el aprendizaje automático o machine learning, una de las técnicas más desarrolladas de inteligencia artificial que procesa nuestros datos para todo tipo de funciones relacionadas con la gestión de las ciudades.

Nos encontramos con él en La Ingobernable, uno de los espacios de la ciudad donde tienen lugar los hacklabs en Madrid, pero nos indica que fue miembro de un grupo de hacklab en Granada. Estas reuniones, escenarios en algunas de las obras de Belén Gopegui, son espacios sin jerarquías a los que podemos acudir a aprender sobre la tecnología con una perspectiva crítica. Precisamente viene a iniciar un debate en torno a las relaciones entre datos y justicia social.

Sánchez se muestra crítico con el escaso rigor con el que aparece representado cualquier producto asociado al Big Data en la prensa general y divulgativa. Incluso los medios críticos participan de la mistificación de esta tecnología, “creyendo que los grandes datos ofrecen una forma superior de inteligencia y conocimiento”.

Nada más lejos de la realidad, según el estudio de Sánchez estos algoritmos reproducen los mismos prejuicios que ya se dan en los sistemas humanos y los amplifican. Los escasos puntos críticos que aparecen en la prensa derivan hacia preguntas del tipo “¿deberían ser sujetos legales los algoritmos?”, “¿tienen derechos los robots?” y otros temas que contribuyen a la mitificación, sacando del foco los problemas discriminarorios reales que presentan estos algoritmos.

Por otro lado tenemos lo que denomina como “sociólogos y periodistas de Twitter”. Las grandes compañías tecnológicas ponen en manos de periodistas e investigadores sus datos, porque esto hace que aumente su valor. El problema surge cuando estos datos se utilizan para medir factores como “¿de qué se está hablando?”, cuando ya el mero hecho de centrarnos solo en una compañía presenta un sesgo importante.

Existen ya casos en EEUU donde los algoritmos han decidido cortar ayudas sociales, son utilizados para distinguir entre supuestos terroristas y refugiados, o directamente se convierten en tu jefe, como ocurre aquí en plataformas como Deliveroo. Para Sánchez existe un grave problema en la aplicación directa de estos algoritmos para asuntos sociológicos. “Si lo comparamos con los medicamentos, que son también científicos, jamás se nos ocurriría pensar en su implementación sin haberlos probado, y esto es lo que está ocurriendo con estos programas”.

¿Cómo reproducen estos algoritmos los prejuicios de nuestras sociedades? La clave para el investigador reside en las bases de datos, que ya se encuentran llenas de prejuicios. Por ejemplo, si vamos de nuevo a los EEUU, existen programas de predicción de crímenes por áreas en ciudades. Pero estos programas funcionan con bases de datos de las demarcaciones policiales, que históricamente han puesto su foco en barrios racializados, por lo que la máquina hará lo mismo.

Aunque la mayoría de ejemplos de reconocimiento facial y extracción y uso de datos los encontremos en ciudades de Estados Unidos o China (el conocido sistema de puntuación ciudadana), existen ya varias ciudades españolas que han trazado su hoja de ruta hacia los puertos smart city. Pero el aprendizaje automático ya existe en nuestras vidas cada vez que usamos el texto predictivo o cualquier motor de búsqueda en internet. Pensar que estos sistemas no reproducen y amplifican nuestros prejuicios es ingenuo. Aun así dejamos que escriban por nosotros y elijan la información que veremos sobre el mundo.

“Creo que es importante señalar que al final, lo que estás haciendo es automatizar una serie de decisiones políticas ideológicas y de prejuicios en muchos casos. Realmente es difícil hacer un sistema de toma de decisiones libre de estos problemas”, finaliza Sánchez.

Si quieres escuchar la entrevista al completo, escucha el podcast que se encuentra al inicio del artículo. En la pieza, por orden de aparición, suenan las siguientes canciones:

- Loud Pipes, Ratatat.

- Fallout, The Rat.

- Erik Owen, Youngblood Brass Band.

- Wake Up, Brass Against con Sophia Urista.

Informar de un error
Es necesario tener cuenta y acceder a ella para poder hacer envíos. Regístrate. Entra na túa conta.

Relacionadas

Navarra
Guardia Civil El Gobierno de Navarra cuela a la Guardia Civil en las aulas con un concurso en su portal educativo digital
LAB ha denunciado que el instituto armado español utilice Ikasnova, plataforma digital de Educación, para “atraer alumnado” de 4º de la ESO a un curso de ciberseguridad que terminaría con una fase en la Academia de Oficiales de Aranjuez.
Genocidio
Genocidio Denuncian la participación de empresas israelíes en un encuentro de ciberseguridad en León
Diversas organizaciones de la provincia han convocado una protesta contra la presencia de la delegación israelí en el 18 Encuentro Internacional de Seguridad de la Información, organizado por el Instituto Nacional de Ciberseguridad.
Internet
Internet Tarjeta amarilla al fundador de Telegram, el último ‘criptobro’ de la libertad de expresión
Pavel Durov ha quedado señalado por un caso que amenaza a su libertad personal. Desde Rusia se sitúa su detención en clave política y se teme que la aplicación quede en manos de occidente.
#24498
15/10/2018 17:39

Cuidadin con el Big Data que lo calcula el diablo.

0
0
Pseudo Anónima/o
15/10/2018 2:36

El Big data (le dijo al padre a la hija; está feo...). Pa cuando pai andalú ? País calle rojas, 76 ... Me gusta como suena... La bandera... Será un ojal con fondo marrón... Esa es mi pregunta

0
0
#24451
14/10/2018 17:36

Gracias! Ya tenía ganas de volver a escucharos.

2
0
Isabel Díaz Ayuso
Fraude fiscal El Supremo cita a declarar a Miguel Ángel Rodríguez en el caso contra el Fiscal General
El caso sobre las informaciones que dieron a conocer el reconocimiento del fraude fiscal de la pareja de Isabel Díaz Ayuso evoluciona con la citación del jefe de Gabinete de la presidenta de la Comunidad de Madrid.
Opinión
Opinión Camino por València y pienso en Palestina
El viernes 29 de noviembre se cumplió un mes desde el desastre de la dana, coincidiendo con el Día Internacional de Solidaridad con el Pueblo Palestino, declarado así por la ONU.
Racismo
Safia El Aaddam “El racismo no surge de la ignorancia, es un ejercicio consciente”
Escritora, divulgadora, filóloga y activista antirracista Safia explica las raíces coloniales que sustentan la islamofobia y el racismo antimoro de este país en su nuevo libro 'España ¿racista?'.
República
Movimiento republicano “Hasta que se vayan”: lema de la segunda Marcha Republicana fijada para 2025
En junio de 2025 la marea republicana se propone llevar a cabo una segunda demostración de rechazo a la monarquía. En la edición de este año se movilizaron miles de personas de distintos puntos del Estado.

Últimas

Palabras contra el Abismo
Palabras contra el Abismo Lee un capítulo de ‘Café Abismo’, la primera novela de Sarah Babiker
El barrio es el espacio físico y social en los que transcurre ‘Café Abismo’, la primera novela de la responsable de Migraciones y Antirracismo de El Salto, Sarah Babiker.
Que no te cuenten películas
Comunidad El Salto Suscríbete a El Salto y llévate seis meses de regalo a Filmin
Estas navidades, haz posible que El Salto llegue más lejos con sus contenidos críticos y llévate de regalo medio año de Filmin. Y si ya tienes Filmin, suscríbete a El Salto y regala el acceso a esta plataforma a quien quieras.
Justicia
Juana Rivas La Fiscalía italiana acusa al exmarido de Juana Rivas de violencia física, vejaciones y amenazas a sus hijos
La Fiscalía italiana ha presentado un escrito de procesamiento ante el Tribunal de Apelación de Cagliari contra Arcuri por “haber maltratado a sus hijos menores, sometiéndoles habitualmente a violencia física, vejaciones, injurias y amenazas”
Ecologismo
Crisis climática Coches bomba bajo la dana
En caso de catástrofe, a menudo el vehículo privado es una trampa mortal, un peligro público y un estorbo para la supervivencia
PSOE
Congreso del PSOE El PSOE borra la Q y el ‘plus’ de las siglas LGTBIAQ+ y los colectivos responden: “Se trasladará en violencia”
Unas enmiendas aprobadas durante el 41º Congreso Federal del PSOE piden excluir a las mujeres trans del deporte femenino y eliminan la ‘Q’ y el ‘plus’ en las siglas del colectivo queer en los documentos internos del partido.
Comunidad de Madrid
La uni se ahoga Ayuso recula ante una comunidad universitaria en lucha: acepta los 169 millones del Gobierno para profesores
El gobierno de Ayuso está planteando una “propuesta alternativa”, que enviará al Ministerio de Ciencia, quien expresaba por carta que “no es comprensible ni explicable” el rechazo a la inyección económica.
Exclusión sanitaria
Exclusión sanitaria Casi 30.000 personas fueron expulsadas del sistema sanitario en los últimos 32 meses
Un informe de Médicos del Mundo detecta casi 70.000 barreras en la sanidad pública, que sufren principalmente las personas en situación irregular. Mientras, la ley para retornar a la universalidad en la atención permanece en trámite.
Violencia machista
Violencia sexual Las artes escénicas de Granada apoyan a las denunciantes de agresiones sexuales en la escuela de teatro
Organizaciones, profesionales y personas vinculadas a las artes escénicas granadinas firman un comunicado donde expresan su apoyo público y sin fisuras a las denunciantes de abusos sexuales por parte del director de La Seducción, Marcos Julián, y señalan la necesidad de protocolos específicos para lograr espacios escénicos seguros

Recomendadas

Palestina
Palestina “Es nuestra tierra”: colonos israelíes acampan en la frontera con Gaza para lograr un regreso permanente
Envalentonados, un grupo de ultranacionalistas israelíes están acampando cerca de la frontera con la Franja de Gaza para ser los primeros en establecer ahí su nuevo hogar.
Melilla
Melilla Encerradas en la ciudad frontera: las trabajadoras marroquíes en Melilla se han cansado de esperar
Desde que en 2020 se cerrara la frontera con Nador, muchas personas marroquíes que hasta entonces podían desplazarse entre ambas ciudades, se han visto empujadas a un callejón burocrático. Un informe documenta las trabas con las que se encuentran.