Valla de Melilla vista áerea
En la frontera de Melilla (en la foto) y Ceuta se prevé la recogida de datos biométricos. APDHA

Análisis
AI Act: un reglamento nuevo para afianzar el orden racial y colonial de siempre

La nueva normativa de Inteligencia Artificial establece una “regulación paralela” en función de quienes son las personas afectadas, algo observable en los usos que se prevén en contextos fronterizos y policiales.

Después de casi tres años desde que echara a andar la propuesta y, al menos dos de negociaciones, el pasado mes de marzo el Parlamento Europeo aprobó el reglamento de la Ley de Inteligencia Artificial (AI Act por sus siglas en inglés). Tras el visto bueno dado el 21 de mayo por los miembros del Consejo de Europa, al texto le queda como último paso su publicación en el Diario Oficial de la UE, lo que puede suceder en cualquier momento y tras lo cual entrará en vigor. Aunque se da un plazo de entre dos y cinco años para su aplicación plena por parte de los diferentes Estados miembro.

Este marco, presentado como el primero de su ámbito en el mundo, se ha vendido desde el inicio como la panacea en lo que respecta a la regulación del desarrollo y uso de tecnologías de IA. De hecho, incluye aspectos positivos como la prohibición de determinados sistemas automatizados en el ámbito de las prestaciones sociales, de la policía predictiva basada en perfilación y de los comportamientos delictivos anteriores (datos históricos), así como los sistemas de identificación biométrica en tiempo real. Además, prevé la creación de un registro público de sistemas de IA en uso en la UE.

No obstante, plantea un problema estructural al establecer una “regulación paralela” en función de quienes son las personas afectadas, algo observable en los usos que se prevén en contextos fronterizos y policiales, así como en aquellos escenarios que puedan ser justificados desde conceptos vagos como lo es la “seguridad nacional”. Bajo esta premisa, las prohibiciones establecidas en la ley no se extienden para los usos policiales, algo preocupante si tomamos en cuenta, por ejemplo, el avance del Ministerio del Interior en la implementación de sistemas de reconocimiento facial “para identificar sospechosos”, criticados por inexactos y racistas. Estas prohibiciones tampoco se extienden al ámbito del control migratorio, lo que provocará un trato desigual hacia la población dependiendo de si es europea o migrante. 

Pese a que los sistemas de identificación biométrica quedan prohibidos por implicar un riesgo alto para la población al vulnerar derechos fundamentales, sí se podrán usar en personas migrantes y solicitantes de asilo

Es lo que ocurre con los sistemas de identificación biométrica. Pese a que en teoría quedan prohibidos por implicar un riesgo alto para la población al vulnerar derechos fundamentales, sí se podrán usar en personas migrantes y solicitantes de asilo. De hecho, la mal llamada “frontera inteligente” prevista en Ceuta y Melilla, cuya infraestructura está instalada, contempla la recogida de imágenes del rostro de personas que crucen estos pasos fronterizos mediante tecnología de reconocimiento facial, a quienes además se les podría aplicar tecnología de reconocimiento de emociones con un detector de mentiras en fase de prueba llamado “policía virtual”, y elaborado en el marco del proyecto europeo iBorderCtrl para identificar a viajeros “de alto riesgo”.

Por otro lado, pese a que el reglamento establece una escala de riesgos, no incluyó en la lista de “riesgo alto”  aquellos ya en uso en contextos migratorios, quedando exentos de los requisitos de supervisión y rendición de cuentas establecidos para los catalogados con este nivel de riesgo. De este modo, las bases de datos a gran escala empleadas en la UE en el control migratorio (prohibidas sobre población europea), como es el caso de Eurodac o Schengen, que se basan especialmente en la recogida de datos biométricos, quedarán exentas de regulación hasta el año 2030.

Inteligencia artificial
Inteligencia artificial La Unión Europea abraza la ley del algoritmo más fuerte
La inteligencia artificial ya tiene quién la regule. El Parlamento Europeo ha aprobado una ley que no mitiga las preocupaciones por los efectos que puede tener el modelaje algoritmo sobre los derechos fundamentales.

No solo hablamos de un marco que establece diferentes categorías de personas, sino que las tecnologías de reconocimiento facial han sido ampliamente criticadas por conllevar fallos sistemáticos y peligrosos. Investigaciones del MIT y del Instituto Nacional de Estándares y Tecnologías de Estados Unidos han probado empíricamente cómo estas herramientas producen falsos positivos y falsos negativos en rostros de personas no caucásicas. En cuanto a los sistemas detección de emociones, un experimento reciente de la revista The Intercept demostró cómo una de sus periodistas fue calificada de “mentirosa” por el policía virtual del proyecto IBorderCtrl, pese a responder con honestidad todas preguntas que se le formularon.

Otro problema de base que plantea la AI Act es que deja fuera una multitud de sistemas de IA debido a la definición planteada, que describe un sistema de IA como aquel que funciona con diversos niveles de autonomía, sin delimitar la misma, y que puede tener capacidad de adaptación tras su despliegue. Una definición discutida al margen de la sociedad civil, que deja fuera sistemas como los empleados en los servicios públicos. 

Es el caso de SyRI, un algoritmo empleado por Países Bajos para elaborar perfiles de ciudadanos y ciudadanas que supuestamente podían defraudar al Estado, enfocándose fundamentalmente en población pobre y racializada. SyRI fue declarado ilegal por el Tribunal de Distrito de la Haya al no cumplir las exigencias de proporcionalidad y transparencia y por vulnerar las previsiones sobre respeto a la vida privada que reconoce el artículo 8 del CEDH. En el caso de España, esta regulación deja fuera sistemas empleados por la Administración como el usado por la Seguridad Social para rastrear bajas laborales y “cazar fraudes”, así como el sistema BOSCO, que decide quién recibe el bono social, y sobre el que CIVIO lleva desde 2018 pidiendo el código fuente tras detectar que dejaba fuera a usuarios y usuarias con derecho al mismo.

Tecnología de vigilancia fronteriza

Otras tecnologías que no se incluyeron en los listados de usos peligrosos de IA son aquellas desarrolladas para impedir y restringir la movilidad humana del sur al norte global. En 2021 Frontex firmó contratos millonarios para incrementar su vigilancia marítima a través del uso de drones, cuyo objetivo es frenar los flujos migratorios actuando como una alarma temprana para los países receptores. El uso de drones no tripulados exime de la obligación de proporcionar ayuda a embarcaciones que se encuentran en situación de peligro en el mar y también contraviene el derecho internacional de solicitud de asilo al impedir que las embarcaciones lleguen a tierra. 

El reglamento de la AI Act no impide que tecnologías desarrolladas por empresas con sede en la UE, prohibidas en el territorio europeo por su peligrosidad para la población, sean exportadas a otros países

En la actualidad, hay distintas tecnologías cuestionables en uso o en fase de prueba en contextos fronterizos, como las cámaras de visión nocturna o el denominado proyecto Sniffer, desarrollado para reconocer el olor corporal de personas que intentan cruzar fronteras escondidas en vehículos. Todos estos dispositivos pensados para usarse en frontera tienen un claro beneficiario: la industria del control migratorio, que se embolsa contratos millonarios gracias al desarrollo de tecnologías pensadas para impedir que las personas del sur global se desplacen libremente hacia el norte, generando en consecuencia mayores riesgos y mortalidad en rutas migratorias. Una industria que se alimenta de la política de una UE que sitúa la migración como problema de seguridad.

A todo lo anterior se añade el hecho de que el reglamento de la AI Act no impide que tecnologías desarrolladas por empresas con sede en la UE, prohibidas en el territorio europeo por su peligrosidad para la población, sean exportadas a otros países. Se podrá vender fuera lo que se prohíbe dentro. La AI Act, que dice basarse en los principios de proporcionalidad y responsabilidad, no solo deja fuera y sin protección a aquellos grupos demográficos considerados desechables, sino que se vale de una narrativa de “lucha contra el terrorismo” y “garantía de la seguridad nacional” para señalar a la población migrante y racializada mientras impide su libre movilidad. De esta forma, refuerza la criminalización racial y la lógica colonial que rige las políticas de la UE.

Un Pacto racial contra el derecho a migrar

El AI Act tardará años en entrar en vigor. Mientras tanto, se seguirán probando, desarrollando e implantando sistemas de IA nocivos en muchos ámbitos de la vida. Además, este marco es sólo uno de los que la UE implementa en esta materia, como lo es el anteriormente nombrado Eurodac, reformulado recientemente junto al Código de Fronteras de Schengen para ampliar los controles policiales sobre personas migrantes, y para facilitar aún más la perfilación racial y las devoluciones en frontera. 

No obstante, la vigilancia, la discriminación y la criminalización de las personas no blancas y migrantes no se limitan a la AI Act, Eurodac o Schengen. Así lo evidencia el nuevo Pacto sobre Migración y Asilo, aprobado el pasado mes de abril por el Parlamento Europeo, que supondrá un conjunto de reformas que amplían la criminalización y la vigilancia digital de las personas migrantes y racializadas. Un pacto que, como indica la coalición internacional Proteger no vigilar (#ProtectNotSurveil), “viene a normalizar el uso arbitrario de la detención de migrantes, incluidos niños y familias, aumentar el perfilamiento racial, utilizar procedimientos de 'crisis' para permitir y facilitar devoluciones en caliente, así como la devolución de migrantes a los llamados 'países terceros seguros', donde corren riesgo de sufrir violencia, tortura y encarcelamiento arbitrario”.

Migración
Fronteras Europa apunta a profundizar el control biométrico de las personas migrantes con la reforma del EURODAC
110 organizaciones de la sociedad civil denuncian que la reforma de EURODAC (Base de datos dactiloscópicos europea de asilo), que podría concretarse este 7 de diciembre, supone un salto adelante en la criminalización de las personas migrantes.

El Pacto crea un extenso sistema de vigilancia masiva al contemplar la recopilación de datos en masa y compartidos entre las diferentes fuerzas policiales de la UE, empleando tecnologías de identificación biométrica para rastrear todos los movimientos de las personas migrantes e incrementar la vigilancia sobre ellas, llegando a reducir la edad mínima para la recopilación de datos de catorce a seis años. También plantea el uso de tecnologías intrusivas en las diferentes etapas del proceso de solicitudes de asilo, incautando los dispositivos electrónicos de las personas solicitantes o permitiendo el uso de entrevistas remotas o videoconferencias.

Hablamos de un marco legal de “gestión” de la migración que plantea la creación de centros de detención (además de los ya existentes Centro de Internamiento de Extranjeros) de personas migrantes, incluyendo niños y familias enteras, con características similares a las prisiones (pero con menos derechos) y que se basa en la restricción de circulación, empleando sensores de movimiento, sistemas de cámaras y un control continuo mediante huellas dactilares, uso de tecnologías predictivas y detectores de mentiras (prohibidos ambos sobre población europea), así como el uso de tecnologías de vigilancia también en las fronteras internas de la UE. 

El marco regulatorio establecido por la AI Act viene a facilitar la implementación de todas estas tecnologías de vigilancia y criminalización racial. Marcos y mecanismos pensados para el mantenimiento de la Europa Fortaleza. En definitiva, el mantenimiento de un orden racial y colonial construido sobre la explotación de personas migrantes, en beneficio de la industria del control y el modo de vida europeo.

Informar de un error
Es necesario tener cuenta y acceder a ella para poder hacer envíos. Regístrate. Entra na túa conta.

Relacionadas

Racismo
Movimientos sociales Por un antirracismo que no dependa del gran capital 
La sostenibilidad de muchas organizaciones antirracistas de América Latina y el Caribe depende, en gran medida, de la ayuda al desarrollo de la cooperación internacional o del supuesto altruismo o filantropía de las élites económicas.
Migración
Regularización La ILP Regularización vence al primer asalto de la ultraderecha en el Congreso
Vox se queda solo en la votación de su enmienda a la totalidad de la Iniciativa Legislativa Popular por la regularización extraordinaria de al menos 500.000 personas migrantes.
Frontera sur
Migración Violencia administrativa, la otra frontera que espera a las personas migrantes en Ceuta, Melilla y Canarias
Las organizaciones No Name Kitchen, Solidarity Wheels y el Taller Frontera-Sur presentan un informe que documenta las barreras burocráticas con las que se vulneran los derechos de las personas migrantes en los distintos puntos de la Frontera Sur
Represión
Antifascismo Una manifestación exige la libertad de los seis de Zaragoza tras cumplirse dos meses en prisión
La plataforma convocante de la manifestación, habla de “presos políticos” porque el único hecho probado es la participación en una manifestación ante la extrema derecha.
CNT
Sindicalismo ‘Morala’: “Como las seis de La Suiza, fuimos condenados para dar escarmiento por unos hechos que no cometimos”
Miles de personas saldrán a la calle en Xixón para recordar que ´El sindicalismo no es delito. Tras el mitin de apoyo a las cinco sindicalistas de CNT y una trabajadora, actuarán Nacho Vegas y el Coru Antifascista Al Altu La Lleva.
Personas refugiadas
Refugiados Una cafetería para ser libre en el campamento de refugiados palestinos de Beddawi
Hatem Mekdadi abrió Achefak, que significa ‘Lo que tú quieras’, ante la falta de espacios de encuentro en los campos donde desde hace décadas se hacinan los hijos de la Nakba.
Catalunya
Catalunya La celebración de la Copa América de Vela desata el malestar en Barcelona
El 22 de agosto dará inicio la Copa América de Vela en la capital catalana; un evento de dos meses de duración e inversiones millonarias que destroza el tejido vecinal de los barrios de la costa.
Cine
VEINTE AÑOS DE PORNO FEMINISTA Erika Lust: “La pornografía es política”
Erika Lust es un referente del porno feminista y del porno ético, aunque ella hace algunas puntualizaciones sobre esas etiquetas. Celebra veinte años de carrera con la publicación de un libro que recoge su trabajo.
Racismo
Movimientos sociales Por un antirracismo que no dependa del gran capital 
La sostenibilidad de muchas organizaciones antirracistas de América Latina y el Caribe depende, en gran medida, de la ayuda al desarrollo de la cooperación internacional o del supuesto altruismo o filantropía de las élites económicas.
República
Manifestación Desafío republicano en el décimo aniversario de la coronación de Felipe de Borbón
Más de 130 organizaciones sociales y políticas convocan una marcha en Madrid el 16 de junio. El manifiesto 'Felipe VI: diez años bastan' ha sido firmado por cuatro mil personas.

Últimas

Comunidad El Salto
Comunidad El Salto Las cuentas de El Salto 2023-2024: cada vez más, un gran medio financiado por la gente
El Salto supera el millón de euros anuales de ingresos y aumenta su plantilla hasta llegar a las 28 personas empleadas. Todo eso con criterios éticos de financiación, funcionamiento horizontal y una cooperativa de propiedad colectiva.
Palestina
Palestina Desalojan el intento de acampada propalestina de Plaça Catalunya
La Guardia Urbana de Barcelona ha desalojado las tiendas de campaña y ha denunciado y multado a quince personas esta madrugada.
Laboral
Laboral Luxemburgo vuelve a dar la razón a los interinos: la fijeza sin oposiciones es una medida válida
La respuesta del Tribunal de Justicia de la Unión Europea supone un duro varapalo al Tribunal Supremo, quien en mayo sentenció que rechazaba la fijeza automática para los interinos en abuso de temporalidad.
Cine
Desigualdad en el cine En el cine español siguen mandando los hombres: dirigieron siete de cada diez películas en 2023
Aunque aprecia mejoras en la lucha contra la desigualdad, el informe de 2023 de la Asociación de Mujeres Cineastas (CIMA) pone de manifiesto que los hombres siguen acaparando los puestos de poder y mayores presupuestos en el cine español.
Más noticias
Migración
Regularización La ILP Regularización vence al primer asalto de la ultraderecha en el Congreso
Vox se queda solo en la votación de su enmienda a la totalidad de la Iniciativa Legislativa Popular por la regularización extraordinaria de al menos 500.000 personas migrantes.
Desahucios
Barcelona El caso de Joana: a juicio tras recibir una paliza de un mosso en un desahucio ilegal
La joven, activista del movimiento por la vivienda en el Raval, iba a visitar a una amiga cuando se encontró que la estaban echando de casa, aún con el procedimiento archivado. “Van a golpear a la gente organizada”, dice.
Ocupación israelí
Acampadas propalestinas A Policía desaloxa o alumnado acampado no Reitorado e na Facultade de Historia da USC
A primeira hora desta mañá, máis dunha decena de furgóns policiais chegaron ás instalacións universitarias para expulsar o alumnado que se manifestaba desde hai máis dun mes en protesta polo masacre israelí de Gaza
Lanaren Ekonomia
Lanaren Ekonomia Mecaner enpresan itxieratik harago, trantsizio ekosozialista da bidea
VV.AA.
Mecaner Urdulizeko metalgintza enpresak jarduera guztia eten du, greba mugagabe baten ostean sindikatuen porrota ekarriz

Recomendadas

Italia
Historia Cincuenta años de Piazza della Loggia: memoria de una masacre fascista, de Estado y de la OTAN
La masacre de Piazza della Loggia EN 28 de mayo de 1974 se convertirá en un episodio fundamental para entender los años de plomo de la democracia italiana.
Migración
Fronteras En pausa frente al Mediterráneo: cientos de personas migrantes esperan en un hotel de la Costa del Sol
El centro de estancia temporal extraordinario para personas migrantes de Torrox (Málaga), se ha convertido en un ejemplo positivo frente a los intentos fallidos propuestos en otros municipios.
Inteligencia artificial
Inteligencia Artificial y cine ¿Sueñan los cineastas con ovejas eléctricas?
El debate sobre la adopción de la Inteligencia Artificial por las principales disciplinas artísticas sigue candente. La irrupción de Sora vuelve a poner el foco sobre los beneficios y riesgos que conlleva su uso en la generación de imágenes.