Tecnología
Reconocimiento facial, una distopía para vender humo

Durante el año 2020 ha habido un aumento notable de empresas y proyectos dedicados al desarrollo de la tecnología de reconocimiento facial. Sin embargo, a pesar de los logros que celebran los CEO de las compañías en los medios de comunicación, nos encontramos ante una tecnología incipiente que está muy lejos de llegar a ser el panóptico digital que imaginamos.
Reconocimiento facial 01

Si el 11 de septiembre de 2001 marcó un punto de inflexión y Estados Unidos se ocupó de escorar el debate público de los países de su órbita hacia el mantra de la seguridad, poblando las grandes ciudades de cámaras de vigilancia, el año 2020 y su covid-19 han marcado el siguiente hito en la videovigilancia: el reconocimiento facial. A pesar de que los primeros sistemas se instalaron en EE UU a principios de los años 10, la prensa nos ha hecho testigos en los últimos meses de la cantidad de proyectos que se han implementado en hasta 75 países. Según un estudio realizado por la empresa Técnicas en Cámaras y Seguridad, contando las instalaciones dadas de alta en la Agencia Española de Protección de Datos (AEPD) y los informes de ventas anuales de empresas del sector, se calcula que hay más de 900.000 cámaras de seguridad en España. 

Mercadona declaró tener bases con datos biométricos de sus propios ficheros. La empresa responsable es AnyVision, que vigila a la población palestina en Cisjordania

En el Estado español, el reconocimiento facial opera desde 2016 en la estación de autobuses de Méndez Álvaro en Madrid. Funciona en aeropuertos de diversas ciudades, centros comerciales, casinos y salas de juego. El BBVA, a través de Véridas, una empresa de biometría creada por el propio banco, y Bankia han sacado sus propios sistemas de pago por reconocimiento facial en 2020. Caixabank lanzó en Canarias sus primeros cajeros que identifican las caras de sus clientes para operar sin meter el identificador PIN. Este mismo año, la compañía PwC Tax and Legal Services ha comercializado un sistema para procesar ayudas al alquiler. Uber implanta tecnología de reconocimiento de objetos en sus vehículos para certificar el uso de mascarilla en empleados y clientes. En mayo, la cadena de hoteles Meliá anunció que integraría el sistema Rekognition de Amazon para registrar clientes.

Capitalismo
Amazon ha puesto en venta el planeta Tierra

El último viernes de noviembre se celebra el llamado Black Friday, una jornada para el consumo global que, en su versión digital, domina absolutamente Amazon. La compañía de Jeff Bezos es la marca comercial más valiosa del mundo. También un modelo de precariedad laboral y elusión fiscal.


El 6 de julio, 
Protección de Datos abrió una investigación contra Mercadona, ya que había instalado estos sistemas en 40 de sus sucursales en Mallorca, Zaragoza y Valencia. Según la normativa vigente, “la utilización de dichos sistemas está prohibida en el ámbito privado a menos que responda a un interés público esencial”. Mercadona declaró tener bases con datos biométricos de sus propios ficheros. La empresa responsable es AnyVision, que estuvo implicada en una polémica cuando Microsoft, IBM y Amazon retiraron sus inversiones al publicarse que usaba su tecnología para vigilar población palestina en Cisjordania.

En septiembre de 2019 un instituto de Badalona fue multado con 19.000 euros por utilizar el reconocimiento facial para confirmar la asistencia de los alumnos. El debate en el ámbito docente se ha reabierto en los últimos meses a raíz de los exámenes y clases telemáticas en la universidad. El IE Business School, CEU San Pablo o la Universidad Rey Juan Carlos han aplicado estos programas. El software se activa durante el examen para fotografiar al alumnado, identificarlo e incluso detectar movimientos o gestos sospechosos, siempre según las empresas desarrolladoras. De nuevo la AEPD publicó un comunicado en el que señalaba que esto solo podía hacerse con el consentimiento expreso de los alumnos.

Otro de los campos donde se han desarrollado y aplicado este tipo de algoritmos en el Estado es el de las entrevistas laborales. La empresa Eyesecure dice haber desarrollado un algoritmo que analiza la expresión gestual, entre otros parámetros, para sugerir candidatos a partir de videoentrevistas. Telepizza, Porcelanosa, Prosegur, Securitas Direct, Five Guys, Econocon o Sprinter ya lo usan.

En septiembre de 2020, un conglomerado de seis empresas, tres universidades y el Instituto Tecnológico de Castilla y Leon, supervisados por el Ministerio del Interior, han anunciado estar diseñando AI MARS, un sistema que, según sus promotores, “permitirá rastrear millones de caras por segundo en grandes concentraciones como manifestaciones, campos de fútbol o festivales”. Aseguran, además, que el uso de la mascarilla no supondrá ningún obstáculo para el reconocimiento. Cuenta con un presupuesto de más de cinco millones de euros.

“No es fácil listar todos los lugares de tránsito público donde se usa esta tecnología”, señala Ekaitz Ortega, periodista que investiga el tema desde hace varios años y ha tratado de buscar, una a una, estas localizaciones en enclaves destacados de las grandes ciudades. “No existe ningún registro que liste todos los lugares donde se aplica. Yo tuve que armarme de paciencia y encontré muchos a través de la prensa. En el caso de Ifema —en Madrid— encontré la licitación y eran casi dos millones de euros”, añade. En un reciente reportaje publicado en el AlgorithmWatch, la periodista Naiara Bellio escrutaba el sistema de la Estación Sur de Autobuses de Madrid. Allí, las empleadas de los comercios de la estación contaban que desconocían que el sistema estaba siendo usado desde 2016 en la estación donde trabajaban.

Videovigilancia
La mayor terminal de autobuses de España instaló reconocimiento facial en vivo en 2016, pero pocos se dieron cuenta
El sistema de reconocimiento facial de la Estación Sur de Madrid contrasta automáticamente la cara de cada visitante con una base de datos de sospechosos, y comparte información con la policía española.

Teoría y práctica en el reconocimiento facial

Los sistemas mencionados utilizan algoritmos de reconocimiento facial, pero no todos son iguales. Se pueden agrupar básicamente en dos grupos. Por un lado, los sistemas que funcionan ‘de uno a uno’, que verifican que eres quien dices ser. Son los sistemas de pago en bancos. El sistema te fotografía y compara esa imagen con una foto tuya que tiene en sus base de datos. Por otro lado, estarían los algoritmos ‘de uno a n’, que son los que se utilizarían para procesos de securitización de espacios públicos. Estos sistemas cuentan con una base de datos previa de varias personas registradas. La cámara hace fotos de quienes transitan el espacio para ver si alguna coincide con las que componen esas bases.

Gemma Galdón, investigadora española de políticas públicas especializada en vigilancia y directora de la Fundación Éticas, donde se auditan algoritmos e inteligencias artificiales desde una perspectiva ética, se muestra escéptica ante los logros en temas de securitización que venden los CEO de estas compañías. “Esto ya nos pasó con la videovigilancia normal. Decir que una cámara de reconocimiento facial ha disminuido la delincuencia es inexacto. Tienes que explicarme cómo has llegado exactamente a ese cálculo o tu explicación tiene cero credibilidad, aunque digas que la criminalidad se ha reducido un tanto por ciento gracias a tus sistemas”, desarrolla. Bellio coincide: “En mi caso se escudaron en que el sistema de la estación está catalogado como ‘infraestructura crítica’ para no darme ningún tipo de información, ni de la tecnología ni del supuesto descenso de la delincuencia asociado a la misma”.

“Es imposible reconocer a la gente con mascarilla, da igual lo que digan las empresas que venden estos productos”, defiende Gemma Galdón

En el Estado español, Herta Security, empresa con sede en Barcelona y responsable del sistema que se aplica en la Estación Sur madrileña, que participa en el macroproyecto AI MARS con Interior, lanzó un comunicado afirmando que sus sistemas pueden identificar incluso cuando el o la transeunte lleva mascarilla. Jorge Félix, director del Departamento de calidad de FacePhi, otra de las líderes en reconocimiento biométrico cuyos productos se usan en Caixabank, afirmaba en una entrevista en Onda Cero que el reconocimento facial ahora mismo es el más fiable de los sistemas de reconocimiento biométrico desarrollados. También declaró haber resuelto el problema de las mascarillas. “Es una estrategia comunicativa basada en la publicidad comercial, pero si tratas de indagar más allá, silencio absoluto. Yo hablé en repetidas ocasiones con la administración de la estación y me dijeron que no intentara obtener más información porque no me la iban a dar”, expone Bellio.

Reconocimiento facial 02

“Es imposible reconocer a la gente con mascarilla, da igual lo que digan las empresas que venden estos productos. Esta tecnología establece varios puntos en la cara para comparar y la mayoría están alrededor de boca, nariz y ojos. Nos están tomando el pelo y vendiendo humo. En la inteligencia artificial no se ha establecido un control de calidad como en otros productos”, sentencia Galdón.

El Instituto Nacional de Estándares y Tecnología de EE UU ha publicado un informe reciente en el que señala que los fallos de reconocimiento con mascarilla llegan en ocasiones al 50% de los casos en el emparejamiento de ‘uno a uno’, el más fiable y sencillo de ambos. En la ciudad de Madrid el desarrollo de un sistema de pago para el transporte público (desarrollado por Mastercard y Saffe) se ha visto paralizado por el uso de las mascarillas.

El proyecto CV-Dazzle, financiado por la fundación NLnet, diseñó una serie de maquillajes basados en la idea de camuflaje disruptivo que lograban confundir a los algoritmos

San Francisco, cuna de Silicon Valley, prohibió el uso de esta tecnología por parte de la policía gracias a la presión por parte de grupos de activistas. Tras las protestas desencadenadas por el asesinato de George Floyd, Amazon anunció en junio de este año que prohibía el uso de su tecnología reconocimiento facial (Rekognition) durante un año, ya que se habían documentado un gran número de falsos positivos entre la población negra.

Tecnología
El rechazo a la tecnología de reconocimiento facial llega a la música

Una campaña pide la prohibición de los sistemas de reconocimiento facial en conciertos y festivales en Estados Unidos. Artistas como Tom Morello, Amanda Palmer y el grupo punk Downtown Boys se han sumado a la iniciativa.


Sobre los falsos positivos y las discriminaciones raciales provocadas por sesgos en las bases de datos, Galdón reconoce: “En el nivel teórico me parece muy necesario el debate. Sin embargo, en el práctico no, sencillamente porque estos sistemas no funcionan, le hacemos un favor a quien está tratando de vender esta tecnología. Planteamos un escenario donde un algoritmo pueda discriminar a determinados grupos, cuando el problema es que dichos sistemas no funcionan. Operan relativamente bien, con errores superiores al 30%, en escenarios prácticamente estáticos, con una persona parada, sin nada en la cara”.

Usos ilegales y resistencias

Cuando los datos biométricos se usan como medio de identificación, el Reglamento General de Protección de Datos establece en su artículo 9 que se trata de categorías especiales de datos y prohíbe expresamente su tratamiento dirigido a identificar de manera unívoca a una persona física. “Es ilegal, lo que pasa es que no se aplica la ley. Recientemente la Agencia de Protección de Datos británica se ha declarado incapaz de multar la cantidad de malas prácticas que existen. Hemos hecho leyes que nadie está cumpliendo. A veces son prácticas que emanan de la propia administración pública”, señala Galdón al respecto.

En Francia se ha diseñado el proyecto Technopolice, un detallado mapeo colaborativo de todos los sistemas de vigilancia digitales públicos y privados

Tanto en EE UU como en Europa, los modelos de resistencias surgen desde el activismo ciudadano. El proyecto CV-Dazzle, financiado por la fundación NLnet, diseñó una serie de maquillajes basados en la idea de camuflaje disruptivo que lograban confundir a los algoritmos mediante colores que contrasten con el color de piel y crear asimetrías en pelo y maquillaje. Este mismo año en la Universidad de Chicago se diseñó el sistema Fawkes, una herramienta digital que cambia ciertos píxeles en fotografías imperceptibles para el ojo humano, pero que eran capaces de confundir a los algoritmos. En Francia se ha diseñado el proyecto Technopolice, un detallado mapeo colaborativo de todos los sistemas de vigilancia digitales públicos y privados.

“La visión que tiene la gente de la tecnología está más influida por la ciencia ficción que por los hechos científicos. Esto ha sido creado y aupado por muchos sectores: las empresas que comercializan estos productos, pero también por los medios de comunicación, que reproducen sus comunicados sin cuestionarlos porque ganan clics. El problema es que es muy difícil tener un debate público sano cuando la gente no sabe de qué estamos hablando. Si nos lo explicaran, veríamos que nos están tomando el pelo”, reflexiona Galdón. La investigadora finaliza recomendando la lectura de la socióloga y escritora turca Zeynep Tufekci, que lo resume así: “Estamos creando un escenario distópico solo para que la gente haga clic en un anuncio y vender lavadoras”.

Informar de un error
Es necesario tener cuenta y acceder a ella para poder hacer envíos. Regístrate. Entra na túa conta.

Relacionadas

PNV
CLIENTELISMO Ibermática crea una fundación liderada por excargos del PNV tras la crítica por pérdida de arraigo
Adquirida por el grupo sevillano Ayesa, la que fuera “la joya tecnológica vasca” mantendrá su marca a través de una fundación controlada por Joseba Intxaurraga, exconcejal del PNV en Bilbao y exsecretario de la vicepresidencia del Gobierno Vasco.
Tecnología
Tecnología “Sólo quedan máquinas chocando entre sí”
El proyecto de “Olimpiadas Aumentadas” pone en primer plano la tendencia a romper con los límites inherentes al ser humano, en una tendencia narcisista que se extiende también al erotismo.
#71861
13/10/2020 14:13

Si claro, ahora Amazon,IBM,... Y demás megamultinacionales van a retirar apoyo económico por las razones que se esgrimen en el particulo(artículo partidista).
Y las leyes están hechas por los testaferros,que son todos los políticos para que los que mandan de verdad hagan lo que les salga de ahi, con total impunidad.

3
4
#71832
13/10/2020 8:24

Me parece bastante más preocupante y presente todo el chiringuito de facebook y otras redes digitales dedicadas a la manipulación ideológica y el marketing desatado.

3
4
#71840
13/10/2020 10:23

Como decía mi abuelo, una cosa no quita la otra.

3
0
#71836
13/10/2020 10:08

bien visto, lo mismo que este medio digital y su intento de manipular los hechos para que cuadren con la ideología que se profesa

1
10
#71949
14/10/2020 9:50

mal visto, porque tus colegas sicarios de uniforme utilizarán la excusa del reconocimiento facial para inventarse delitos a cascoporro

0
0
#71839
13/10/2020 10:23

Como decía mi abuelo, una cosa no quita la otra.

2
0
Caso Carioca
Caso Carioca O caso Carioca a través dunha migrante explotada sexualmente: indemnización mínima e complot policial
O garda civil Armando aliábase con proxenetas e abusaba sexualmente de mulleres prostituídas facendo uso da súa capacidade para regularizar a súa situación.
Unión Europea
Unión Europea Von der Leyen es reelegida como presidenta de la Comisión Europea gracias a un acuerdo con Los Verdes
La presidenta de la Comisión Europea es reelegida con 401 votos a favor. Su discurso incluye nuevas medidas de securitización de las fronteras, entre otras la multiplicación por tres del polémico Frontex.
Ocupación israelí
Derechos humanos Amnistía Internacional pide a Israel que ponga fin a la detención masiva y a la tortura de palestinos en Gaza
Un nuevo informe de esta organización de derechos humanos recoge testimonios de 27 exdetenidos entre ellos un niño de 14 años sobre torturas en los centros de detención israelíes.
Madres protectoras
Madres protectoras Un niño y su madre llevan dos años criminalizados por un fallo que dicta su vuelta de Chile a España
Una madre chilena lleva dos años ocultándose con su hijo, a quien reclama el progenitor en España. El Comité de los Derechos del Niño de la ONU dio la razón a la madre sin que ninguna autoridad vele por el cumplimiento de este dictamen.
O Salto medra contigo
O Salto medra contigo Eles por diñeiro, nós por un futuro mellor: subscríbete ao Salto
Sempre que unha multinacional ou un goberno intentaron cometer un atentado medioambiental no noso territorio estivemos alí para contalo. Puidemos facelo porque a nós sostennos a nosa comunidade, pero queremos chegar máis lonxe e por iso precisámoste.
PSOE
Polémica en Igualdad El señalamiento por los contratos a su pareja pone en jaque a la directora del Instituto de las Mujeres
La ministra de Igualdad pide explicaciones y Sumar una comparecencia en la Comisión de Igualdad de Isabel García tras la publicación de información sobre supuestos amaños de contratos. García se defiende en un comunicado.

Últimas

Personas con discapacidad
Discapacidade Unha guía para empoderar ás persoas con discapacidade: “Coa nova lei, pasamos de ser persoas mortas a vivas”
A federación Dano Cerebral Galicia busca axudar ás familias e as persoas con discapacidade a entender os cambios legais que implicou a nova lei 8/2021, publicando a “Guía legal para persoas con dano cerebral adquirido”.
Sindicatos
Represión Más de una veintena de convocatorias en una jornada estatal en apoyo a las seis de La Suiza
Después de una rueda de prensa histórica que congregó a ocho sindicatos, crece la solidaridad con las seis jóvenes encausadas tras defender a una trabajadora que denunció acoso sexual en la cafetería La Suiza de Gijón.
Madres protectoras
Acuerdos internacionales Así es el convenio sobre sustracción de menores que cuestiona la ONU por el caso de un niño chileno-español
El tratado de 1980 sobre sustracción internacional de menores rige hoy en 103 países y está en plena campaña de expansión por África. Un dictamen del Comité de los Derechos del Niño de la ONU amenaza su credibilidad, pero cumple dos años silenciado.
Justicia
Transparencia Un fallo judicial aporta más intriga a la reelección de Von der Leyen como presidenta de la Comisión Europea
El TJUE determina que la alta instancia comunitaria no veló por los derechos ciudadanos a la transparencia al ocultar demasiada información sobre los contratos con las farmacéuticas para obtener vacunas contra el covid-19.
Sidecar
Sidecar Control de daños en la República Islámica de Irán
El Estado iraní se enfrenta a una plétora de contradicciones estructurales. La elección de Masoud Pezeshkian, un reformista, representa el modo elegido para intentar superar esta crisis múltiple.
Más noticias
Libertades
Medios, jueces y mordazas Pedro Sánchez anuncia su plan de regeneración sin tocar el frente ultra del poder judicial
El presidente del Gobierno anuncia un paquete de medidas para regenerar la vida política que incluye una reforma de la ley de publicidad institucional y el fin de los delitos de injurias.
Educación infantil
Educación a la madrileña Alimentos podridos, agua marrón e impagos de nóminas: una escuela infantil pública de Madrid, al límite
En la Escuela Infantil Señor Don Gato, situada en Valdebernardo, ni la empresa que gestiona el centro ni la Consejería de Educación dan soluciones a su preocupante situación y muchas familias ni siquiera pueden dejar ya a sus hijas e hijos.
Ley de Extranjería
Migraciones “No son cromos”: colectivos piden que se respeten los derechos de los menores no acompañados en su reparto
Mientras el Gobierno presentan una proposición de ley para repartir a los niños y niñas no acompañados que han llegado a las costas de Canarias, colectivos ven la medida como necesaria pero recuerdan que es solo un “parche”.
Fiestas populares
Euskal Herria Las txosnas de Gasteiz se plantan ante la Diputación por la obligación de TicketBAI
A pocas semanas del inicio de las fiestas, las txosnas se han plantado ante la Diputación Foral de Álava: “Quieren equiparar las txosnas con cualquier actividad privada que tenga como objetivo el beneficio económico. Si no cambiamos esta situación, este año no podremos poner txosnas”, han señalado.

Recomendadas

Infancia
Sira Rego “La palabra ‘mena’ deshumaniza al otro y nos negamos a deshumanizar a las infancias”
El Ministerio de Juventud e Infancia, creado en noviembre de 2023, tiene el reto de sacar adelante la propuesta para que se produzca la acogida de los 6.000 niños y niñas no acompañados que se encuentran en Canarias.
Mediterráneo
Fauna marina Compartir playa con tortugas marinas
En los últimos años se ha observado un aumento significativo de la anidación de la tortuga marina, y se espera que esta tendencia continúe en el futuro
Urbanismo
Urbanismo salvaxe A Universidade de Vigo construíu sen licenza un centro de investigación na illa de Toralla
A institución, que gastou medio millón na obra, recoñece que non ten título habilitante, pero argumenta que “non o necesita”. Nin o Concello de Vigo nin Facenda teñen rexistro algún da construción malia tela empezado en 2017.