Tecnología
Minority Report en las policías europeas: llegan los sistemas de predicción de delitos

La comisaria europea de Derechos Humanos alerta del uso de algoritmos en sistemas policiales y judiciales de la Unión que atentan contra los derechos ciudadanos.

12 may 2019 12:02

Algoritmos para predecir en qué zonas es más probable que tengan lugar robos u otro tipo de crímenes, algoritmos para ayudar a decidir si imponer prisión preventiva o no a una persona pendiente de juicio. Los algoritmos han llegado y también lo han hecho a los sistemas policiales y judiciales europeos. Y de ello alerta la comisaria de Derechos Humanos en el Consejo de Europa, Dunja Mijatović. “Aunque aún se encuentran en sus etapas experimentales, el uso de algoritmos de aprendizaje automático en los sistemas de justicia penal es cada vez más común”, afirma Mijatović en un texto publicado en la web del Consejo de Europa en el que señalaba los resultados “potencialmente discriminatorios” de este tipo de programas de predicción de delitos.

Como ejemplo, cita PredPol, un programa diseñado por el departamento de policía de Los Ángeles (Estados Unidos) en colaboración con la Universidad de California en Los Ángeles (UCLA) que extrapola los datos de estadísticas criminales CompStat —sí, esa que usaban los policías de la serie The Wire—. ¿Cómo funciona? En la web de PredPol se explica que calcula las predicciones en base a tres tipos de datos: tipo de crimen, localización y fecha y hora. No usa información personal, ni demográfica, étnica o socioeconómica —se afirma en la web—, y los resultados se representan en un Google Map en el que se localizan las áreas con más alto riesgo de delitos cada día y en cada turno. En 2013, la policía de Kent (Reino Unido) compró los derechos de uso del programa por 100.000 libras anuales. Lo probó durante cinco años y en noviembre de 2018 desechó su uso, anunciando que seguirían trabajando en esa dirección, con un nuevo proyecto o construyendo su propio sistema. “Predpol tenía un buen historial de predecir dónde es probable que se cometan los crímenes”, afirmaba entonces John Phillips, superintendente de la policía de Kent, al Financial Times. “Lo que es más difícil es demostrar que hemos podido reducir el crimen con esa información”.

Este programa de algoritmos, así como otros parecidos usados en otras zonas de Reino Unido —como Manchester, Yorkshire o West Midlands— fueron criticados por organizaciones como Big Brother Watch en un informe en el que citaban estudios realizados sobre este tipo de sistemas que concluían que estos refuerzan patrones ya existentes de discriminación y dan lugar a una retroalimentación, conllevando que la policía sea enviada a vecindarios en los que ya hay una presencia excesiva de policías, independientemente de la tasa real de criminalidad.

Otro de los sistemas de algoritmos a los que hace referencia la comisaria de Derechos Humanos europea es la Herramienta de Evaluación de Riesgo de Daños (HART por sus siglas en inglés), usada por la policía de Durham, también en Reino Unido, para decidir si mantener o no a un sospechoso de un delito en custodia o si derivarlo a un programa de rehabilitación. Para ello, Hart utiliza hasta 34 categorías diferentes de datos que van de la edad y el sexo al historial delictivo. Y, al menos hasta abril, también usaba el código postal del sospechoso, lo que desde Big Brother Watch señalan que deriva en la criminalización de la pobreza. Un informe de 2018 elaborado por el Royal United Services Institute for Defence and Security Studies —que no es precisamente un lobby conservador en cuanto a tecnología aplicada a defensa y seguridad— también alertaba de que sistemas como Hart “reproducirán inevitablemente los sesgos inherentes a los datos que se les proporcionan”, lo que perjudicará a las minorías étnicas y religiosas.

Pero más allá de la experiencia británica, este tipo de sistemas de algoritmos también han llegado a otros países de la Unión Europea, como Italia, donde el sistema XLAW se usa en Nápoles y Venecia para prevenir robos, o en Alemania, donde el sistema Precobs —que suena aún más a los precons de Minority Report— se usa ya, de manera corriente o en fase piloto, en los cantones de Aargau, Basel, Baden-Württemberg, Babaria, en Sajonia y en Zug. Precobs también se usa desde 2013 en Zurich (Suiza) para prevención de robos en viviendas.

En España, este tipo de sistemas predictivos también han comenzado a hacerse hueco. A finales de 2015 Rivas (Madrid) fue el primer municipio en comenzar a experimentar con el sistema Pred-Crime. Su policía local lo usó durante nueve meses tras los cuales lo descartaron. “Necesita seguir desarrollándose para ser realmente eficaz”, señalan a El Salto desde el prensa del Ayuntamiento. Diseñada por EuroCop Security Systems, empresa constituida en 2004 y que a día de hoy cuenta con doce empleados y, en 2017, facturó 3,7 millones de euros —casi el doble que en los dos ejercicios anteriores—. En España, su administrador único y director general, financiero, comercial, de márketing y de informática es Ramón García Esteve.

También en 2015, desde la Policía Nacional se comenzó a desarrollar un sistema parecido de la mano del policía científico Miguel Camacho Collados, que en 2014 había recibido una beca Fullbright para estudiar este tipo de sistemas, en colaboración con la Universidad de Granada, la UCLA y la Policía de Los Ángeles, siguiendo la senda de PredPol. Aunque no hay más información sobre el posterior desarrollo de este sistema, desde finales de 2018 sí entró en fase piloto en la Policía Nacional otro sistema basado en algoritmos, en este caso para detectar denuncias falsas, Veripol, también desarrollado por Camacho e instalado ya en todas las comisarías.

Informar de un error
Es necesario tener cuenta y acceder a ella para poder hacer envíos. Regístrate. Entra na túa conta.

Relacionadas

Crisis climática
Cinco omnicidios Amenazados por cinco omnicidios II
La esperanza reside en las sociedades con prácticas democráticas deliberativas y tradiciones de compromiso cívico.
Crisis climática
Cinco omnicidios Amenazados por cinco omnicidios I
La esperanza reside en las sociedades con prácticas democráticas deliberativas y tradiciones de compromiso cívico.
#34184
13/5/2019 15:42

En españita los órganos fascistas PN y GC lo hacen desde hace ochenta años.

2
0
#34149
12/5/2019 16:11

La IA tiene el sesgo ideológico de quien la elabora. Es tendenciosa y discriminatoria como toda la estadística en que se basa.
Vamos hacia una idiotización colectiva.

4
0
#34139
12/5/2019 13:02

Cesare Lombroso estaría maravillado con este sistema

4
0
Migración
Migracións Burocracia para os 'refuxiados de segunda': sete rapaces malianos ante o bloqueo do Estado ao pedir asilo
Presos da guerra, chegan a un novo territorio en procura de mellores oportunidades, pero son presos de temporalidades e trámites administrativos, minguando o seu estado anímico e deixándolles estancados nun limbo temporal que os anula como cidadáns.
Caso Carioca
Caso Carioca O caso Carioca a través dunha migrante explotada sexualmente: indemnización mínima e complot policial
O garda civil Armando aliábase con proxenetas e abusaba sexualmente de mulleres prostituídas facendo uso da súa capacidade para regularizar a súa situación.
Reforma laboral
Trabajo y precariedad Europa da la razón a UGT y fuerza al Gobierno a mejorar las condiciones de los despidos
Tras el fallo del Comité Europeo de Derechos Sociales sobre despidos improcedentes, Yolanda Díaz convoca a sindicatos y patronal para reformar la ley.
Estados Unidos
Elecciones EE UU Netanyahu afirma que Israel y EE UU seguirán siendo aliados sea quien sea el próximo presidente
La candidata designada por el presidente Joe Biden ha defendido el derecho de Israel a “defenderse” y los principales argumentos del sionismo. Sin embargo, en los últimos meses ha elevado el tono de crítica a los ataques sobre la Franja de Gaza.
Análisis
Análisis ¿Por qué las oligarquías liberales temen a la política fiscal?
En vez de preocuparse por alcanzar el objetivo de pleno empleo y mejorar las condiciones de vida de la ciudadanía, estos chamanes nos dicen que lo fundamental es el ajuste presupuestario.
O Salto medra contigo
O Salto medra contigo Eles por diñeiro, nós por un futuro mellor: subscríbete ao Salto
Sempre que unha multinacional ou un goberno intentaron cometer un atentado medioambiental no noso territorio estivemos alí para contalo. Puidemos facelo porque a nós sostennos a nosa comunidade, pero queremos chegar máis lonxe e por iso precisámoste.
Turismo
Organización social El turismo de masas revuelve a la España costera: un verano de movilizaciones contra la gentrificación
Las personas que viven en las zonas del Estado con los procesos de turistificación más avanzados han dicho basta. Baleares, Canarias, Cantabria, Cataluña o Valencia prometen un estío de protestas sin precedentes para reclamar un cambio de modelo.

Últimas

Movimientos sociales
Instituto de las Mujeres Colectivos de personas trans pierden la paciencia con Isabel García: “Debe ser cesada de inmediato”
Plataforma Trans pide medidas contra la directora del Instituto de las Mujeres tras varias informaciones esta semana que apuntan a supuestos amaños en favor de la empresa de su mujer. FELGTBI+ espera una reacción del Ministerio Igualdad.
Análisis
Análisis La última batalla de Mr. Islington
El 4 de julio, el candidato laborista en la circunscripción de Islington North sacó 16.873 votos, un 34,4% del electorado. Su contrincante independiente, 24.120, equivalente al 49,2%- Ese independiente es Jeremy Corbyn.
Libertades
Derechos y libertades Oleada de suicidios y revueltas en las cárceles italianas
En la cárcel de Trieste, 257 personas se hacinan en un espacio previsto para 150. Allí se desencadenaba la revuelta carcelaria más intensa de una oleada que dio inició hace pocas semanas.
La vida y ya
La vida y ya Mantas doradas
Denuncian la responsabilidad de los gobiernos y empresas europeas en las muertes de personas que quieren llegar a Europa.
Más noticias
La Colmena
Ilustración ¿Quién juzga a los jueces?
La libertad de expresión o del sindicalismo a secas choca con un Poder judicial que ha olvidado el significado de la palabra justicia, con minúsculas, que es el primero que señala el diccionario.
Turismo
Baleares 20.000 personas se manifiestan en Mallorca contra el turismo de masas
La plataforma “Canviem el rumb” califica de éxito la convocatoria y pide al Govern Balear que tenga en cuenta sus demandas.
Palestina
Palestina La ocupación israelí de los territorios palestinos es ilegal según la Corte Internacional de Justicia
Israel viola la convención de Ginebra con su política de asentamientos en Cisjordania y Jerusalén Este. Medidas como demoler propiedades palestinas y reasignarlas a colonos israelíes no son de carácter provisional y el efecto es irreversibles.
Ejército Zapatista de Liberación Nacional (EZLN)
30 aniversario del levantamiento del EZLN Los viajes de la Montaña. Arte, política y simbolismos de la lucha Zapatista
En este noveno texto de la serie, la autora nos propone una mirada a través del arte para entender la dinámica de construcción de la lucha zapatista en México y cómo se articula con las redes de resistencia europeas

Recomendadas

Personas con discapacidad
Itxi Guerra Itxi Guerra, activista anticapacitista: “Lo 'diska' muestra dónde falla el capitalismo y cómo dinamitarlo”
En 'Ruptura y reparación de la máquina', esta referente del anticapacitismo argumenta la potencialidad política de la discapacidad y da pautas para convivir en un sistema discapacitante: “Las redes entre personas nos permiten vivir con la máquina rota”
Arte
Arte Miguel Ángel, Crisanto Domínguez y la blanquitud
En julio se llevará a cabo la Biena de Esculturas en la ciudad de Resistencia. Como acto previo a la bienal, el 6 de marzo pasado se emplazó una replica del David de Miguel Ángel donde debía estar situada una estatua de los pueblos originarios.
Historia
Historia Chipre recuerda los 50 años de invasión turca
Se cumple medio siglo del ataque, seguido por la división y ocupación de la isla a manos del ejército turco. La izquierda chipriota critica el estancamiento de las negociaciones de paz y la falta de interés de Bruselas.
Infancia
Sira Rego “La palabra ‘mena’ deshumaniza al otro y nos negamos a deshumanizar a las infancias”
El Ministerio de Juventud e Infancia, creado en noviembre de 2023, tiene el reto de sacar adelante la propuesta para que se produzca la acogida de los 6.000 niños y niñas no acompañados que se encuentran en Canarias.