Inteligencia artificial
Deloitte diseñará la agencia para controlar la inteligencia artificial en España

Una oferta liderada por grandes firmas de la consultoría obtiene un contrato clave para regular estas tecnologías y sus impactos. Expertos y organizaciones civiles critican que se externalice esta labor y tachan la decisión de “ridícula”.
Sede de la consultora Deloitte.
Sede de la consultora Deloitte.

@pjarandia

27 may 2023 06:00

Con la inteligencia artificial (IA) y sus usos, riesgos y dilemas en boca de todo el mundo, el Gobierno español va poco a poco aclarando de qué manera planea controlar estas tecnologías. Siempre a expensas de la regulación europea que se aprobará en unos meses, una pieza fundamental en esta misión será la futura Agencia Española de Supervisión de la Inteligencia Artificial (AESIA), con sede en A Coruña. 

La Secretaría de Estado de Digitalización e Inteligencia Artificial (SEDIA) ha puesto en manos de un grupo de consultoras el diseño de esta agencia. En concreto, Deloitte y la organización OdiseIA serán las encargadas de dar forma a un proyecto clave para regular estas tecnologías en nuestro país. Y que desde hace meses se vende desde el Gobierno como una de las pruebas de que España está liderando un uso “ético y responsable” de la IA en Europa. 

La concesión supone conflicto de intereses: algunas de las empresas ganadoras del concurso están implicadas de manera directa o indirecta en el desarrollo de los sistemas que se aspira a supervisar

La decisión de externalizar esta tarea ha sido criticada por expertos y organizaciones de derechos digitales. Entre otros motivos, por la oportunidad perdida para aprovechar el conocimiento que existe en la academia, la sociedad civil y la propia administración pública sobre cuáles son los riesgos de estas tecnologías —y cómo mitigarlos—. Pero también por el más que aparente conflicto de intereses que genera: algunas de las empresas ganadoras del concurso están implicadas de manera directa o indirecta en el desarrollo de los sistemas que se aspira a supervisar. 

Deloitte, una de las consultoras más poderosas del mundo, tiene alianzas estratégicas con grandes tecnológicas, lo que le sirve por ejemplo para ofrecer la IA generativa de Google a sus clientes empresariales. Por su parte, OdiseIA, que cuenta con profesionales de prestigio en su equipo directivo, está financiada por la propia Deloitte, otro gigante de la consultoría como PwC y varias firmas nacionales del sector como BeDisruptive y Cenit, entre otras.

“No tiene sentido externalizar estas funciones” 

Así, ambas organizaciones serán las encargadas de ejecutar a cambio de 1,6 millones de euros uno de los dos lotes sacados a concurso en diciembre pasado por el Ministerio de Asuntos Económicos y Transformación Digital, del que depende la SEDIA. Después de que los técnicos del ministerio hayan valorado su propuesta con la mejor puntuación entre las cuatro ofertas presentadas, según un documento adelantado por El Mundo. 

Deloitte y OdiseIA ya fueron las encargadas de ejecutar una primera fase de la estrategia supervisora del Gobierno, tal y como publicó El Salto en febrero. En el último año han elaborado varias guías y manuales para explicar de manera práctica a las empresas cómo han de adaptarse a la nueva ley europea de IA, que estará lista a finales de este año. Estas guías se utilizarán durante la prueba piloto —o sandbox regulatorio— con el que España testará la nueva normativa. Precisamente esta semana el Gobierno ha abierto a audiencia pública el Real Decreto que regulará esta prueba práctica. 

“No tiene ningún sentido externalizar estas funciones de diseño [de la agencia]. No pueden ser las empresas las que lideren”, asegura a El Salto Héctor Tejero, diputado de Más País en la Comunidad de Madrid

La cesión al sector privado de responsabilidades clave sobre la AESIA, cuando la agencia ni siquiera ha echado a andar, ha provocado indignación entre diversas voces. “No tiene ningún sentido externalizar estas funciones de diseño [de la agencia]”, asegura a El Salto Héctor Tejero, diputado de Más País en la Comunidad de Madrid y participante en las negociaciones iniciales con el Gobierno para crear este ente supervisor. 

“No hay problema en que las empresas participen en esto, pero no puede ser que las empresas lo lideren”, apunta Tejero, quien señala la oportunidad perdida por el Ejecutivo para afrontar con una mirada ética y respetuosa con los derechos la gobernanza de estas tecnologías. “Teniendo como tenemos academia independiente y profesionales en el ministerio capaces de eso, que lo lideren ellos no tiene sentido [...]. Es ridículo”. 

El plan de la SEDIA es que esta agencia funcione como una entidad administrativa independiente, al estilo de otras entidades públicas de control que existen en nuestro país desde hace años. Aunque con matices, se espera que la AESIA trabaje de un modo similar a la Agencia Española de Protección de Datos (AEPD) o la Comisión Nacional del Mercado y la Competencia, pero en este caso vigilando algoritmos y sistemas de IA.

Sin embargo, la supervisión y auditoría externa de herramientas automatizadas cada vez más complejas es un terreno todavía muy nuevo. La agencia española será de hecho el primer organismo nacional de este tipo en Europa, dedicado en exclusiva a controlar este tipo de aplicaciones. Por su parte, la Comisión Europea inauguró recientemente en Sevilla un centro europeo para la transparencia algorítmica.

“Si quieres que la agencia acumule conocimiento para vigilar a los demás, si empiezas licitando en vez de contratando a funcionarios, ese conocimiento no se va a quedar dentro de la agencia”, valoraba David Cabo, codirector de la Fundación Civio, dedicada a la transparencia del sector público, en febrero en conversación con El Salto. “En teoría lo que quieres es crear un grupo de funcionarios expertos. Pero si lo empiezas a licitar todo, te queda un cascarón vacío”.

Entre otras acciones, los ganadores de esta licitación harán un “análisis detallado de los procedimientos internos de trabajo” de la AESIA. También tendrán que desarrollar una aplicación informática, accesible tanto por el personal de la agencia como por las empresas que usen sistemas de IA considerados de “alto riesgo”, con la que estas últimas podrán auto-evaluar si están cumpliendo el reglamento europeo. 

“Si quieres que la agencia acumule conocimiento para vigilar a los demás, si empiezas licitando en vez de contratando a funcionarios, ese conocimiento no se va a quedar dentro de la agencia”, valoraba David Cabo, de la Fundación Civio

La herramienta, según la documentación publicada, incluirá un análisis del código y las bases de datos utilizadas por los sistemas. Otra de las acciones contempladas será la creación de un “sello nacional de IA” que, al menos en una fase inicial, será voluntario para las empresas. 

Consultoras moldeando políticas públicas

Diversos investigadores están alertando en los últimos años del papel de las grandes consultoras como clientes recurrentes del sector público. Especialmente a la hora de moldear políticas que hasta hace poco se gestaban y diseñaban dentro de la administración. 

La economista de origen italiano Mariana Mazzucato es una de las voces que han alertado con más vehemencia de este trasvase de poder. “Los McKinseys [en referencia a la consultora McKinsey & Company] y Deloittes no dominan las áreas en las que están asesorando”, argumentaba Mazzucato en una entrevista con el Financial Times, con motivo de su último libro (The Big Con, 2023). 

En la obra, escrita por Mazzucato y Rosie Collington, las autoras repasan cómo en diferentes países del mundo los gobiernos han confiado en grandes consultoras para diseñar proyectos críticos para la sociedad. Casi siempre con resultados negativos para la ciudadanía y muy jugosos para las propias empresas. Pero también con un efecto preocupante para las administraciones: la pérdida de habilidades y conocimiento. “Cuanto más externalizan los gobiernos y las empresas, menos saben”, escriben las autoras. 

Informar de un error
Es necesario tener cuenta y acceder a ella para poder hacer envíos. Regístrate. Entra na túa conta.

Relacionadas

Internet
Chelsea Manning “Esta internet que conocemos ahora es la primera de muchas”
Chelsea Manning participó en el Web Summit, el congreso de internet más grande del planeta cuya última edición se celebró en Río de Janeiro (Brasil) del 1 al 3 de mayo. Allí se produjo el encuentro con El Salto.
Inteligencia artificial
Tradución e IA Cando traducen as máquinas
Co aumento da tradución automática con Intelixencia Artificial, sobre todo na tradución audiovisual, profesionais defenden a súa profesión e a creatividade do que fan.
Inteligencia artificial
Inteligencia Artificial La IA, una tecnología con tanto potencial como falsos mitos
Aunque no parece probable que reemplace al ser humano a nivel laboral, es inevitable que su aplicación produzca un gran impacto en la sociedad, provocando la desaparición de muchos oficios y la aparición de otros nuevos.
Andariegu
27/5/2023 21:18

Es como poner el cuidado de un gallinero a un depredador
Las megaempresas son las que han montado los grandes laberintos, los grandes problemas, que tenemos planteados en el mundo. Mi confianza en ellas para darnos soluciones y un futuro decente es igual a cero

0
0
Arte
Narración oral Bea Campos: “Conto segredos para que o fascismo non volva”
O espectáculo de narración oral “Marcho que teño que marchar”, de Inventi Teatro, pechou o Festival Internacional de Cabaret de México.
Plurilingüismo
Opinión Estraños no karaoke
Escoitaron falar en galego e non tardaron en amosar o seu desprezo deixando os auriculares no escano de Pedro Sánchez, acción equiparable ao mecanismo de rematar o cubata dun grolo.
Catalunya
Catalunya Amnistía y referéndum, dos palabras inseparables en la celebración del sexto aniversario del 1 de Octubre
Òmnium contabiliza 1.432 personas amnistiables de los alrededor de 4.400 represaliados desde 2017 en el Procés. La Plataforma Antirrepressiva de Ponent defiende una amnistía total, extensible a todos los presos políticos del Estado español.
Cine
Estreno de ‘Orlando’ Paul B. Preciado: “El relato de la transición de género se quiere despolitizar haciéndolo individual”
‘Orlando, mi biografía política’, se estrena el 11 de octubre en España. El filósofo Paul B. Preciado dirige esta interpretación de la novela de Virginia Woolf que es política porque es colectiva.
Promociones
Comunidad El Salto Descubre la otra cara de la actualidad con El Salto
Suscríbete este mes y llévate de regalo el libro ‘Pescar el salmón’, de Yago Álvarez, “una herramienta al servicio de la gente que está harta de sentirse manipulada”.
Memoria histórica
Memoria histórica Retrato de un fusilamiento: falangistas a caballo, una corbata roja y nueve republicanos desaparecidos
Apenas un mes después de la sublevación militar, y reducida a escombros la Casa del Pueblo, nueve trabajadores fueron fusilados y otros muchos encarcelados. Aún cuesta recomponer esta historia y más duele hacer memoria. Uno de ellos era mi bisabuelo.
Medio ambiente
Medio ambiente El ecologismo menorquín vuelve a unirse para defender el Camí de Cavalls
El Consell Insular ha anunciado que modificará la ley que protege el recorrido, pero usuarios y asociaciones aseguran que no hacen falta más servicios.

Últimas

Iglesia-Estado
Estado laico A Subdelegación do Goberno convida a unha misa polo Día da Policía a decenas de concelleiros pontevedreses
A subdelegada en Pontevedra, María Isabel Alonso e o comisario xefe da Policía Nacional da comisaría Vigo-Redondela, Ramiro José Gómez, envían unha carta na que convidan a asistir a “santa misa en honor de los Santos Ángeles Custodios”.
Afrodescendientes
Memoria Afro Lucía Mbomío: “A las personas que migran siempre se las tiene por recién llegadas”
Un proyecto audiovisual y fotográfico recoge en la exposición “Afromayores. Alcorcón y periferias” la memoria y genealogía de personas afro de la tercera edad en España.
Más noticias
Urbanismo
Tala de árboles Alicante, la ciudad como descampado
El Ayuntamiento de la ciudad ha talado más de 2.000 árboles y 30.000 plantas en los dos últimos años.
Inflación
IPC La inflación interanual sube hasta el 3,5% en septiembre
El aumento se debe principalmente al incremento de los precios de electricidad comparado con septiembre de 2022
Derechos reproductivos
Despenalización del aborto Así se articuló el movimiento feminista para despenalizar el aborto en México
Una sentencia de la Suprema Corte de Justicia despenaliza el aborto en México al considerar inconstitucional el artículo que lo criminaliza. El amparo presentado en el estado de Coahuila marcó el camino de la vía judicial en 2021.

Recomendadas

Literatura
Diego Sánchez Aguilar “Continuamente se vende la idea de que en el futuro habrá sitio solo para unos pocos elegidos”
Con su segunda novela ‘Los que escuchan’, Diego Sánchez Aguilar explora las distintas formas en las que la ansiedad permea unas vidas agitadas por “pequeños presentes apocalípticos”.
Actualidad árabe (y más)
Actualidad árabe (y más) Los supervivientes en Libia señalan a los “responsables políticos”
La negligencia y el autoritarismo continúan costando vidas en Oriente Medio; Libia protesta tras la catástrofe, MbS condena un tuitero a muerte; Líbano deporta miles de sirios y grupos israelíes crean el nuevo Pegasus.
Bolivia
Bolivia La guerra contra la coca en Bolivia: entre el mito y la realidad
La consideración de la planta de coca como un estupefaciente ha perjudicado históricamente a las poblaciones productoras, mientras alimenta la problemática del narcotráfico con todo lo que este conlleva para los territorios.
Laboral
Laboral Smoking Paper se fuma el convenio colectivo
La plantilla de producción y control de calidad de la planta del Besòs del Grupo Miquel y Costas lleva diez jornadas de huelga defendiendo que las nuevas contrataciones tengan la misma retribución que los veteranos.