Inteligencia artificial
Deloitte diseñará la agencia para controlar la inteligencia artificial en España

Con la inteligencia artificial (IA) y sus usos, riesgos y dilemas en boca de todo el mundo, el Gobierno español va poco a poco aclarando de qué manera planea controlar estas tecnologías. Siempre a expensas de la regulación europea que se aprobará en unos meses, una pieza fundamental en esta misión será la futura Agencia Española de Supervisión de la Inteligencia Artificial (AESIA), con sede en A Coruña. 

La Secretaría de Estado de Digitalización e Inteligencia Artificial (SEDIA) ha puesto en manos de un grupo de consultoras el diseño de esta agencia. En concreto, Deloitte y la organización OdiseIA serán las encargadas de dar forma a un proyecto clave para regular estas tecnologías en nuestro país. Y que desde hace meses se vende desde el Gobierno como una de las pruebas de que España está liderando un uso “ético y responsable” de la IA en Europa. 

La concesión supone conflicto de intereses: algunas de las empresas ganadoras del concurso están implicadas de manera directa o indirecta en el desarrollo de los sistemas que se aspira a supervisar

La decisión de externalizar esta tarea ha sido criticada por expertos y organizaciones de derechos digitales. Entre otros motivos, por la oportunidad perdida para aprovechar el conocimiento que existe en la academia, la sociedad civil y la propia administración pública sobre cuáles son los riesgos de estas tecnologías —y cómo mitigarlos—. Pero también por el más que aparente conflicto de intereses que genera: algunas de las empresas ganadoras del concurso están implicadas de manera directa o indirecta en el desarrollo de los sistemas que se aspira a supervisar. 

Deloitte, una de las consultoras más poderosas del mundo, tiene alianzas estratégicas con grandes tecnológicas, lo que le sirve por ejemplo para ofrecer la IA generativa de Google a sus clientes empresariales. Por su parte, OdiseIA, que cuenta con profesionales de prestigio en su equipo directivo, está financiada por la propia Deloitte, otro gigante de la consultoría como PwC y varias firmas nacionales del sector como BeDisruptive y Cenit, entre otras.

“No tiene sentido externalizar estas funciones” 

Así, ambas organizaciones serán las encargadas de ejecutar a cambio de 1,6 millones de euros uno de los dos lotes sacados a concurso en diciembre pasado por el Ministerio de Asuntos Económicos y Transformación Digital, del que depende la SEDIA. Después de que los técnicos del ministerio hayan valorado su propuesta con la mejor puntuación entre las cuatro ofertas presentadas, según un documento adelantado por El Mundo. 

Deloitte y OdiseIA ya fueron las encargadas de ejecutar una primera fase de la estrategia supervisora del Gobierno, tal y como publicó El Salto en febrero. En el último año han elaborado varias guías y manuales para explicar de manera práctica a las empresas cómo han de adaptarse a la nueva ley europea de IA, que estará lista a finales de este año. Estas guías se utilizarán durante la prueba piloto —o sandbox regulatorio— con el que España testará la nueva normativa. Precisamente esta semana el Gobierno ha abierto a audiencia pública el Real Decreto que regulará esta prueba práctica. 

“No tiene ningún sentido externalizar estas funciones de diseño [de la agencia]. No pueden ser las empresas las que lideren”, asegura a El Salto Héctor Tejero, diputado de Más País en la Comunidad de Madrid

La cesión al sector privado de responsabilidades clave sobre la AESIA, cuando la agencia ni siquiera ha echado a andar, ha provocado indignación entre diversas voces. “No tiene ningún sentido externalizar estas funciones de diseño [de la agencia]”, asegura a El Salto Héctor Tejero, diputado de Más País en la Comunidad de Madrid y participante en las negociaciones iniciales con el Gobierno para crear este ente supervisor. 

“No hay problema en que las empresas participen en esto, pero no puede ser que las empresas lo lideren”, apunta Tejero, quien señala la oportunidad perdida por el Ejecutivo para afrontar con una mirada ética y respetuosa con los derechos la gobernanza de estas tecnologías. “Teniendo como tenemos academia independiente y profesionales en el ministerio capaces de eso, que lo lideren ellos no tiene sentido [...]. Es ridículo”. 

La inteligencia artificial en la encrucijada: qué hay detrás del ruido sobre ChatGPT

Pablo Jiménez Arandia

3

Inteligencia artificial

Inteligencia artificial La inteligencia artificial en la encrucijada: qué hay detrás del ruido sobre ChatGPT

Pablo Jiménez Arandia

3

La popularización y el hype en torno al software generador de textos ha llevado los riesgos de la IA al debate público. Voces expertas reclaman que su desarrollo se aleje de una vez por todas del afán de lucro.

Inteligencia artificial Los planes del Gobierno para la supervisión de la inteligencia artificial excluyen a la sociedad civil

El plan de la SEDIA es que esta agencia funcione como una entidad administrativa independiente, al estilo de otras entidades públicas de control que existen en nuestro país desde hace años. Aunque con matices, se espera que la AESIA trabaje de un modo similar a la Agencia Española de Protección de Datos (AEPD) o la Comisión Nacional del Mercado y la Competencia, pero en este caso vigilando algoritmos y sistemas de IA.

Sin embargo, la supervisión y auditoría externa de herramientas automatizadas cada vez más complejas es un terreno todavía muy nuevo. La agencia española será de hecho el primer organismo nacional de este tipo en Europa, dedicado en exclusiva a controlar este tipo de aplicaciones. Por su parte, la Comisión Europea inauguró recientemente en Sevilla un centro europeo para la transparencia algorítmica.

“Si quieres que la agencia acumule conocimiento para vigilar a los demás, si empiezas licitando en vez de contratando a funcionarios, ese conocimiento no se va a quedar dentro de la agencia”, valoraba David Cabo, codirector de la Fundación Civio, dedicada a la transparencia del sector público, en febrero en conversación con El Salto. “En teoría lo que quieres es crear un grupo de funcionarios expertos. Pero si lo empiezas a licitar todo, te queda un cascarón vacío”.

Entre otras acciones, los ganadores de esta licitación harán un “análisis detallado de los procedimientos internos de trabajo” de la AESIA. También tendrán que desarrollar una aplicación informática, accesible tanto por el personal de la agencia como por las empresas que usen sistemas de IA considerados de “alto riesgo”, con la que estas últimas podrán auto-evaluar si están cumpliendo el reglamento europeo. 

“Si quieres que la agencia acumule conocimiento para vigilar a los demás, si empiezas licitando en vez de contratando a funcionarios, ese conocimiento no se va a quedar dentro de la agencia”, valoraba David Cabo, de la Fundación Civio

La herramienta, según la documentación publicada, incluirá un análisis del código y las bases de datos utilizadas por los sistemas. Otra de las acciones contempladas será la creación de un “sello nacional de IA” que, al menos en una fase inicial, será voluntario para las empresas. 

Consultoras moldeando políticas públicas

Diversos investigadores están alertando en los últimos años del papel de las grandes consultoras como clientes recurrentes del sector público. Especialmente a la hora de moldear políticas que hasta hace poco se gestaban y diseñaban dentro de la administración. 

La economista de origen italiano Mariana Mazzucato es una de las voces que han alertado con más vehemencia de este trasvase de poder. “Los McKinseys [en referencia a la consultora McKinsey & Company] y Deloittes no dominan las áreas en las que están asesorando”, argumentaba Mazzucato en una entrevista con el Financial Times, con motivo de su último libro (The Big Con, 2023). 

En la obra, escrita por Mazzucato y Rosie Collington, las autoras repasan cómo en diferentes países del mundo los gobiernos han confiado en grandes consultoras para diseñar proyectos críticos para la sociedad. Casi siempre con resultados negativos para la ciudadanía y muy jugosos para las propias empresas. Pero también con un efecto preocupante para las administraciones: la pérdida de habilidades y conocimiento. “Cuanto más externalizan los gobiernos y las empresas, menos saben”, escriben las autoras.