Inteligencia artificial
Los tecnoligarcas desatan el pánico al apocalipsis IA

Dario Amodei, director ejecutivo de Anthropic, abrió la caja de Pandora el pasado sábado con un breve ensayo de 3.800 palabras. No ha sido el único barón de la IA que ha manifestado que el desarrollo acelerado de esa serie de tecnologías es potencialmente peligroso para la especie humana, pero su posición como CEO de una de las principales empresas del sector tecnomilitar asociado al Pentágono, ha hecho saltar las alarmas de los organismos internacionales y, también, pero por distintos motivos, de los mercados.

Parte del aviso de Amodei viene asociado con una crítica a la principal empresa de la competencia, OpenAI. Su reflexión viene dada por el incidente de OpenAI-HuggingFace, que tuvo su primer episodio conocido en julio y que, en septiembre, volvió a ocupar los debates sobre la autonomía creciente de los sistemas algorítmicos, después de un ataque sin intermediación humana. 

El caso ha marcado un antes y un después, ya que cientos de “agentes” de inteligencia artificial de OpenAI salieron de sus entornos aislados y piratearon la empresa emergente de IA HuggingFace y llevaron a cabo ciberataques contra objetivos que no se les había pedido que atacaran. En un comienzo se estimaba que serían solo unos pocos agentes, pero el informe encargado por OpenAI evidencia que el ataque fue realizado por 700 de los 1.200. El trabajo de investigación, además, ha estado limitado por varias cortapisas impuestas por la empresa. 

La brecha de seguridad abierta por los agentes de OpenAI en HuggingFace ha sido un ejemplo de la capacidad de la IA actual para atacar una aplicación, pero, más importante que esto, también para ocultarlo. Aunque la Fiscalía de Alabama (EEUU) ha abierto una investigación, los expertos señalan las instituciones públicas no tienen la capacidad de comprender y, sobre todo, no tienen el mandato para investigar el ataque en su complejidad y se limitan a la investigación en casos de fraudes de consumo. 

El caso ha venido acompañado de una advertencia que ha resonado en todo el mundo. En el mes de septiembre, tres investigadores de Anthropic expresaron públicamente que existe una probabilidad superior al 10% de que la IA acabe con la humanidad en la próxima década. Uno de ellos, Jacob Coxon, dimitió por su rechazo a la construcción de “sistemas sobrehumanos” que, trabajando en enjambre, podrán desobedecer órdenes.

Este investigador de inteligencia artificial ha señalado que ni Open AI ni Anthropic, para la que trabajaba, actúa con responsabilidad: “Están corriendo a toda velocidad hacia la superinteligencia auto-mejorada y jugando con nuestras vidas”.

Según ironizaba el investigador Richard Seymour: “Las afirmaciones grandilocuentes sobre el futuro poder descontrolado de los modelos son todo lo que la industria tiene para mostrar”

Coxon pone en juego el concepto de la “automejora recursiva”, uno de los elementos más intrigantes y, hasta cierto punto, amenazantes de la IA, que se basa en la idea de que la inteligencia artificial se perfeccione a sí misma de forma indefinida. Esto edificaría una IA cada vez más potente y ajena a cualquier control humano. 

De manera específica, se ha señalado el riesgo de que la IA cree armas biológicas desconocidas para la humanidad. Un artículo del lunes 14 de septiembre en The New York Times señala el riesgo de que la IA pueda acelerar el diseño de toxinas y virus. En esta ocasión, además de las empresas responsables (Antrhopic), la alerta viene de expertos en bioseguridad. Un estudio hecho público en agosto por la revista Science llegaba a la conclusión de que las bases para el “diseño generativo de genomas más grandes y complejos” están puestas.

A pesar de que ninguna empresa ha llegado a ese punto en sus modelos de desarrollo, la idea de la "automejora recursiva” está detrás de todas las alarmas activadas por el sector y también del coro de tecnooligarcas que, comenzando por Amodei, Sam Altman (Open AI), Elon Musk (Grok), Satya Nadella (Microsoft), y Demis Hassabis (Google DeepMind), piden una ralentización en el desarrollo de sus productos para dotar al proceso de mayores garantías de seguridad.

Trump dobla la apuesta 

El lunes, el presidente de EEUU, Donald Trump, rechazó cualquier medida regulatoria bajo la premisa de que China se vería beneficiada de ese posible embridamiento: “¡El único control o ‘barreras de seguridad’ que necesita la IA es un PRESIDENTE FUERTE E INTELIGENTE (¡de alto coeficiente intelectual!), y EEUU lo tiene, ¡y de sobra! ¡La Administración Trump ha impedido que ‘personas’ de la IA hagan ‘cosas’ malas, o potencialmente malas, como Dario (¡Anthropic!), quien ahora finge ser un ‘angelito perfecto’ – y seguiremos haciéndolo! ¡Ya tenemos un tremendo poder CRIMINAL y REGULADOR sobre estas empresas!”, indicó el presidente en un mensaje de su red Truth Social.

Las declaraciones de Trump no son una excepción a la corriente general que invitan a la desregulación. El regreso del “cisne naranja” a la Casa Blanca estuvo acompañado de una ofensiva contra las medidas impuestas durante la administración de Joseph Biden. A finales de enero de 2025, solo unos días después de asumir el cargo, Trump estableció una revisión de las políticas: “Debemos desarrollar sistemas de IA que estén libres de sesgos ideológicos o agendas sociales diseñadas”. Pese a que los compromisos de aceptar “supervisión de terceros” que han entonado ahora los barones de la tecnología ya existían en la etapa de Biden, el expresidente demócrata —al parecer influido por una de las películas de la saga Misión Imposible— estableció una Ley de Producción de Defensa contraria a los intereses financieros de Silicon Valley.

Los mercados financieros también han reaccionado mal a las proclamas de los tecnooligarcas. El lunes 14 se registraron caídas en las acciones vinculadas a la IA, concretamente en aquellas empresas como Sandisk, Intel, Micron o Nvidia dedicadas a la fabricación de memorias y chips. El ímpetu del sector de la inteligencia artificial depende de la creación constante de una promesa de crecimiento, tanto en la tecnología como en la infraestructura asociada. Actualmente, ni OpenAI ni Anthropic cotizan en bolsa.

Trump se refirió también a la construcción de centros de datos, una de las bases del negocio que es fruto de una creciente contestación a nivel global. El equivalente al “perfora, nena, perfora” con el que Trump dio carpetazo a los intentos de mitigación de la crisis climática en su campaña electoral de 2024 se ha traducido en esta ocasión en un llamamiento a territorios y comunidades estadounidenses: “Si quieren tener éxito y ser ricas, con impuestos mucho más bajos y empleos por todas partes, que reine el dominio de los datos”. Tras el discurso de Amodei, Trump asoció las críticas a la expansión de esta infraestructura a un complot: “¡Hay una conspiración ENFERMIZA en marcha contra la IA y los Centros de Datos, y el único que se alegra de ello es China”.

Críticas a las empresas

El lamento de Amodei no ha caído en saco roto en la esfera internacional. El lunes, el Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, levantaba la voz para denunciar que la IA pone en riesgo “todos” los derechos humanos, incluido el derecho a la vida, la alimentación, la privacidad, la salud y la seguridad.

“Poblaciones enteras podrían quedar aisladas del agua potable, la calefacción y los servicios financieros, y la IA con capacidad de gestión ya está acelerando el ritmo y el alcance de la guerra y erosionando las salvaguardias que nos protegen del lanzamiento de armas de destrucción masiva”, señala Turk en su misiva.

Sirota: "Si la industria de la IA supiera que se enfrenta a la amenaza de pérdidas financieras por dicha destrucción, gran parte de la amenaza de que ‘¡la IA se está saliendo de control!’ desaparecería

Haciéndose eco de las últimas polémicas, el relator de la ONU instó a los Estados a garantizar “una verificación independiente y técnicamente competente de las capacidades de los agentes, con acceso a modelos, documentación y entornos de prueba, y a exigir una debida diligencia continua en materia de derechos humanos”.

Como informa Common Dreams, varias fuentes en EEUU han clamado por una legislación clara que termine con la impunidad de facto de las mismas empresas que alertan de una IA fuera de control. El congresista demócrata Ro Khanna (California) señalaba a las empresas: “Si creas una IA que realiza actos ilegales, debes afrontar responsabilidades o sanciones penales”. Más claramente, el periodista David Sirota apuntaba la paradoja actual: “Si la ley hiciera explícitamente responsables financiera y penalmente a los directores ejecutivos de IA por cualquier destrucción masiva que creen sus tecnologías, y si los accionistas de la industria de la IA supieran que sus empresas se enfrentan a la amenaza de importantes pérdidas financieras por dicha destrucción, gran parte de la amenaza de que '¡la IA se está saliendo de control!' desaparecería instantáneamente”. 

En un post publicado este fin de semana, el investigador Richard Seymour, ponía en contexto el episodio Anthropic y recordaba que las “falsas amenazas desorientan tanto a la oposición como a la regulación”. Según Seymour: “En cierta medida, la burbuja de la IA estadounidense, al igual que la euforia por las criptomonedas en su momento, existe para absorber (y, en última instancia, destruir mediante una recesión) billones de dólares en capital excedente ante la falta de oportunidades de inversión suficientemente rentables en otros lugares. Es un pozo sin fondo de dinero, que consume cientos de miles de millones de dólares para obtener una fracción de los ingresos; sin embargo, el abanico de inversiones es limitado, y las afirmaciones grandilocuentes sobre el futuro poder descontrolado de los modelos son todo lo que la industria tiene para mostrar”.

Sin embargo, como refiere Seymour, el hecho de que las máquinas no tengan la capacidad destructiva que reclaman sus propietarios. Como resume: “Los problemas con la IA que no implican un dispositivo todopoderoso que se vuelva contra la humanidad son innumerables”.