Inteligencia artificial
Ha llegado el «momento Oppenheimer» para los progenitores de la IA

Cómo controlar una tecnología que podría arrasar con la sociedad
Eddie rivera mural

Nathan Gardels es licenciado en Teoría y Política Comparada y en Arquitectura y Urbanismo por la UCLA, y en la actualidad es redactor jefe de la revista Noema Magazine. También es cofundador y asesor principal del Instituto Berggruen, además de ser autor y coautor de varios libros.
Anteriormente fue redactor jefe de varios medios de comunicación y ha escrito numerosos artículos para The Wall Street Journal, The New York Times, The Washington Post, etc. y también en publicaciones extranjeras como Corriere della Sera, El País, Le Figaro o The Guardian y Die Welt, entre otras. 

8 jul 2024 04:00

El director de cine Christopher Nolan reconoce haber hablado con científicos especializados en IA que están experimentando un «momento Oppenheimer» y recelan del potencial destructivo de su creación. Nolan reflexiona sobre su película biográfica y explica: «Cuento la historia de Oppenheimer porque creo que es importante, pero también porque es un cuento admonitorio». De hecho, ya hay quienes comparan a Sam Altman de OpenAI con el padre de la bomba atómica.

Oppenheimer fue bautizado por sus biógrafos como el «Prometeo americano» por ser quien arrebató a los dioses el secreto del fuego nuclear, dividiendo la materia con el fin de liberar una energía atroz que, según sus temores, podría calcinar a toda la civilización.

Por su parte, Altman también se pregunta si hizo «algo realmente malo» al desarrollar la IA generativa mediante ChatGPT. Según declaró en una comparecencia ante el Senado, «si esta tecnología sale mal, puede salir muy mal». Gregory Hinton, el llamado padrino de la IA, presentó su dimisión de Google en mayo de 2023 y señaló que una parte de él se arrepentía de haber dedicado su vida a construir máquinas más inteligentes que los seres humanos. Advirtió que «es difícil entender cómo evitar que los malos la utilicen para cosas malas». Otros de sus compañeros han hablado del «riesgo de extinción derivado de la IA», que se sitúa al mismo nivel que otras amenazas existenciales como la guerra nuclear, el cambio climático y las pandemias.

Según Yuval Noah Harari, la IA generativa puede llegar a ser una tecnología destructora de sociedades o, utilizando el término que Oppenheimer tomó prestado de la Bhagavad-gītā para describir la bomba, «destructora de mundos». Esta vez los sapiens se han convertido en dioses, engendrando una descendencia inorgánica que un día podría desbancar a sus progenitores. Harari lo explicaba así en una conversación hace unos años: «La historia de la humanidad comenzó en el momento en que los hombres crearon a los dioses y terminará cuando los hombres se conviertan en dioses».

Tal y como explicaban Harari y los coautores Tristan Harris y Aza Raskin en un ensayo reciente: «En el principio existía la palabra. El lenguaje es el sistema operativo de la cultura de la humanidad. Del lenguaje emanan el mito y la ley, los dioses y el dinero, el arte y la ciencia, las amistades, las naciones y el código informático. La inteligencia artificial ha conseguido dominar el lenguaje, lo que le permite piratear y manipular el sistema operativo de la civilización. Este dominio del lenguaje otorga a la inteligencia artificial la llave maestra de la civilización, que comprende desde las cajas fuertes de los bancos hasta los sepulcros más sagrados».

Continuaban así:

Desde hace miles de años, los humanos hemos vivido inmersos en los sueños de otros humanos. Hemos adorado a dioses, hemos perseguido ideales de belleza y hemos consagrado nuestras vidas a causas que surgieron de la imaginación de algún profeta, poeta o político. Muy pronto nos encontraremos inmersos en las alucinaciones de inteligencias no humanas...

Muy pronto nos encontraremos cara a cara con el genio maligno de Descartes, con la caverna de Platón y con la maya budista. Es posible que un velo de ilusiones descienda sobre el conjunto de la humanidad y que nunca más seamos capaces de levantarlo y ni siquiera de darnos cuenta de su existencia.


La idea de que una entidad no humana escriba nuestra historia inquieta hasta tal punto  al historiador y filósofo israelí que recomienda encarecidamente a los sapiens que recapaciten antes de ceder el control de sus dominios a la tecnología.

«Hemos de enfrentarnos a la inteligencia artificial antes de que nuestra política, nuestra economía y nuestra vida cotidiana dependan de ella», advierten Harari, Harris y Raskin. «Si esperamos a que se desate el caos, entonces será demasiado tarde para remediarlo».

jeff w spark


El panorama «Terminator» es poco probable

En un artículo publicado en NOEMA, el vicepresidente de Google, Blaise Agüera y Arcas, y sus compañeros del Instituto de Inteligencia Artificial de Quebec no creen que en un futuro próximo pueda producirse una situación similar a la que imaginó Hollywood en «Terminator», una película en la que una IA malévola desata un caos devastador por donde quiera que pasa. Sin embargo, les preocupa que el hecho de poner el foco en una «amenaza existencial» que pueda surgir en un futuro lejano nos distraiga de la necesidad de atajar el peligro evidente y palpable de que la IA trastoque la sociedad actual.

Sus peores miedos están a la vuelta de la esquina, a las puertas de que la IA se convierta en una superinteligencia: la vigilancia a gran escala, la desinformación y la manipulación, el uso indebido de la IA por parte de las fuerzas armadas y la eliminación generalizada de todo tipo de profesiones.

Para este grupo de científicos y especialistas en tecnología, «es sumamente improbable que se produzca una extinción como consecuencia de una IA malévola, ya que dicho escenario depende de suposiciones dudosas sobre la evolución a largo plazo de la vida, la inteligencia, la tecnología y la sociedad. Además, un sistema de inteligencia artificial superinteligente tendría que superar numerosos límites y restricciones físicas antes de poder «rebelarse» de esa manera. Existen varios controles naturales con los que los investigadores pueden ayudar a atenuar el riesgo existencial de la IA ocupándose de retos tangibles y apremiantes sin llegar a convertir el riesgo existencial en una prioridad global de forma explícita».

A su modo de ver, «existen tres posibles causas de extinción: la pugna por los recursos, de la caza y el consumo excesivos o de la degradación del clima o de su nicho ecológico de tal forma que las condiciones medioambientales resultantes provoquen su desaparición. Ninguno de estos tres casos se aplica a la IA en su configuración actual».

Ante todo, «por ahora la IA depende de nosotros y cabría suponer que una superinteligencia advertiría este hecho y trataría de proteger a la humanidad, ya que somos tan imprescindibles para la existencia de la IA como las plantas que producen oxígeno lo son para la nuestra. Por lo tanto, lo más probable es la evolución del mutualismo entre la IA y los seres humanos, y no la competencia».

Atribuir un «coste infinito» al «resultado improbable» de la extinción sería equivalente a invertir todas nuestras dotes tecnológicas en evitar la posibilidad mínima (una de entre un millón) de que un meteorito caiga sobre la Tierra, como si fuera una preocupación a nivel planetario. En pocas palabras, «el riesgo existencial de una IA superinteligente no amerita ser una prioridad global, del mismo calibre que el cambio climático, la guerra nuclear y la prevención de pandemias».

El otro momento Oppenheimer

Cualquier peligro, ya sea lejano o cercano, que pueda provenir del enfrentamiento entre la humanidad y la superinteligencia incipiente se verá agravado por la rivalidad entre los Estados-nación.

Esto nos lleva a una última reflexión sobre la analogía entre Sam Altman y Oppenheimer, que en sus últimos años de vida fue perseguido y aislado. Además, se le denegó la autorización oficial de seguridad, pues en plena fiebre macartista de principios de la Guerra Fría le consideró un simpatizante comunista. Su delito fue oponerse al desarrollo de una bomba de hidrógeno y reclamar la colaboración de otros países, entre los que se encontraban los rivales, a fin de controlar el uso de las armas nucleares.

Lo más probable es la evolución del mutualismo entre la IA y los seres humanos, y no la competencia.

En un discurso ante científicos especializados en IA que tuvo lugar en junio en la ciudad de Pekín, Altman hizo un llamamiento similar a la colaboración para regular el uso de la IA. «China cuenta con algunos de los talentos en IA más brillantes del mundo», afirmó. Para controlar los sistemas avanzados de IA «es necesario reunir a los expertos más destacados de todo el mundo. Dada la aparición de sistemas de IA cada vez más potentes, nunca antes la cooperación mundial había peligrado tanto».

Cabe preguntarse (y también temer) cuánto tiempo pasará antes de que el sentido de responsabilidad científica universal de Altman sea engullido, como le ocurrió a Oppenheimer, por las fauces de la actual histeria sinofóbica de Washington, similar a la de McCarthy en su época. Desde luego, el ambiente enfervorizado de Pekín entraña un riesgo especular para cualquier científico experto en IA con quien Altman pudiera colaborar en nombre de toda la humanidad en lugar de hacerlo en beneficio del dominio de cualquier nación.

El primer peligro evidente y actual que plantea la IA es su posible instrumentalización bélica en el conflicto entre Estados Unidos y China. Según advierte Harari, el momento de hacer frente a esta amenaza es ahora, y no cuando se convierta en una realidad y ya sea demasiado tarde para revertir la situación. Es necesario que las partes responsables de ambos bandos recurran a esa sabiduría que no puede conferirse a las máquinas y que cooperen para mitigar los riesgos. El hecho de que Altman llegara a experimentar otro momento Oppenheimer nos acercaría aún más al riesgo existencial.

No obstante, hay una buena señal y es que el secretario de Estado de EE.UU., Antony Blinken, y la secretaria de Comercio, Gina Raimondo, reconocieron esta semana que «ningún país ni empresa puede forjar por sí solo el futuro de la IA. [...] La única forma de controlar el potencial de la inteligencia artificial de forma plena y segura pasa por la combinación de la dedicación, el ingenio y la cooperación de la comunidad internacional».

Ahora bien, las iniciativas propuestas hasta el momento, por muy esenciales que sean, siguen estando sujetas a la rivalidad estratégica y se limitan al mundo democrático. El reto más difícil, tanto para Estados Unidos como para China, es llegar a un compromiso directo para frenar la carrera armamentística de la IA antes de que ésta se descontrole.

Sobre o blog

Guerrilla Media Collective es una cooperativa de traducción feminista y orientada al procomún. Somos un grupo internacional de profesionales empeñadas en preservar el arte de la traducción y concebimos la cooperativa como una herramienta de trabajo sostenible, digno y ético para las trabajadoras del sector del conocimiento. Traducimos, corregimos, editamos y diseñamos campañas de comunicación. Nuestro objetivo es ofrecer un resultado final impecable cuidando de las personas que lo hacen posible. Por eso abogamos por el cooperativismo como una alternativa justa y solidaria en un sector cada vez más precarizado.

 
Ver todas as entradas
Informar de un error
Es necesario tener cuenta y acceder a ella para poder hacer envíos. Regístrate. Entra na túa conta.

Relacionadas

Tecnología
Oligopolio tecnológico Un fallo de Microsoft provoca una caída internacional de servicios de transportes, bancos y emergencias
Una interrupción del servicio vinculada a la firma de ciberseguridad Crowdstrike y Windows ha paralizado la actividad de decenas de miles de empresas públicas y privadas poniendo de relieve la dependencia del oligopolio tecnológico.
PNV
CLIENTELISMO Ibermática crea una fundación liderada por excargos del PNV tras la crítica por pérdida de arraigo
Adquirida por el grupo sevillano Ayesa, la que fuera “la joya tecnológica vasca” mantendrá su marca a través de una fundación controlada por Joseba Intxaurraga, exconcejal del PNV en Bilbao y exsecretario de la vicepresidencia del Gobierno Vasco.
Sobre o blog

Guerrilla Media Collective es una cooperativa de traducción feminista y orientada al procomún. Somos un grupo internacional de profesionales empeñadas en preservar el arte de la traducción y concebimos la cooperativa como una herramienta de trabajo sostenible, digno y ético para las trabajadoras del sector del conocimiento. Traducimos, corregimos, editamos y diseñamos campañas de comunicación. Nuestro objetivo es ofrecer un resultado final impecable cuidando de las personas que lo hacen posible. Por eso abogamos por el cooperativismo como una alternativa justa y solidaria en un sector cada vez más precarizado.

 
Ver todas as entradas
Migración
Migracións Burocracia para os 'refuxiados de segunda': sete rapaces malianos ante o bloqueo do Estado ao pedir asilo
Presos da guerra, chegan a un novo territorio en procura de mellores oportunidades, pero son presos de temporalidades e trámites administrativos, minguando o seu estado anímico e deixándolles estancados nun limbo temporal que os anula como cidadáns.
Caso Carioca
Caso Carioca O caso Carioca a través dunha migrante explotada sexualmente: indemnización mínima e complot policial
O garda civil Armando aliábase con proxenetas e abusaba sexualmente de mulleres prostituídas facendo uso da súa capacidade para regularizar a súa situación.
Palestina
Genocidio España tratará a 15 niños y niñas palestinas mientras quedan 10.000 pacientes que necesitan evacuación
El director general de la OMS agradece el gesto mientras pide evacuaciones médicas ampliadas, ya que solo 5.000 palestinos y palestinas han sido trasladados desde que comenzara la ofensiva israelí el pasado 7 de octubre.
Ocupación israelí
Ocupación israelí Israel declara “terrorista” a la UNRWA y le prohíbe operar en el país
Días después de que Reino Unido reinicie el financiamiento de la agencia de refugiados de la ONU, el Parlamento israelí aprueba tres leyes que prohíben la actividad de esta organización y criminaliza a sus 30.000 trabajadores.
Venezuela
Elecciones presidenciales Venezuela hacia el 28J: unas elecciones en las que por primera vez en una década cualquier cosa puede pasar
La oposición de derechas concurre sin exclusiones, vetos ni llamadas a la abstención con un candidato de consenso, Edmundo González, que podría arrebatar el poder a Nicolás Maduro.
Sphera
Sphera Cómo ser trans en Grecia: existir, resistir
Las historias de Ari, Kassiope y Paola muestran la situación de las personas trans en Grecia. Un reportaje de El Salto Vídeo para Sphera Network.
O Salto medra contigo
O Salto medra contigo Eles por diñeiro, nós por un futuro mellor: subscríbete ao Salto
Sempre que unha multinacional ou un goberno intentaron cometer un atentado medioambiental no noso territorio estivemos alí para contalo. Puidemos facelo porque a nós sostennos a nosa comunidade, pero queremos chegar máis lonxe e por iso precisámoste.

Últimas

Gobierno de coalición
Transfobia y contratos irregulares El silencio en el PSOE y la presión de los colectivos precipitan el cese de Isabel García
La directora del Instituto de las Mujeres fue elegida en noviembre de 2023 por la ministra de Igualdad, Ana Redondo. Su nombramiento lanzó un mensaje de cambio de rumbo en el Ministerio por los posicionamientos transexcluyentes de García.
Infancia migrante
Menores que migran solos Cuatro claves para seguir el debate sobre la reforma de la Ley de Extranjería
Durante la jornada de hoy martes 23 de julio, se debate en el Pleno del Congreso la toma en consideración de la reforma de la Ley de Extranjería que incluye un mecanismo obligatorio de “reparto” territorial de la infancia migrante.
Desahucios
Desahucio Una amplia movilización vecinal no consigue detener el desahucio de Zohra en Lavapiés en el tercer intento
Convocadas por el Sindicato de Inquilinas de Madrid, y poniendo literalmente el cuerpo, hasta cien personas han intentado frenar por tercera vez el desalojo y de Zohra y su marido, con diferentes grados de incapacidad. Esta vez no lo han conseguido.
Opinión
Análisis Átomos, tabaco, armamento y fascismo en el Campo Arañuelo
Un análisis de la problemática laboral, ecológica y productiva en Campo Arañuelo, comarca del norte de Cáceres atravesada por múltiples contradicciones.
Más noticias
Sanidad pública
Recortes Denuncian la propuesta de retirada de los conductores de ambulancias en los centros de salud extremeños
La Plataforma por la Sanidad Pública de Extremadura critica el desamparo y la desatención en la que quedaría gran parte de la ciudadanía en una comunidad con altas tasas de envejecimiento y dependencia.
Ecoembes
Reciclaje La CNMC se harta del monopolio de Ecoembes y Ecovidrio
El organismo vuelve a señalar a las dos empresas de reciclaje copan el mercado y pide más transparencia y control sobre ellas.
Reforma laboral
Trabajo y precariedad Europa da la razón a UGT y fuerza al Gobierno a mejorar las condiciones de los despidos
Tras el fallo del Comité Europeo de Derechos Sociales sobre despidos improcedentes, Yolanda Díaz convoca a sindicatos y patronal para reformar la ley.
Turismo
Vivienda Pintadas contra pisos y hoteles: el Sindicato de Vivienda de Urola Kosta denuncia la turistificación
Desde 2018, los locales de uso turístico se han incrementado un 181,8% en Zarautz y un 158,3% en Zumaia. La construcción de dos nuevos hoteles incrementará el precio de los alquileres.

Recomendadas

Arte político
Soledad Urzúa “Utilizar un desecho agrícola para crear obras de arte permite transmitir un mensaje de amor”
Llega a Madrid “Metáfora Vegetal”, una exposición de la artista chilena Soledad Urzúa. Sus obras, creadas armónicamente con colores de óleo y materiales desechados como hojas de maíz, despiertan los sentidos.
Ocupación israelí
Ocupación israelí El teatro de la libertad de Yenín: resistencia a través del arte
Una iniciativa de teatro social en medio de la ocupación y las incursiones armadas israelíes en Cisjordania.
Personas con discapacidad
Itxi Guerra Itxi Guerra, activista anticapacitista: “Lo 'diska' muestra dónde falla el capitalismo y cómo dinamitarlo”
En 'Ruptura y reparación de la máquina', esta referente del anticapacitismo argumenta la potencialidad política de la discapacidad y da pautas para convivir en un sistema discapacitante: “Las redes entre personas nos permiten vivir con la máquina rota”
Arte
Arte Miguel Ángel, Crisanto Domínguez y la blanquitud
En julio se llevará a cabo la Biena de Esculturas en la ciudad de Resistencia. Como acto previo a la bienal, el 6 de marzo pasado se emplazó una replica del David de Miguel Ángel donde debía estar situada una estatua de los pueblos originarios.