Inteligencia artificial
La inteligencia artificial en la encrucijada: qué hay detrás del ruido sobre ChatGPT

La popularización y el hype en torno al software generador de textos ha llevado los riesgos de la IA al debate público. Voces expertas reclaman que su desarrollo se aleje de una vez por todas del afán de lucro.

@pjarandia

16 abr 2023 06:00

“Creemos que la inteligencia artificial prácticamente no tiene límites cuando de hecho es extremadamente limitada”. Ramón López de Mántaras describe así en un artículo reciente qué podemos esperar de una tecnología que desde hace semanas está en boca de todos. De Mántaras no es precisamente un cualquiera: el científico catalán, profesor del CSIC, investiga este campo desde la década de 1970 y ha sido premiado por asociaciones de investigadores en todo el mundo. “Y lo que es muy importante: [la IA] no tiene nada que ver con la inteligencia humana”.

En noviembre pasado la compañía estadounidense OpenAI lanzó la última versión de ChatGPT, un software de generación de textos al que cualquiera puede acceder sin coste aparente —los usuarios sí han de ceder a la empresa datos como su edad o teléfono móvil, además de la información ofrecida durante la conversación—. A partir de la pregunta o indicación adecuadas, la herramienta es capaz de devolver un texto generalmente bien escrito y coherente. Aunque si la charla se complica es fácil que el programa caiga en errores en sus respuestas.

La popularización de estos robots conversacionales plantea muchas preguntas. Muchas de ellas tienen que ver con sus riesgos, pero también con sus limitaciones. ¿Tienen algo de inteligentes estos programas informáticos? 

Desde su lanzamiento los usuarios mundiales de este programa se han disparado. También los titulares en los medios de comunicación especulando sobre las supuestas capacidades de este producto para replicar la inteligencia y creatividad humanas. Algunas empresas incluso han justificado despidos bajo el argumento de que esta rama de la IA puede ya llevar a cabo tareas hasta ahora hechas por trabajadores de carne y hueso.

Las grandes tecnológicas de Silicon Valley están tirando del carro de esta perfecta campaña de marketing. Microsoft, tras inyectar 10.000 millones de dólares en OpenAI, ya ha anunciado que integrará ChatGPT en su buscador Bing. Mientras que Google hará lo mismo con Bard, su propio chatbot generativo. Su objetivo, según han declarado, es ir incorporando versiones de esta tecnología a otros de sus servicios, desde el correo electrónico a los procesadores de texto que diariamente usan millones de personas en todo el mundo.

Los riesgos de los “loros estocásticos”

La popularización de estos robots conversacionales plantea muchas preguntas. Muchas de ellas tienen que ver con sus riesgos, pero también con sus limitaciones. ¿Tienen algo de inteligentes estos programas informáticos? 

Citando al filósofo de la ciencia Daniel Dennet, De Mántaras explica que lo que ChatGPT y otras herramientas similares tienen “no es inteligencia sino habilidades sin comprensión”. Estas habilidades se podrían comparar por ejemplo con el montaje de un tren de juguete en el que hay que acertar la posición en la que va cada vagón del tren que queremos ensamblar.

Softwares como ChatGPT son muy buenos combinando secuencias de palabras a partir de la probabilidad de que tenga o no sentido ubicarlas en un lugar determinado de la frase. Pero carecen de referencia alguna sobre el significado de cada una.

Son por tanto sistemas —en palabras de De Mántaras— “muy hábiles llevando a cabo tareas concretas” pero que no comprenden nada sobre la naturaleza de estas tareas, “debido a la ausencia de conocimientos generales sobre el mundo”. Esta habilidad para encadenar palabras se construye a partir de patrones detectados en la ingente cantidad de información con la que estos programas han sido entrenados.

Softwares como ChatGPT son muy buenos combinando secuencias de palabras a partir de la probabilidad de que tenga o no sentido ubicarlas en un lugar determinado de la frase

En 2021 varias investigadoras publicaron un artículo sobre los peligros de estos modelos de lenguaje, a los que bautizaron como “loros estocásticos”. O lo que es lo mismo, máquinas capaces de repetir aquello que han observado muchas veces, pero sin atender a su veracidad.

En el texto las autoras, entre otras recomendaciones, exigían un mayor cuidado al trabajar las bases de datos con las que estos algoritmos se construyen y no volcar en ellos toda la información presente en Internet —precisamente lo que hace ChatGPT—. O realizar pruebas controladas de los sistemas antes de abrirlos al público, para asegurarse de que su uso no infringe daños o va en contra de los valores éticos de quien lo impulsa.

En las últimas semanas, al mismo tiempo que la IA generativa ganaba terreno en las conversaciones en el ascensor, el trabajo o el bar, se ha sucedido también un goteo de historias inquietantes en torno a la utilización de estos programas.

En EE UU, un profesor universitario explicó a comienzos de abril a The Washington Post cómo se sintió después de que ChatGPT le acusara de haber abusado de un alumno en un viaje de estudios. Algo que, en el mundo real, nunca ocurrió. El programa incluso usó como fuente de su acusación un artículo del citado medio. Un artículo, de nuevo, que nunca ha existido. “Fue bastante escalofriante”, aseguró el docente. “Una acusación de este tipo es increíblemente dañina”. 

Su capacidad para vestir como cierta información engañosa o directamente falsa no es la única preocupación en torno a estas tecnologías. También lo es el impacto que su uso pueda tener en contextos determinados o frente a personas vulnerables. En Bélgica, un ciudadano se quitó la vida después de mantener largas conversaciones con un bot de IA que le envió mensajes confusos.

El argumento habitual de las tecnológicas creadoras de estos productos es que estamos todavía ante modelos en fase de desarrollo, cuya precisión y fiabilidad irá mejorando con su uso. Pero cada vez más voces piden que en ese mientras tanto los gobiernos fijen límites o directamente prohíban su uso.

Italia ha sido el primero en Europa en bloquear el uso de ChatGPT en su territorio, mientras investiga si el tratamiento que la aplicación hace de los datos de sus usuario

Este último paso es el que ha tomado la agencia italiana de protección de datos. El país transalpino ha sido el primero en Europa en bloquear el uso de ChatGPT en su territorio, mientras investiga si el tratamiento que la aplicación hace de los datos de sus usuarios —y que sirven para su entrenamiento— se ajusta a la ley europea.

Entre otros argumentos el regulador alega que la información suministrada por la aplicación no siempre es verídica —lo que ”da lugar a un tratamiento inexacto de los datos personales”— y critica que no haya un control real de la edad de los usuarios que la utilizan, abriendo la puerta a “la exposición de los menores a respuestas totalmente inadecuadas con respecto a su nivel de desarrollo y autoconocimiento”. A pesar de que OpenAI desaconseja su uso entre menores de 13 años, cualquiera puede acceder a la aplicación.

España podría seguir los pasos de Italia en las próximas semanas. La agencia española de protección de datos (AEPD) ha pedido a la Unión Europea que evalúe las implicaciones de ChatGPT en la privacidad de los usuarios. La AEPD entiende que las operaciones de procesamiento global que “pueden tener un impacto significativo en los derechos de las personas y requieren decisiones coordinadas a nivel europeo”, señaló un portavoz de la agencia.

¿Qué camino seguir?

El debate sobre cómo aplacar los riesgos de la IA no es nuevo. Desde hace años investigadores, activistas y comunidades afectadas por estas tecnologías alertan sobre sus peligros. Estos no se reducen a los errores o imprecisiones que el software pueda cometer, sino que incluyen cuestiones relacionadas con las decisiones humanas detrás de su diseño y quién toma éstas —casi siempre grandes corporaciones occidentales en busca del máximo lucro—.

Los efectos negativos de la IA han sido ampliamente documentados. Y van desde el deterioro de los derechos laborales de trabajadores en todo el mundo a la datificación de los sistemas de control en las fronteras que castigan a la población migrante. Los gobiernos también usan herramientas de este tipo para castigar a las capas sociales más pobres y policías y empresas insisten en utilizar el reconocimiento facial, una técnica poco precisa que discrimina a las personas por su origen étnico.

A finales de marzo la controvertida organización Future of Life Institute publicó una carta abierta reclamando una pausa de “al menos seis meses en el desarrollo y pruebas de sistemas de IA más poderosos que GPT4”, la última versión del popular algoritmo. La misiva, que ya lleva cerca de 20.000 adhesiones, incluyó la firma de un variado grupo de personalidades. Entre ellas la del segundo hombre más rico del mundo, Elon Musk, uno de los fundadores e inversores de OpenAI. De Mántaras, además de otros muchos investigadores de prestigio, también figura en la lista.

Los firmantes reclaman un desarrollo seguro de estas herramientas y que no se abran al público hasta garantizar que sus efectos serán positivos para la ciudadanía global. Y advierten de la “carrera sin control” en la que han entrado los grandes laboratorios de IA para crear “poderosas mentes digitales que nadie —ni siquiera sus creadores— puede entender, predecir o controlar de forma fiable”.

La carta en cuestión ha sido ampliamente recogida en medios de comunicación de todo el mundo. Pero también ha recibido matizaciones y críticas desde algunas de las voces que más tiempo llevan remando a favor de un desarrollo ético de la IA.

The Distributed Artificial Intelligence Instiute (DAIR), fundado por la investigadora Timnit Gebru —ex miembro del equipo ético de Google, de donde fue despedida por sus denuncias contra la discriminación de la compañía, y una de las autoras del artículo sobre los “loros estocásticos”—, ha respondido criticando que la carta alimenta “el alarmismo y el hype” en torno a estas herramientas y deja de lado los “daños reales” que el despliegue de estos sistemas ya infringe en la actualidad.

Desde diversos sectores atribuyen a estos chats conversacionales una autonomía que, por ahora, no tienen. “La responsabilidad no recae en los artefactos, sino en sus creadores”, argumentan

Para Gebru y el resto de autoras el lenguaje utilizado en la carta “infla las capacidades de los sistemas automatizados y los antropormofiza”, engañando a la gente “haciéndole creer que hay un ser sensible” detrás de estos modelos. Esto “induce a confiar acríticamente en los resultados de sistemas como ChatGPT” y les atribuye una autonomía que, por ahora, no tienen. “La responsabilidad no recae en los artefactos, sino en sus creadores”, argumentan.

“La actual carrera hacia ‘experimentos de IA’ cada vez más potentes no es un camino preestablecido en el que nuestra única elección es la velocidad a la que correr, sino un conjunto de decisiones impulsadas por el afán de lucro. Las acciones y decisiones de las empresas deben estar reguladas para proteger los derechos e intereses de las personas”, concluyen.

Informar de un error
Es necesario tener cuenta y acceder a ella para poder hacer envíos. Regístrate. Entra na túa conta.

Relacionadas

Inteligencia artificial
Inteligencia Artificial y cine ¿Sueñan los cineastas con ovejas eléctricas?
El debate sobre la adopción de la Inteligencia Artificial por las principales disciplinas artísticas sigue candente. La irrupción de Sora vuelve a poner el foco sobre los beneficios y riesgos que conlleva su uso en la generación de imágenes.
Inteligencia artificial
Inteligencia artificial IA y crisis climática: las grandes tecnológicas escogen España para instalar sus gigantescos centros de datos
El boom de la IA ha disparado las necesidades de computación de los centros de datos y su consumo de agua. Las grandes tecnológicas buscan nuevas regiones para instalarlos. España entre ellos.
Análisis
Análisis AI Act: un reglamento nuevo para afianzar el orden racial y colonial de siempre
La nueva normativa de Inteligencia Artificial establece una “regulación paralela” en función de quienes son las personas afectadas, algo observable en los usos que se prevén en contextos fronterizos y policiales.
Agus
17/4/2023 8:16

El círculo vicioso se cierra cuando se robotiza a la población, cuando se piden habilidades a humanos (léase Bolonia y EEES) y la comprensión hace tiempo que ni está ni se la espera.

0
0
jlcr
16/4/2023 17:25

Buen resumen de la situación actual.

0
0
djcesarrubio
16/4/2023 14:01

¿Puede el ser humano, un animal no inteligente, crear tecnología inteligente? ¿A partir de qué inteligencia? Cuando se anuncia algún avance en este ámbito del conocimiento siempre me pregunto lo mismo, es decir, el aparatito en cuestión viene para solucionar alguno de los problemas que asolan al planeta, léase desigualdad, miseria, hambre, cambio climático, corrupción, guerra, capitalismo o la otra cara de la moneda, fascismo, etc. Siempre obtengo la misma respuesta, lo cual me deja un sabor agridulce pues lo intuía, y es que todo lo que no conteste a esas preguntas de forma afirmativa es una estafa, un engaño, es una sombra reflejada en las paredes de la famosa cueva de Platón.

2
0
Represión
Antifascismo Una manifestación exige la libertad de los seis de Zaragoza tras cumplir dos meses en prisión
La plataforma convocante de la manifestación, habla de “presos políticos” porque el único hecho probado es la participación en una manifestación ante la extrema derecha.
Justicia
Joaquín Urías Joaquín Urías: “La mayor campaña de desprestigio de la judicatura la están haciendo los propios jueces”
Desde 2017, una serie de jueces parecen haberse subido al monte. El jurista Joaquín Urías desgrana en su último libro las circunstancias de este destape y las consecuencias que esto puede tener para la democracia en su conjunto.
Ejército Zapatista de Liberación Nacional (EZLN)
30 años del levantamiento del EZLN Los cambios en la Autonomía Zapatista
La autora hace un análisis sobre cómo el zapatismo concibe la Autonomía y los diversos cambios organizativos que han realizado a lo largo de tres décadas.
CNT
Sindicalismo ‘Morala’: “Como las seis de La Suiza, fuimos condenados para dar escarmiento por unos hechos que no cometimos”
Miles de personas saldrán a la calle en Xixón para recordar que ´El sindicalismo no es delito. Tras el mitin de apoyo a las cinco sindicalistas de CNT y una trabajadora, actuarán Nacho Vegas y el Coru Antifascista Al Altu La Lleva.
La vida y ya
La vida y ya Sacar de raíz
Arrancar: Sacar de raíz (como cuando se arranca un árbol o una planta). Sacar con violencia algo del lugar a que está adherido o sujeto, o de que forma parte. Quitar con violencia.
Personas refugiadas
Refugiados Una cafetería para ser libre en el campamento de refugiados palestinos de Beddawi
Hatem Mekdadi abrió Achefak, que significa ‘Lo que tú quieras’, ante la falta de espacios de encuentro en los campos donde desde hace décadas se hacinan los hijos de la Nakba.
Cine
VEINTE AÑOS DE PORNO FEMINISTA Erika Lust: “La pornografía es política”
Erika Lust es un referente del porno feminista y del porno ético, aunque ella hace algunas puntualizaciones sobre esas etiquetas. Celebra veinte años de carrera con la publicación de un libro que recoge su trabajo.

Últimas

Comunidad El Salto
Comunidad El Salto Las cuentas de El Salto 2023-2024: cada vez más, un gran medio financiado por la gente
El Salto supera el millón de euros anuales de ingresos y aumenta su plantilla hasta llegar a las 28 personas empleadas. Todo eso con criterios éticos de financiación, funcionamiento horizontal y una cooperativa de propiedad colectiva.
República
Manifestación Desafío republicano en el décimo aniversario de la coronación de Felipe de Borbón
Más de 130 organizaciones sociales y políticas convocan una marcha en Madrid el 16 de junio. El manifiesto 'Felipe VI: diez años bastan' ha sido firmado por cuatro mil personas.
Que no te lo cuenten
EL SALTO RADIO De elecciones europeas y protestas universitarias
VV.AA.
Yolanda Díaz deja la primera línea en Sumar, pero sigue en la formación, mientras que las protestas en contra del genocidio en Gaza siguen en las universidades
Unión Europea
Unión Europea La antifascista Ilaria Salis sale de su arresto en Hungría para poner rumbo al Parlamento Europeo
La profesora italiana, detenida en Hungría desde febrero de 2023 ha sido liberada tras obtener un escaño en las pasadas elecciones por la lista de Alleanza Verdi Sinistra (AVS).
Más noticias
Palestina
Palestina Desalojan el intento de acampada propalestina de Plaça Catalunya
La Guardia Urbana de Barcelona ha desalojado las tiendas de campaña y ha denunciado y multado a quince personas esta madrugada.
Laboral
Laboral Luxemburgo vuelve a dar la razón a los interinos: la fijeza sin oposiciones es una medida válida
La respuesta del Tribunal de Justicia de la Unión Europea supone un duro varapalo al Tribunal Supremo, quien en mayo sentenció que rechazaba la fijeza automática para los interinos en abuso de temporalidad.
Cine
Desigualdad en el cine En el cine español siguen mandando los hombres: dirigieron siete de cada diez películas en 2023
Aunque aprecia mejoras en la lucha contra la desigualdad, el informe de 2023 de la Asociación de Mujeres Cineastas (CIMA) pone de manifiesto que los hombres siguen acaparando los puestos de poder y mayores presupuestos en el cine español.

Recomendadas

Catalunya
Catalunya La celebración de la Copa América de Vela desata el malestar en Barcelona
El 22 de agosto dará inicio la Copa América de Vela en la capital catalana; un evento de dos meses de duración e inversiones millonarias que destroza el tejido vecinal de los barrios de la costa.
Italia
Historia Cincuenta años de Piazza della Loggia: memoria de una masacre fascista, de Estado y de la OTAN
La masacre de Piazza della Loggia EN 28 de mayo de 1974 se convertirá en un episodio fundamental para entender los años de plomo de la democracia italiana.
Migración
Fronteras En pausa frente al Mediterráneo: cientos de personas migrantes esperan en un hotel de la Costa del Sol
El centro de estancia temporal extraordinario para personas migrantes de Torrox (Málaga), se ha convertido en un ejemplo positivo frente a los intentos fallidos propuestos en otros municipios.