Inteligencia artificial
Susie Alegre: “La IA generativa permite que la desinformación se cree en minutos”

La abogada británica Susie Alegre, especializada en derechos humanos en la era digital, reivindica nuestra privacidad como barrera de protección ante las manipulaciones y advierte sobre el peligro que viene.
alegre_susie_@Tugce Nelson
Susie Alegre, abogada británica especializada en derechos humanos en la era digital. Foto: Tugce Nelson

@pjarandia

26 ene 2024 06:00

Susie Alegre cuenta que la primera vez que leyó sobre el escándalo de Cambridge Analytica, la empresa que recopiló los datos privados de millones de usuarios de Facebook para diseñar propaganda política en elecciones en todo el planeta, se “le encendió la luz”. 

Corría el año 2017 y con el mundo todavía en shock por la victoria de Donald Trump y el sí al Brexit, esta abogada británica especializada en derechos humanos comenzó entonces a investigar cómo el modelo de negocio de las grandes tecnológicas impacta en lo que ella considera nuestro derecho “más fundamental”: la libertad para pensar libremente. 

Fruto de ese trabajo surgió un libro, publicado el año pasado en España por la editorial Akal (Libertad de pensamiento. La larga lucha por liberar nuestra mente), que indaga en la protección de ese derecho a lo largo de la historia. Y en cómo en la era digital nuestros datos privados online habrían de funcionar como una suerte de fortín, una barrera de defensa frente a las manipulaciones de los poderosos. 

En esta entrevista, fruto de la participación de Alegre en las II Jornadas sobre Justicia Digital Global de Oxfam Intermón, la abogada reflexiona sobre la amenaza de la inteligencia artificial (IA) generativa para la democracia y la deshumanización de las personas bajo la excusa de la automatización.

La propaganda existe desde hace mucho. Pero lo que ha cambiado es que ésta puede ser personalizada. Y eso se puede hacer si se tiene acceso a nuestros datos personales

¿A qué te refieres cuando hablas de libertad de pensamiento? ¿Y por qué crees que está amenazada en el mundo digital?
La libertad de pensamiento forma parte de todos los grandes convenios de derechos humanos. Pero hasta hace poco casi no se había explorado en lo jurídico. Se ha quedado como una idea casi filosófica. Como otras libertades (la de opinión, conciencia, religión…) tiene dos partes. La externa, lo que decimos o cómo manifestamos nuestras ideas. Y nuestros pensamientos internos. En esta segunda, que se ha explorado menos desde el derecho, me centro yo más. 

La defensa de esta libertad se divide en tres aspectos. Nadie te puede forzar a revelar tus opiniones. Has de poder pensar libre de manipulaciones. Y nadie te puede penalizar por tus pensamientos. Te pueden perseguir por lo que dices o por lo que haces, pero no por lo que piensas o por lo que creen que piensas. 

Esto último, estas inferencias, son muy importantes en el mundo digital. Mucha de la tecnología actual funciona en base a nuestros datos privados en el mundo online. Estos datos hoy están en venta. ¿Y por qué son tan valiosos? Porque permiten inferir aquello que pensamos.

Nuestros datos privados en el mundo online son la puerta de entrada a nuestros pensamientos. Si se abre, pueden penalizarnos y manipularnos. Por eso es tan importante la privacidad.

¿De qué manera el escándalo de Cambridge Analytica fue para ti un punto de inflexión en este tema? 
Con Cambridge Analytica me di cuenta de por qué nuestros datos personales valen tanto. Porque sirven para cambiar nuestras mentes; y por tanto lo que compramos, lo que votamos, la política… Es un control personal que produce cambios en la sociedad.  

La propaganda existe desde hace mucho. Pero lo que ha cambiado es que ésta puede ser personalizada —antes era para las masas—. Y eso se puede hacer si se tiene acceso a nuestros datos personales. Desde Cambridge Analytica decían a sus clientes que podían entender quién era cada elector, cuáles eran sus puntos vulnerables, a quién iban a votar. Y luego utilizar esa información para cambiar su forma de actuar. Probablemente no para cambiar opciones políticas, por ejemplo de un voto favorable al Brexit a uno en contra, pero sí provocando que grupos particulares de gente no se levanten del sofá para ir a votar. Con eso es posible cambiar las elecciones de un país. 

Este tipo de publicidad política solo se puede hacer porque existe un modelo de negocio basado en la venta de datos privados. Una vez que sabes cómo cambiar la mente de la gente, lo puedes usar para cualquier cosa. 

¿Ha habido cambios significativos desde entonces? ¿Se han establecido garantías para que algo así no vuelva a ocurrir?
En Reino Unido, mientras los políticos se llevaban las manos a la cabeza con Cambridge Analytica, aprobaban una regulación de protección de datos que les eximía de muchas de las obligaciones de esta ley. A día de hoy, en mi país los partidos políticos pueden utilizar nuestros datos privados online para perfilar a grupos de votantes y dirigir a ellos sus campañas.

Con Cambridge Analytica me di cuenta de por qué nuestros datos personales valen tanto. Porque sirven para cambiar nuestras mentes; y por tanto lo que compramos, lo que votamos, la política

En España, donde se había aprobado una legislación similar a la británica, el Tribunal Constitucional dijo que una ley así no era constitucional, por un tema de privacidad y de libertad ideológica. Así que en España los partidos están más restringidos respecto al uso de datos privados. En Estados Unidos, en cambio, es el salvaje oeste. 

Este año hay elecciones cruciales tanto en Europa como en EE UU. ¿Qué panorama vislumbras desde el punto de vista de la desinformación? 
Todo el mundo habla de los deep fakes y de qué va a pasar en las elecciones este año, pero no se ha hecho casi nada. Hace poco salió un informe de AlgorithmWatch sobre cómo un tercio de las respuestas del chatbot de Microsoft, Bing Chat, eran falsas. 

Hoy estamos en un mundo diferente al que había antes de Cambridge Analytica, pero no en un mundo mejor o más controlado. El problema está en que las libertades de opinión y pensamiento están firmemente ligadas a la libertad de información, siempre que contemos con información de la que nos podemos fiar. Y ahora estamos en una situación en la que es difícil fiarse de la información online.

Las libertades de opinión y pensamiento están firmemente ligadas a la libertad de información. Y ahora estamos en una situación en la que es difícil fiarse de la información online

La IA generativa permite que la desinformación se cree en minutos. Y de forma muy creíble. En otoño pasado en Reino Unido tuvimos dos casos de audios de políticos de la oposición que eran falsos. Primero del líder laborista, Keir Starmer; y luego del alcalde de Londres [Sadiq Khan]. 

Vamos a ver qué pasa este año. No sé cómo se controla esto. Pero al menos pediría a los medios tradicionales que actúen como filtro ante este contenido online falso. 

En tu próximo libro, que se publicará en inglés en mayo, Human Rights, robot wrongs, analizas por qué la IA amenaza varios de nuestros derechos fundamentales. 
He intentado analizar casos en los que la IA se está diseñando o usando para reemplazar a los humanos y las implicaciones que eso tiene para nuestros derechos. Humanizando a las máquinas se deshumaniza a los humanos. 

Está el caso por ejemplo del robot Sophia, creado por un ex diseñador de Disney, que habla con diplomáticos y tiene ciudadanía saudí. El intento de mostrar que los robots pueden ser igual que los humanos, sobre todo a las mujeres, nos reemplaza, nos quita el trabajo pero también quita dignidad. Abre un mundo en el que el humano no es más que un robot biológico.

Hoy estamos en un mundo diferente al que había antes de Cambridge Analytica, pero no en un mundo mejor o más controlado

También analizo el trato de los trabajadores que están dentro del desarrollo de la IA, sea para sacar minerales necesarios para su construcción o entrenando los algoritmos que están detrás. 

La deshumanización pone en peligro muchos de nuestros derechos. Y eso es algo que ya está pasando. Alexa es un ejemplo. Nos hemos habituado a hablar a la máquina como si fuera una persona, con cortesía. Y sin darnos cuenta las personalizamos y les damos la razón. Existe ese sesgo de automatización, confiando más en la máquina que en el ser humano. Si miro por la ventana y veo que hay un día soleado, pero la app del tiempo nos dice que está lloviendo, ya no creemos a nuestros propios ojos.

Informar de un error
Es necesario tener cuenta y acceder a ella para poder hacer envíos. Regístrate. Entra na túa conta.

Relacionadas

Economía social y solidaria
Tecnología Inteligencia Artificial y economía solidaria: ¿posibles aliadas?
¿Cómo debe relacionarse la economía solidaria con una tecnología que vulnera derechos humanos y ambientales constantemente? Cooperativas e investigadoras tecnológicas animan al movimiento a perderle el miedo y a utilizarla de manera crítica.
Inteligencia artificial
Resistencia ante la IA en pos de una transición justa Resistencia ante la IA en pos de una transición justa
No se puede concebir una transición justa sin cuestionar el engranaje de la inteligencia artificial
Inteligencia artificial
Inteligencia artificial La demanda energética de los centros de datos de IA se cuadruplicará para 2030, según un informe
Un estudio de la Agencia Internacional de la Energía predice que los centros de datos aumentarán la demanda de electricidad en un 20% de aquí a 2030 en el Norte global.
Gasto militar
Gasto militar ¿De dónde sacará Sánchez el dinero para financiar el incremento del gasto en defensa?
La promesa de aumentar las partidas presupuestarias militares necesita redirigir 10.471 millones de euros para alcanzar el 2% del PIB. Cumplirlo este año abre a su vez un grave problema para hacerlo en 2026.
Salud
El precio justo La nueva ley del medicamento o estrategias para bajar el precio de los genéricos (que son caros)
En España pagamos de media un 10% más por los medicamentos genéricos que consumimos que en el resto de la UE. Al mismo tiempo, nuestro gasto farmacéutico ha aumentado un 33% en la última década.
Israel
España El Gobierno español vuelve a romper su compromiso de no comprar armas a Israel
El Ejecutivo de Pedro Sánchez adquiere armamento israelí por valor de 6,6 millones de euros a pesar de haberse comprometido a un “embargo total”.
Israel
Israel Nuevos contratos de compra de armamento a Israel tensan la situación del Gobierno
El incumplimiento del compromiso al “embargo total” por parte del PSOE deja críticas de Sumar y la opción de romper la coalición por parte de Izquierda Unida. El Ejecutivo asegura que está buscando la manera de rescindir el contrato.
Gobierno de coalición
Carrera armamentística Izquierda Unida denuncia incumplimiento del PSOE y habla de “crisis de Gobierno”
El aumento del gasto en defensa y la compra de armas a Israel, a pesar del compromiso de no hacerlo, ha enfadado a tres pesos pesados de la coalición.

Últimas

There Is Alternative
There Is Alternative De redes, software, cacharritos y todo lo que no sea Elon Musk | TINA #1
Primer programa del podcast There Is Alternative de El Salto Radio sobre el lado oscuro de la tecnología y sus alternativas éticas y responsables.
Opinión
Opinión Priorizar bombas sobre camas de hospital
El presupuesto público parece tener siempre un límite cuando se trata de contratar personal o mejorar infraestructuras en Sanidad. Pero no lo tiene cuando se trata de gasto militar.
Opinión
Guggenheim Urdaibai Respuesta al Agirre Center: no participaremos en este juego con cartas marcadas
VV.AA.
El “proceso de escucha” se invalida a sí mismo al existir un plan ya elaborado y no publicado “de expansión discontinua del Guggenheim de Bilbao en Urdaibai”.
Más noticias
Estados Unidos
Extrema derecha Los beneficios de Tesla caen un 71% y Musk anuncia que reducirá su colaboración con Trump
Las protestas contra Elon Musk funcionan y hacen caer los beneficios y el valor en bolsa de la compañía. El anuncio del millonario hace que las acciones de Tesla crezcan cerca de un 5% en apenas unas horas.
Comunidad de Madrid
Huelga de universidades públicas Con un gigantesco mural profesorado y alumnado exigen más inversión en las universidades públicas de Madrid
Después del encierro del pasado 7 de abril, una espectacular acción de la comunidad universitaria ha llamado la atención sobre el recorte de recursos que prevé el gobierno de Díaz Ayuso en su nueva ley de universidades.
Laboral
Laboral Tres nuevos días de huelga para parar el ERE en Bridgestone
Los sindicatos de forma unánime convocan paros los días 24, 25 y 26 de abril y no descartan ampliar las acciones de lucha para evitar el despido de 546 trabajadores.

Recomendadas

Medio ambiente
Medio ambiente Que papel xoga Abanca no proxecto da celulosa de Altri en Galiza?
A sociedade público-privada Impulsa Galica, que cimentou os primeiros plans da multinacional papeleira e Greenalia está participada fundamentalmente pola Xunta e polo banco que xurdiu da desastrosa fusión das caixas de aforro galegas.
El Salvador
El Salvador El caso Ábrego García destapa el turbio pacto de Trump con Bukele
El joven salvadoreño no ha sido condenado ni en Estados Unidos ni en su país de origen, pero es uno de los cientos de personas con la vida pendiente de un hilo por las políticas de Trump y Bukele.
Historia
Historia Miguel Martínez: “En Villalar, la izquierda arrancó los comuneros al franquismo”
Miguel Martínez, profesor de historia y literatura españolas en la Universidad de Chicago, analiza desde una óptica progresista la Edad Moderna, el momento histórico fetiche de las derechas españolistas.