Opinión socias
El cerebro en frente de la Máquina

Al principio, en Facebook solo había gatitos. La gente llegaba, veía unos gatitos juguetones, y se piraba. Entonces, llegó el humano y le pidió al algoritmo: haz lo que sea, pero quiero que venga mucha más gente, y que se quede mucho más tiempo. El algoritmo le preguntó: ¿lo que sea...?

Y así fue como, poco a poco, los gatitos empezaron a pelearse, y ya no solo se peleaban los gatitos, sino los probos ciudadanos de Ohio, Otxarkoaga, La Serena o el Ripollès.

Más adelante, algunos adolescentes querían suicidarse. Y el dueño de Facebook pedía perdón a sus papás, nada menos que en el Senado de los Estados Unidos de Norteamérica.

Los humanos, que somos muy poco espabilaos, nos creíamos que los efectos perversos de aquellas arañas inescrutables tenían que ver con los contenidos que ponían a nuestra disposición en sus redes. Pocos entendían que esos contenidos eran lo de menos. Porque aquellas máquinas, en realidad, se dedicaban a conseguir que nuestros cerebros, poco a poco, fuesen funcionando como a ellas les venía bien.

El cerebro es un órgano plástico. No solamente se reconfigura cuando pierde un trozo en un accidente. También es capaz de cambiar su configuración y su forma de operar según cambian sus contextos, necesidades, medios ambientes. Cuando vives en la selva, por ejemplo, organizas tu procesamiento de los estímulos sonoros de una forma completamente diferente a cuando vives en la gran ciudad. No solamente prestas más o menos atención, cambias la forma en que funciona tu atención.

Cuando la máquina quiere conseguir que te quedes más tiempo y hagas más operaciones dentro de su Red, no se va a limitar a conseguirlo presentándote un determinado tipo de contenidos, sino transformando tus procesos que se opongan a los que ella necesita. Comienzas a procesar como a la máquina le conviene, aunque esto entre en conflicto con la práctica de la empatía, el procesamiento de oraciones compuestas o una relación saludable con tu propio cuerpo, por ejemplos.

Todo esto, la máquina lo hace de forma completamente opaca, incluso para sí misma. Dicho de otro modo, no se preocupa, como el humano, de construir hipótesis y comprobar si son ciertas. Ni siquiera organiza sus procesos de modo ordenado y sistemático. Porque funciona a través del error y ensayo: yo quiero conseguir algo, pruebo diferentes modos en diferentes grupos y elijo el que me funciona mejor; entonces, lo generalizo.

A esto lo llaman el aprendizaje profundo de las máquinas. Cuando la máquina aprende a conseguir los resultados deseados, recibe una recompensa, a modo de chuche canina.

Los cuidadores humanos de los algoritmos se llaman pastores. La parte más brillante de la metáfora, es que nunca dice nadie que las ovejas somos nosotras y que el algoritmo son los perros. El pastor entrena al perro y el perro aprende a que el rebaño funcione. Hasta que el perro se hace cargo...

Los pastores que programaron a los algoritmos ya no son capaces de seguirlos. Se limitan a observar lo que van haciendo. E, incapaces de saber cómo lo han hecho, intentan construir narrativas sobre cómo lo han hecho, qué camino han seguido. Pero siempre de modo intuitivo, como intentos de explicarlo, más que como confirmación rigurosa de procesos cerrados, que son completamente opacos, como hemos dicho.

Recientemente, el Parlamento Europeo ha aprobado una ley muy voluntariosa sobre la Inteligencia Artificial. Pero hay una línea roja muy delgada entre los riesgos inaceptables y los riesgos altos. Es muy difícil valorar los riesgos de sistemas opacos cuya actividad es desconocida incluso para ellos mismos. Usando su propia terminología, todos los riesgos sistémicos entrañan un riesgo insoportable.

Esta semana, el presidente del gobierno anunciaba una serie de medidas, como la prohibición por debajo de los 16 años. Pero la ley parece más preocupada por los contenidos agresivos que por los efectos hondos del algoritmo y de sus dueños, nuestros dueños.

Algunos celebran que el algoritmo vaya a tener que explicar cómo hace las cosas, pero el algoritmo no sabe explicarlo, no lo puede explicar.

Y, cuando un efecto perverso depende de muchos factores, entonces a un juez le va a resultar muy difícil adjudicárselo a un algoritmo determinado. Y, cuando lo llegare a hacer, no sabría en qué cárcel meter al algoritmo. Una perrera, quizá.

Miramos a l@s adolescentes y nos causa dolor, vértigo, miedo, lo que les está pasando. Las agresiones sexuales nos sumen en congoja; pero, sin llegar a tanto, es tan triste descubrir que son incapaces de leer entero un artículo de un periódico.

Hay a quien no le importa mucho todo esto. Son los que ganan dinero con estas acciones de resultados miserables. “Ya tenemos humanos capaces de pensar como humanos; la caja negra es la verdad. Si funciona, funciona. Ni siquiera deberíamos intentar desentrañar de dónde sale lo que la máquina escupe." Así habla Yann LeCun, el Gran Pastor de Facebook.

Tampoco a los políticos sin escrúpulos, que conocen y utilizan la mecánica de la Máquina y la emplean para troquelar votantes que jamás hubieran comulgado con sus intereses. (Mientras tanto, los políticos honrados actúan como si todo esto no estuviera pasando).

A los que somos partidarios de una regulación efectiva y de su cumplimiento eficaz, nos dicen que no se le pueden poner puertas al campo. ¡Uy que no! Díganme qué sería del campo de fútbol, si no tuviera puertas. Por ejemplo, cuando de lo que se trata es de defender los intereses comerciales de las grandes compañías, entonces el juez Pedraz bloquea Telegram (luego se arrepintió) o el Congreso de los EUA prohíbe TikTok (porque se lo pide su gran rival, Meta).

En fin. Es el tecnofeudalismo que denuncia Yanis Varoufakis. Ser siervos es bien.

“¿Y a mí qué me importa -dice Nacho, 18 años- que la máquina sepa antes que yo lo que me va a gustar a mí?”

¡Qué maravilla, poder vivir sin tener que tomar decisiones!¡Quién quiere una enclenque conciencia humana, si tiene dentro un Poderoso Algoritmo!

Antonio Oria de Rueda acaba de publicar el libro ¿Qué te pasa? Tú, el otrotenimiento y el final de la realidad (Ed. Popular).