Inteligencia artificial
De la democracia representativa a la inteligencia representativa: pensamiento crítico e IA

El rápido declive del poder de la democracia representativa y el debilitamiento de los mecanismos de gobernanza democrática que estamos presenciando actualmente están directamente relacionados con el declive de nuestras facultades críticas. Estas últimas han experimentado una profunda transformación que puede analizarse en dos niveles. Por un lado, podemos observar un evidente aumento de la cantidad de información disponible, en forma de datos, informes y noticias, junto con una mayor difusión de los títulos de educación superior, lo que podría dar la impresión de una mejora en las capacidades culturales y críticas de las personas. Por otro lado, se está produciendo un proceso más bien oculto e insidioso de debilitamiento, cuando no de paralización, del pensamiento crítico, que se lleva a cabo a través de diversos medios, la mayoría de ellos digitales. Desde la publicidad y los contenidos patrocinados hasta la creación de contenidos, los copywriters y los influencers. Desde las redes sociales, especialmente las plataformas corporativas y mainstream, hasta los libros de autoayuda y la profusión de coaches de todo tipo. Todos estos son elementos que han contribuido al debilitamiento y la fragmentación, a través de técnicas de distracción, «lavado de cerebro» o la difusión de contenidos o materiales poco estimulantes o insustanciales (la definición de Oxford de «brain rot»), de la capacidad de pensar de forma crítica y compleja. Sin embargo, con la popularización de los sistemas de IA generativa, cuyas aplicaciones se han convertido rápidamente en algunas de las más descargadas del planeta, este proceso de empobrecimiento ha alcanzado una dimensión superior, tanto cuantitativa como cualitativamente.

Uno de los peligros de la democracia representativa, que la convierte en un sistema político mucho menos democrático que la democracia directa, es la presencia del lobby corporativo, que reproduce y amplifica la legitimidad de estructuras económicas jerárquicas y extractivas que son claramente incompatibles con la democracia, ya que una corporación es, por definición, una entidad antidemocrática.

El acto de delegar implica un distanciamiento de la esencia original de lo que se delega, a menos que se apliquen medidas estrictas para limitar las interferencias y los daños. Por analogía con lo que ocurre en la esfera política, donde aceptamos el lobby corporativo, cada vez que aceptamos productos corporativos diseñados para producir y crear conocimiento basados en principios probabilísticos y estadísticos —reproduciendo así ideas dominantes acríticas e impidiéndonos tomar caminos inexplorados— estamos delegando nuestras facultades críticas a los poderes corporativos.

El lobby corporativo en la esfera política adopta la forma de algoritmos, que marcan una dirección de pensamiento que amplifica y apoya a los poderes corporativos

En el caso de la IA generativa, el lobby corporativo en la esfera política adopta la forma de algoritmos, que marcan una dirección de pensamiento que amplifica y apoya a los poderes corporativos, al tiempo que invisibiliza las ideas críticas que podrían desafiar las economías extractivistas y subvertir las estructuras de poder.

Por tanto, debido a la rápida expansión de los sistemas de inteligencia artificial, nuestras facultades críticas están siendo delegadas a corporaciones propiedad de los mismos actores tecnofeudales que están socavando nuestras democracias representativas formales.

La delegación no es la única amenaza para el pensamiento crítico. Otro factor influyente es la fragmentación

Si bien la IA se considera una amenaza para la democracia —cualquiera que sea el significado de esa palabra— debido a las prácticas contrarias a la ética y a la presencia de sesgos, un problema más peligroso e insidioso es su impacto en el proceso de pensamiento y en la capacidad de pensar críticamente y disentir.

Sin embargo, la delegación no es la única amenaza para el pensamiento crítico. Otro factor influyente es la fragmentación.

La fragmentación es una característica clave de nuestra era, que está teniendo un profundo efecto en prácticamente todos los aspectos de la vida. Sus orígenes modernos, además de la creciente especialización del trabajo, se pueden encontrar en lo que yo denomino discontinuidades en la línea temporal sociocultural. Tomando prestado el término de las matemáticas, donde significa que una ecuación tiene un punto crítico —la propiedad de ser matemáticamente no continua—, las discontinuidades pueden aplicarse a la sociedad para indicar puntos críticos que perturban la continuidad social, creando cambios abruptos. En lo que respecta a la fragmentación del pensamiento, algunos de estos puntos críticos han tenido más influencia que otros: la introducción de la organización científica del trabajo (scientific management) y la creación de la cadena de montaje, por ejemplo, han transformado profundamente nuestra forma de pensar y de vivir, lo que ha llevado a una creciente pérdida de unidad que influye en los procesos de pensamiento y creación. La actual aceleración de la producción industrial y la vida urbana, los cambios en las técnicas publicitarias y la introducción de los smartphones y las redes sociales contribuyen de manera significativa a la naturaleza fragmentaria del pensamiento contemporáneo. Hoy en día, esta fragmentación está alcanzando un nuevo nivel con la introducción silenciosa e insidiosa de los sistemas de inteligencia artificial, concebidos como una secuencia de fragmentos combinados basados en modelos probabilísticos y estadísticos, como herramientas para la creación en el campo de la escritura. La integridad del proceso, esencial para lograr una verdadera comprensión, se elimina mediante la fragmentación.

Las ideas marginadas, y su consiguiente infrarrepresentación en la naturaleza probabilística-estadística de los algoritmos, son a menudo las que iluminan a la sociedad a través de una perspectiva visionaria

Los modelos probabilísticos y estadísticos que rigen los sistemas de IA, aunque pueden ser extremadamente útiles y fructíferos en muchos campos diferentes —desde la biomedicina hasta las ciencias ambientales, entre muchos otros—, parecen ser la antítesis del proceso de reflexión necesario para alcanzar el pensamiento crítico y, de ser necesario, el disenso, en el contexto de la formación de una visión crítica de la sociedad.

Además, las ideas marginadas, y su consiguiente infrarrepresentación en la naturaleza probabilística-estadística de los algoritmos, son a menudo las que iluminan a la sociedad a través de una perspectiva visionaria. De hecho, los avances más importantes de la historia han sido a menudo el resultado de ideas radicales que, a pesar de tener poca visibilidad, desafiaron y transformaron el statu quo.

La esencia del pensamiento consiste en seleccionar ideas e interrelacionarlas de formas complejas y significativas que requieren la conciencia, las emociones y los sentimientos como elementos clave para que se produzca el proceso de pensamiento. La palabra inteligencia tiene innumerables definiciones; etimológicamente, inteligente es el participio presente de intelligere «entender, comprender, llegar a conocer», de la forma asimilada de inter «entre» + legere «elegir, seleccionar, leer». Para poder «elegir entre», la volición es otro componente clave, que es único para la persona involucrada en el proceso de pensamiento. Otro concepto relacionado con la inteligencia que debe abordarse y cuestionarse críticamente es el de la optimización a través de la experiencia, un elemento fundamental en los sistemas de IA. La optimización sin un propósito significativo se convierte en optimización por la optimización, un proceso sin dirección que puede conducir a resultados peligrosos. Es necesario establecer una dirección clara para la optimización, cuyo propósito debe ser sostener a las personas y la naturaleza, fomentando el florecimiento de la vida. Todos estos elementos que constituyen la inteligencia no pueden delegarse en un algoritmo sin ver desaparecer el significado de nuestra propia existencia. Cada persona da sentido a su vida a través de su propio proceso de pensamiento, cuyos componentes esenciales son los mencionados anteriormente. Si el beneficiario de la delegación es una corporación, el pensamiento crítico sufre un rápido proceso de declive, lo que otorga a las corporaciones amplios poderes para socavar no solo nuestras democracias formales, sino también el significado de nuestra propia existencia. Si consideramos que la forma en que se seleccionan y combinan los fragmentos digitales de fuentes específicas la deciden las corporaciones —que han recopilado y privatizado datos personales y creaciones artísticas a través de un auténtico cercamiento digital—, entonces queda claro que promover el pensamiento crítico a través de la IA es altamente improbable. Por el contrario, es esencial darse cuenta de que estamos asistiendo a un rápido declive de nuestro tesoro más preciado: nuestras facultades mentales para el pensamiento crítico. Como resultado, es previsible la erosión de los derechos humanos y nuestras democracias formales, con posibles aumentos de las tendencias autoritarias actuales, si no se toman las medidas adecuadas para preservar y fomentar el pensamiento crítico.

Versión en inglés del artículo