«Yo no estoy contra la razón: sólo quiero reconocer
la forma que ha adoptado».
(Adorno y Horkheimer 2007, 258).

A lo largo de los dos artículos anteriores reconstruimos, primero, la promesa de progreso moderna fundada en la racionalidad con arreglo a fines y, luego, la crítica que Horkheimer dirige a esa razón cuando se reduce a mero instrumento de dominio y cálculo. Cerramos ahora la trilogía volviendo la mirada hacia el presente.

En este tercer y último artículo expondremos algunos elementos esenciales para comprender el desarrollo actual de la inteligencia artificial —el funcionamiento del aprendizaje automático y de los modelos de lenguaje— apoyándonos en la obra de Larson sobre el mito de la IA. Su tesis central, que la inteligencia humana no puede reducirse a la inferencia inductiva propia de las máquinas sino que se apoya en la capacidad abductiva y el sentido común, nos permitirá cerrar el recorrido de la trilogía: la pregunta que finalmente queda planteada es si el desarrollo actual de la IA no es sino una nueva y profunda expresión de aquella razón instrumental que Horkheimer y Adorno supieron diagnosticar décadas atrás.

El mito de la inteligencia artificial

«…cuando la razón misma se instrumentaliza, adopta una especie de materialidad
y ceguera, se convierte en un fetiche, en una
entidad esencial mágica que es más bien aceptada
que espiritualmente experimentada».
(Horkheimer 2010, 60)

En nuestros días, la técnica se presenta ante nosotros como algo a lo que todos tenemos acceso en apariencia. El fenómeno de la Inteligencia Artificial (en adelante IA) será un paso más en el camino de la profundización o evolución de la razón instrumental.

Gracias a las Matemáticas, particularmente a la Ciencia de datos, podemos reducir la comprensión de de la realidad a patrones que son analizados por algoritmos reunidos en modelos de Aprendizaje Automático (ML, por sus siglas en inglés de Machine Learning) y Grandes Modelos de Lenguaje (LLM, por sus siglas en inglés de Large Language Model) que nos devuelven datos y patrones procesados en forma de texto en lenguaje natural.

El algoritmo es el «alma» del modelo de Aprendizaje Automático, la base del desarrollo evolutivo de la IA. Un algoritmo es un conjunto de instrucciones, fundadas en la lógica matemática, para resolver un problema o realizar una tarea. La ventaja de la matematización de la realidad consiste en que es posible realizar todas estas «…complejas operaciones lógicas sin ejecutarse realmente todos los actos espirituales sobre los que descansan los símbolos matemáticos y lógicos». (Horkheimer 2010, 60) Esto es fundamental para comprender la mecanización necesaria que se esconde tras el proceso de expansión de la racionalidad con arreglo a fines (die Zweckrationalität) representada en la industria, y hoy, particularmente, en el desarrollo de la IA.

La premisa de la que se parte a la hora de pensar y desarrollar la IA es que la inteligencia humana es o puede ser reducida a la capacidad de una máquina para resolver problemas exclusivamente. (cf. Larson 2024, 31) Este presupuesto ignora otros aspectos fundamentales de nuestra inteligencia humana tales como el social y el emocional entre otros, además de nuestra corporalidad como medio necesario para relacionarnos con el mundo.

Al igual que mencionamos en los puntos anteriores, Larsen coincide en que el desarrollo de la ciencia ha prometido, y lo sigue haciendo, progreso y bienestar para toda la humanidad. «La tecnociencia podía ayudarnos a vivir más tiempo, pero no podía hacernos más sabios». (Larson 2024, 80) Y en las páginas sucesivas afirmará que la tecnociencia junto con la comprensión del ser humano como homo faber, hombre constructor, nos ha conducido a querer construirnos a nosotros mismos creando aquello que nos caracteriza, una inteligencia artificial. (cf. Larson 2024, 82)

En esencia, la IA es el intento del sujeto contemporáneo de reproducir su propia inteligencia. Ahora bien, la IA parte de datos, hechos observados y almacenados a los que un algoritmo tiene acceso para su análisis. En ninguna de las etapas del proceso de trabajo de una máquina hay comprensión alguna. La IA recibe información, la analiza con los parámetros que posee y elabora una respuesta. No puede existir IA sin datos previos. Lo novedoso es su «capacidad» para simular aprendizaje, lo que nos da una sensación de comprensión por parte de la máquina.

El Aprendizaje Automático (ML) no hace otra cosa que realizar una inferencia inductiva, es decir, a partir de la identificación de patrones en los datos que posee, el programa infiere reglas y modelos generales que le permiten luego, cotejar con otros datos a la vez que predecir datos nuevos. Como resultado de este proceso no hay ni novedad ni sorpresa. El algoritmo funciona a partir de lo que tiene, devolviendo más de lo mismo con apariencia de algo original y novedoso. «…todo aprendizaje automático es una fracción de tiempo procedente del pasado». (Larson 2024, 169).

En el fondo, no hay comprensión ni valoración de la realidad sino cómputo y simulación. Como dijimos al comienzo de este punto, la ventaja de las matemáticas y de las ciencias de datos es que pueden mecanizar operaciones lógicas sin necesidad de un acto racional o humano.

Sobre las bases del Aprendizaje Automático (ML) se van trasladando las limitaciones del algoritmo al Aprendizaje Profundo (DL, por sus siglas en inglés de Deep Learning) y a la IA Generativa (GenIA, por sus siglas en inglés de Generative AI) y a los Grandes Modelos de Lenguaje (LLM). Si bien la aspiración de los técnicos de hoy es alcanzar una IA Agéntica (AA, por sus siglas en inglés de Agentic AI), es decir, una IA que comprenda el mundo y actúe en consecuencia, que tenga conciencia y pueda tomar decisiones voluntarias, con todo lo que esto implica, aún no hemos llegado tan lejos.

El mito de la IA se fundamenta, como hemos dicho ya, en primer lugar, en la reducción de la comprensión de la inteligencia humana a la capacidad de computar y resolver problemas de una máquina (cf. Larson 2024, 31), a la sustitución del sentido por la fórmula (cf. Adorno y Horkheimer 2007, 21), por el algoritmo, los datos y la probabilidad. En segundo lugar, en la invisibilización de sus limitaciones. Estas tienen que ver con los mismos datos, comprendidos estos como el «alimento» del que se nutre la IA; y con el procesamiento de dichos datos.

Los datos son fundamentales para el desarrollo de la IA ya que a partir de su análisis los algoritmos encuentran patrones que van haciendo posible la «creación» de modelos que se van ajustando cada vez más a medida que se disponen de más datos. No es casual que el último desarrollo de la IA haya sucedido al mismo tiempo que el fenómeno del Big Data y el desarrollo y crecimiento de la internet. Tenemos, entonces, tres limitaciones en relación a los datos como fuente, a saber, la «restricción empírica»; la concerniente a la «hipótesis de frecuencia»; y la relativa al problema de «saturación». (cf. Larson 2024, 186–187)

Primero, la «restricción empírica» tiene que ver con los datos que ya tiene y con los que puede operar la IA. Lo que no está en esos datos no existe para el algoritmo. Segundo, la «hipótesis de frecuencia» hace referencia a que los modelos, al identificar y analizar patrones, priorizan los que tienen mayor regularidad u ocurrencia, dejando fuera y desatendiendo lo raro o extraordinario, con el riesgo que esto conlleva de reforzar sesgos o repetir devoluciones comunes que, aunque válidas, se encuentran dentro de lo esperable o de la media estandar. Tercero, el fenómeno de «saturación» que consiste en la colmatación o sobrecarga del sistema a partir de una cantidad excesiva de datos que ya no suma ni agrega nada al rendimiento del sistema. En los inicios de la IA se pensaba que una mayor cantidad de datos implicaba una mejor IA. Hoy sabemos que la incorporación de más datos lleva al algoritmo hasta un umbral intraspasable para el sistema.

Por otro lado, tenemos el procesamiento de datos. El modelo actual de IA se basa en el modo de inferencia inductiva. He aquí la limitación más importante según Larson. Cuando decimos que el mito de la IA reduce la inteligencia, estamos diciendo a su vez que la inteligencia no sólo opera de manera inductiva sino también de forma deductiva y abductiva. De este último tipo de inferencia es de lo que carecen las máquinas.

«La abducción capta la percepción de que buena parte de nuestro razonamiento diario es una especie de labor detectivesca, en la que vemos los hechos (datos) como pistas que nos ayudan a encontrar el sentido de las cosas. Hacer hipótesis es algo que se nos da extraordinariamente bien, lo cual, en opinión de Peirce, no se puede explicar desde la mecánica, sino a través de una operación mental a la que él llama, a falta de otra explicación, instinto. Conjeturamos qué hipótesis parecen probables o verosímiles dentro de un contexto de posibilidades en efecto infinitas». (Larson 2024, 193)

A diferencia de la máquina, el ser humano con pocos datos puede comprender y actuar en el mundo. A la máquina le hacen falta un gran volumen de datos y aun así es incapaz de realizar esto con la precisión del hombre. La inteligencia humana es conjetural y abductiva. (cf. Larson 2024, 199).

La inferencia por abducción no es ni inducción ni deducción. La abducción busca explicar hechos particulares con la información que se dispone y no en producir leyes o generalizaciones como en el caso de la inducción. La abducción tiene que ver con el sentido común. (cf. Larson 2024, 218, 324)

Con todo, la IA actual parece funcionar adecuadamente dándonos la ilusión de comprensión y, en última instancia, de conciencia cuando en verdad para la máquina son ceros y unos, probabilidad y estadística.

Una de las múltiples caras del proyecto moderno, de la tecnociencia y de la razón instrumental, es el antihumanismo representado en nuestros días en el desarrollo irrestricto de la IA. (cf. Larson 2024, 320) El valor de lo humano se desprecia a favor de sistemas dominados por la IA que «…pese a ser idiotas, no han dejado de abrirse camino por las utilidades empresariales, de consumo y gubernamentales». (Larson 2024, 329) De esta forma, el proceso de alienación del hombre y de ideologización de la técnica continúa desarrollándose a favor de unos pocos poderosos. Sin una comprensión genuina sobre qué es y en qué etapa de desarrollo se encuentra la IA, seguiremos precipitándonos en la delegación de facultades inherentemente humanas. (cf. Larson 2024, 330)

A modo de conclusión

Llegamos así al cierre de esta trilogía. A lo largo de estos tres artículos hemos intentado mostrar que el proyecto moderno tiene por fundamento a la razón autónoma que busca, en última instancia, comprender la realidad para poder dominarla con el objetivo, y la promesa, de convertir al ser humano, dueño de esa razón, en dueño y señor de sí mismo y de la naturaleza. Razón que es comprendida como mismidad y que reduce en su afán de dominación lo otro a lo mismo.

La ilustración iniciará un proceso de racionalización y desencantamiento de la realidad sin darse cuenta que en el mismo proceso de autoafirmarse e imponerse de la razón bloquea el progreso que ella misma promete. Ambos, sujeto y naturaleza, se tornan en objetos de represión y dominio. En consecuencia, la misma razón es vaciada de todo sentido y se instrumentaliza como voluntad de poder.

En nuestros días podemos pensar el desarrollo de la IA como un hito más en la historia de la evolución de la racionalidad instrumental inaugurada en la modernidad bajo la promesa de progreso. El mito de la IA se fundamenta en la subestimación de la inteligencia humana reduciéndola a cómputos e ignorando las limitaciones actuales de los desarrollos técnicos de los sistemas. En definitiva, la inteligencia humana se ve cosificada y se pretende su reproducción, con lo cual se da continuidad a los procesos de ideologización de la técnica como lo denunciaron Adorno y Horkheimer.

BIBLIOGRAFÍA de la serie completa

Adorno, T., and M. Horkheimer. 2007. Dialéctica de la ilustración. Madrid: Akal.

Habermas, Jürgen. 2008. El discurso filosófico de la modernidad. Buenos Aires: Katz.

Horkheimer, M. 2010. Crítica de la razón instrumental. Madrid: Trotta.

Larson, E. 2024. El mito de la inteligencia artificial: Por qué las máquinas no pueden pensar como nosotros lo hacemos. Barcelona: Shackleton.