Para el sitio web Marx21.ch, el 8 de abril, Jean Batou conversó con Hubert Krivine sobre su último libro, ChatGPT, una inteligencia sin pensamiento, París, ed. Cassini, 2024. A modo de introducción, reproducimos el primer párrafo de su contraportada: “La inteligencia artificial moderna opera esencialmente por inducción, es decir, anticipa lo nuevo a partir de extrapolaciones de lo antiguo. Pero este ‘antiguo’, derivado del big data, incluso con miles de millones de puntos de datos en constante enriquecimiento, está lejos de agotar el mundo real, que es infinitamente más grande”. La imagen del título representa al Gólem, un ser humanoide de la mitología judía centroeuropea, hecho de arcilla, temporalmente dotado de vida, pero privado de libre albedrío, destinado a obedecer a su creador…
¿En qué se diferencia la inteligencia artificial de otros inventos que han marcado la historia de la humanidad?
El estudio de lo que impropiamente se denomina IA es un formidable motor para el estudio de la inteligencia humana. Es único en comparación con la mayoría de las herramientas fabricadas hasta la fecha, como las máquinas de vapor o el teléfono. Si nadie entendía exactamente cómo funcionaban, nos tranquilizaba pensar que sus diseñadores sí. Lo preocupante de la IA es que esto ya no es necesariamente así. Todas las conjeturas se hacen posibles. Desde quienes sugieren que la IA superará la inteligencia humana hasta quienes no lo creen. Y en la primera categoría, quienes ven el peligro de una IA dañina y, en la segunda, la promesa de un inmenso progreso para la humanidad. De hecho, estas dos visiones no se oponen, porque la creencia en el potencial dañino de la IA es tanto más convincente cuanto que sus éxitos son rotundos.
¿Cómo funciona un asistente virtual como ChatGPT?
Se basa en la inducción, es decir, en la generalización de casos particulares. A partir del conocimiento actual, que incluye cientos de miles de millones de puntos de datos, la IA produce “mapas” y ChatGPT extrae de ellos de forma muy sofisticada, a partir de la “indicación” (la pregunta que se le formula), las opiniones o predicciones que considera más probables en un momento dado. Esto le resulta útil, siempre que pueda operar en igualdad de condiciones. Sin embargo, esto no es posible con la misma intensidad en todos los ámbitos. Tras este enfoque se encuentra la idea de que las mismas causas producen los mismos efectos, que parece ser la base del enfoque científico, aunque deba manejarse con cautela.
¿Puedes darme algunos ejemplos concretos de los límites del razonamiento inductivo?
¿Ejemplos? Sea cual sea el material de una canica, su superficie de rodadura y el golpe inicial que reciba, una canica lanzada siempre terminará deteniéndose. Por inducción, se concluiría que se necesita una fuerza para mantener el movimiento. De igual manera, el experimento repetido mil veces demostraría que los cuerpos caen más rápido cuanto más pesados son. A pesar de su posible generalización, estas observaciones conducirían a leyes erróneas, ya que ignoran (entre otras cosas) la fricción, inevitable en cualquier experimento real. Fue el “experimento mental” lo que permitió a Galileo refutar las conclusiones de Aristóteles sobre la gravitación, y no el experimento (inventado) de objetos que caen desde lo alto de la Torre de Pisa. De igual manera, la teoría de la relatividad de Einstein podía verificarse experimentalmente, pero se descubrió antes mediante un enfoque teórico, basado en las contradicciones de la mecánica newtoniana y las ecuaciones de Maxwell. Diría lo mismo de la mecánica cuántica.
¿Por qué los mismos efectos registrados en el big data no pueden ser producto de las mismas causas?
Porque, como Maxwell señaló hace casi un siglo y medio, es obvio que cualquier evento solo se presenta una vez y que, por lo tanto, las causas y los efectos de un fenómeno nunca pueden ser los mismos. Se podría intentar remediar este defecto congénito estudiando otros fenómenos similares, pero a diferentes escalas, y luego, jugando con las proporcionalidades, reintroducirlos en el caso estudiado . Pero esto sería un error, pues hay que tener cuidado con la no proporcionalidad entre causas y efectos. Así, Diderot se equivocó cuando afirmó: «Si se plantea una causa, se sigue un efecto; de una causa débil, un efecto débil; de una causa momentánea, un efecto momentáneo; de una causa intermitente, un efecto intermitente […]». Incluso cuando conocemos perfectamente la ley de evolución de un sistema, el caos determinista nos enseña que, en ciertos casos, una variación muy pequeña en las condiciones iniciales o del entorno (el efecto mariposa) puede provocar variaciones colosales en las condiciones finales.
Sigue siendo cierto que todo fenómeno tiene una causa, aunque no sea reproducible, ¿no?
No es cierto que todo fenómeno tenga una causa. El problema reside en esto. Cada explicación conduce a una cascada infinita de otras explicaciones. Para comprender un fenómeno, debemos definir el enfoque temporal y espacial de esta cascada. Tomemos un ejemplo: la muerte de Enrique IV. La causa inmediata, la daga del fanático Ravaillac. Pero más allá de eso, su fanatismo se refiere a las guerras de religión que, en sí mismas, son producto de conflictos socioeconómicos… El buen historiador es aquel capaz de elegir, entre este mar de causas, las que responden a las preguntas que desea estudiar.
¿Cómo trabajan los científicos?
Los científicos no solo trabajan con el conocimiento ya registrado, como ocurre cuando usan ChatGPT, sino también sobre el terreno. Buscan explicar la compleja realidad mediante lo simple e invisible (Jean Perrin). Esto es lo que llamamos teoría y nunca resulta de la simple acumulación de datos. Como afirmó Poincaré: «Hacemos ciencia con hechos, como hacemos una casa con piedras: pero una acumulación de hechos no es ciencia del mismo modo que un montón de piedras no es una casa». En otras palabras, el mapa no es el terreno. Sea cual sea su resolución y la riqueza de sus colores, es y seguirá siendo infinitamente más pobre.
Shakespeare hace decir a Hamlet: “Hay más cosas en la tierra y en el cielo, Horacio, de las que sueña tu filosofía”, frase que a Marx y Freud les gustaba mucho… ¿No distingue precisamente este “terreno” con infinitas propiedades que no pueden reducirse a un “mapa”?
¿Qué es la tierra? Es su fauna, su flora, con sus miles de millones de especies en interacción, su precio de venta, su poesía, sus olores, su ubicación; en resumen, una infinidad de parámetros que los seres humanos deben clasificar según el uso que quieran darle. El árbol del botánico no es el del psicoanalista, para quien puede evocar un símbolo fálico; para el arboricultor, será más bien una fuente de ingresos. De igual manera, el mapa genético de un ser vivo no agota su potencial, así como la música no se reduce a la partitura ni el individuo a su documento de identidad…
¿Qué elementos esenciales faltan en el razonamiento inductivo?
La inducción, el razonamiento de “la tercera es la vencida”, es útil en la vida cotidiana. También ha dado lugar a importantes descubrimientos. Pero ignora la interacción de los fenómenos con su entorno y con su propia historia. Sin embargo, la medicina y la economía no pueden abstraerse del entorno ni de la historia. Mejor aún, los fenómenos políticos y sociales interactúan constantemente con la memoria del pasado y el mundo que los rodea… ¿Significa esto que estos campos escapan a cualquier enfoque científico? No, claro que no, pero la inducción les es de poca ayuda. Puedo darles otro ejemplo tomado de una ciencia pura: sabemos calcular y predecir con gran precisión el movimiento de dos planetas, pero no de tres, y menos aún el de todos ellos. En este caso, es el entorno el que hace que la inducción sea impráctica.
Al escucharte, me parece que la IA tiene especial dificultad para captar los saltos en la evolución, los cambios inesperados en la progresión de un proceso, que sin embargo caracterizan la mayoría de los fenómenos a lo largo del tiempo…
ChatGPT basa su inteligencia en el promedio estadístico de una gran cantidad de datos. Por lo tanto, puede confundir correlaciones aleatorias con causalidades. Además, no puede evitar reproducir ciegamente los sesgos racistas o sexistas registrados por el big data. Por eso, los análisis estadísticos clásicos no proceden de esta manera: razonan a partir de muestras más pequeñas, constituidas por hipótesis teóricas que buscan corregir dichos sesgos. Pero es precisamente la capacidad de determinar hipótesis de la que carece la IA. Además, la historia cambia de rumbo tras eventos excepcionales. Basta pensar en la desaparición de los dinosaurios… por no hablar de las revoluciones sociales. En realidad, la evolución está determinada por una serie de eventos extraordinarios, que la reducción a la media, por definición, no puede comprender. En términos más generales, todos los fenómenos caóticos escapan en gran medida a la IA.
Nietzsche escribió que uno debe llevar el caos dentro de sí para dar a luz una estrella danzante. En otras palabras, ¿requiere el pensamiento creativo otras facultades además del razonamiento inductivo?
Me recuerdas una reflexión de Oriol Bohigas, físico nuclear y especialista en caos cuántico, que refunfuñaba cada vez que ordenaban su escritorio. “Me impiden pensar”, protestaba. “Mi escritorio está (des)organizado como mi mente”. Pascal distinguía así el espíritu de fineza, que no requiere razonamiento racional, del espíritu geométrico, ambos sin embargo necesarios para el investigador. Einstein también reivindicaba su espíritu artístico y su capacidad para dar rienda suelta a su imaginación. Más concretamente, para entender cómo ir más allá de la fórmula x = 1/2 g t², que permite medir la distancia recorrida por un objeto en caída libre vertical, debemos tener en cuenta la resistencia del aire, la desviación hacia el este (debido a que la Tierra no es un punto de referencia galileano), la influencia de todos los demás cuerpos pesados sobre este objeto, la relatividad y, si el cuerpo es pequeño, la mecánica cuántica… Dudo mucho que la inducción pueda lograr todo eso pronto.
¿Qué problema ve con la privacidad de la IA y el poder que otorga a sus propietarios?
Esta inteligencia está en clara contradicción con la propiedad privada, ya que es intrínsecamente social, es decir, está en constante interacción con las producciones humanas y con su entorno, vivo o inanimado. Es prematuro evaluar el alcance de ChatGPT. En muchos aspectos, resulta contradictorio. Puede impulsar el progreso del conocimiento o dificultarlo. Por ejemplo, el estudio del plegamiento de proteínas, que les confiere sus funciones, ha avanzado enormemente gracias a la IA, lo que debería permitir el descubrimiento de nuevos fármacos.
¿ChatGPT no plantea ningún problema particular en el ámbito de la educación?
Escribimos cada vez menos, lo cual no es grave, porque ya no leemos textos largos: los resúmenes de ChatGPT lo solucionan muy bien. En Inglaterra, incluso están considerando corregir tareas escritas por IA. Bromeando, podría decirles que, en la medida en que estén escritas por IA, ¡serán más bien autocorrecciones! Pero esto, obviamente, plantea problemas formidables para los profesores, mucho más graves que los que planteó la calculadora en su época. Para darse cuenta de esto, basta con pensar en esta reflexión de Kepler en Nueva Astronomía: “Las formas en que los hombres llegan a comprender las cosas celestes me parecen tan admirables como las cosas mismas”. Ahora bien, unos pocos clics en ChatGPT no pueden despertar mucha admiración.
Le pregunté a ChatGPT que “pensaba” de tu libro y me respondió en concreto: “pensamiento, según él, indica intenciones”, que es lo contrario de lo que escribes…
Así que se equivocó. Sucede… Pero los críticos de la IA debilitan su argumento al centrarse en sus errores (curiosamente llamados “alucinaciones”, como si se tratara de un cerebro humano). Estos errores pueden corregirse, y se corregirán. Pero volvamos al concepto mismo del pensamiento. ¿Podemos decir que el pensamiento progresa, como decimos de la inteligencia?
¿Qué diferencia establece usted entre inteligencia y pensamiento, que opones en el título de tu libro?
Existe una gran cantidad de definiciones sobre este tema. Diré simplemente, a grandes rasgos , que la inteligencia define la capacidad de resolver un problema, ya sea en teoría o en la práctica. Y esto, consciente o inconscientemente (este término proviene de “inter legere”). La etimología de “comprender” es muy similar a “cum prehendere”, es decir, tomar, unificar). Por otro lado, me abstendré de definir el pensamiento más allá del burbujeo de todo lo que ocurre en el cerebro, causado por sus interacciones con el universo entero (el “terreno” o el “todo”, incluido nuestro cuerpo). Puede que sea muy vago, pero ¿cómo podemos definir un concepto tan versátil con mayor precisión, sin prescindir de muchos de sus usos? El pensamiento puede generar problemas que la inteligencia deberá resolver. En otras palabras, la inteligencia es definitiva, no el pensamiento. ¿Podemos hablar de pensamiento artificial? La máquina pensante no existe, o mejor dicho (¿aún hoy?) es el cerebro, o más bien los cerebros, como dice el biólogo Antoine Triller:
“Lo que genera el pensamiento no es el cerebro, sino los cerebros. Es la interacción de los cerebros entre sí […] Es un fenómeno colectivo de cerebros a través del cuerpo […] La cuestión del cuerpo forma parte del sistema que alimenta constantemente al cerebro. Un cerebro por sí solo es inútil, no funciona […]. Se necesitan seres humanos, hombres y mujeres, que interactúen entre sí para que el pensamiento surja como algo en el conjunto de todos los cerebros.” (Extracto de una conferencia impartida en la Academia de Ciencias, 4 de abril de 2023).
* Hubert Krivine es un físico conocido por su trabajo en física teórica y sus reflexiones sobre la filosofía de la ciencia. Es autor de varias obras, entre ellas : La Tierra: De los mitos al conocimiento (2011); Del átomo imaginado al átomo descubierto: Contra el relativismo (con Annie Grosman) (2016); Un breve tratado sobre azarología (2016); Entender sin predecir, predecir sin comprender (2018); ¿Puede pensar la IA? ¿Milagro o espejismo de la inteligencia artificial ? (2021); ¿Nos han mentido? Del rumor a las noticias falsas (2022).
Fuente: https://huelladelsur.ar/2025/09/07/chatgpt-una-inteligencia-sin-pensamiento/
