Los Países Más Contaminados y el Futuro del Planeta

 

¿Es realmente inteligente la Inteligencia Artificial? | Ponencia de Ramón López de Mántaras

Reflexiones sobre la inteligencia artificial a través de ejemplos contemporáneos y la perspectiva de Isaac Newton sobre la tecnología moderna.

 

Muchas gracias, Cristina. Gracias a Heiser por esta oportunidad de compartir con todos ustedes. Por cierto, gracias por estar aquí con todos ustedes. Algunas reflexiones sobre la Inteligencia Artificial; reflexiones que hago desde el punto de vista de alguien que hace investigación científica básica y fundamental en Inteligencia Artificial.

Imaginemos que tuviéramos una máquina para viajar en el tiempo y transportamos a Isaac Newton desde finales del siglo XVII hasta la actualidad, para situarlo en un lugar que le resultara familiar, por ejemplo, la capilla del Trinity College de la Universidad de Cambridge. Una vez allí, imaginemos que le mostramos un móvil de última generación y lo conectamos. Él, que demostró que la luz blanca se descompone en colores al incidir un rayo de luz en un prisma, sin duda se sorprendería de que un objeto tan pequeño pueda producir colores tan vivos en la oscuridad de la capilla. Luego, imaginemos que hacemos sonar en el móvil una música que muy probablemente conocería, por ejemplo, una ópera de Händel. A continuación, le mostramos en la pantalla páginas de su obra Principia Mathematica Philosophiae Universalis y cómo, usando dos dedos, podemos ampliar las páginas de su obra y ver las fórmulas con más detalle.

Supongamos también que le mostramos cómo hacer fotos, grabar vídeos, grabar audio, realizar cálculos aritméticos a gran velocidad, contar los pasos que caminamos, guiarnos hacia nuestro destino y, por supuesto, no tenemos que olvidarnos de hablar con alguien a miles de kilómetros. ¿Sería Newton capaz de dar una mínima explicación coherente de cómo podemos hacer todo esto con este dispositivo? A pesar de ser una de las mentes más brillantes de la historia, que inventó el cálculo infinitesimal, explicó tanto la óptica como la gravedad y formuló las leyes del movimiento que revolucionaron la física y llevan su nombre, a pesar de todo esto, no podría dar una explicación mínimamente coherente. No sería capaz de distinguir este dispositivo de la magia.

También podríamos preguntarnos qué más podría imaginar Newton que este dispositivo puede hacer. Quizá podría pensar que puede funcionar indefinidamente. Tengamos en cuenta que vivió 100 años antes que el inventor de la pila voltaica, Alessandro Volta. Quizás también podría imaginar que puede convertir el plomo en oro; recordemos que la química de su época era la alquimia. Posiblemente creería estas cosas y otras porque tendemos a no ver los límites de aquello que nos parece mágico. Este es uno de los problemas que tenemos a la hora de comprender estas tecnologías muy avanzadas. Ya lo dijo Arthur C. Clarke en los años 60: "Cualquier tecnología suficientemente avanzada es indistinguible de la magia".

Pues bien, la Inteligencia Artificial es un claro ejemplo de esto. Pero entonces, ¿cuál es la situación real? ¿Cuál es la realidad de la Inteligencia Artificial? Hemos visto, por ejemplo, antes con Ginés realizaciones interesantísimas de Inteligencia Artificial. Sin duda, se pueden hacer cosas maravillosas con la Inteligencia Artificial siempre que sean específicas y las podamos definir bien y tengamos datos de buena calidad. También, ahí podemos sacarle jugo a la Inteligencia Artificial. Esto está muy bien, eh, desde un punto de vista económico o de business , es perfecto, pero, como he dicho antes, mis reflexiones las hago desde el punto de vista científico, de investigación básica, y no nos conformamos con esto. Nos conformamos con pensar en ir mucho más allá y analizar las limitaciones de la Inteligencia Artificial actual que bloquean, de una manera, el progreso hacia futuras inteligencias artificiales que algunos llaman generales y que son realmente aquellas a las cuales les podemos llamar inteligencia, quitando las comillas alrededor de la palabra inteligencia.

Yo, cuando hablo de Inteligencia Artificial actual, específica, pongo comillas alrededor de la palabra inteligencia. Y vamos a ver por qué. La Inteligencia Artificial lleva más de 50 años estancada en uno de los problemas más fundamentales: ¿cómo dotar de conocimientos de sentido común a las máquinas? Y esto no es simplemente por curiosidad científica o porque sí, porque tendrá también repercusiones en un futuro tener inteligencias artificiales que realmente nos comprendan y comprendan el mundo. Y voy a desarrollar esto.

Esos conocimientos de sentido común, ¿qué son? Pues son aquellos conocimientos que son todo lo contrario de los conocimientos especializados, todo aquello que vemos que sabemos, que nos damos cuenta de que es obvio. Posiblemente tiene que ver con conocimientos de sentido común. Todos los humanos los compartimos y los hemos adquirido prácticamente sin esfuerzo. No nos damos cuenta de que los adquirimos desde pequeños, luego hablaré más de esto, a través de nuestras vivencias y experiencias, porque somos seres vivos y corpóreos. Tenemos un cuerpo con el cual interactuamos con el mundo físico y también con otras personas, con un mundo social.

La falta de estos conocimientos de sentido común impide actualmente que la Inteligencia Artificial tenga una comprensión profunda del lenguaje y sea capaz de razonar y aprender de formas más similares a las que hacemos nosotros. A la Inteligencia humana posiblemente se podría atribuir un nivel muy superficial de comprensión a los grandes modelos de lenguaje tipo ChatGPT. Pero hay muchas razones para dudar que estos modelos tengan una capacidad de comprensión real y profunda y sean capaces de razonar. Esto ahora lo elaboraré con algún ejemplo, porque de hecho es una pregunta científica básica, una gran pregunta científica si la investigación fundamental de la Inteligencia Artificial. Una de las preguntas más importantes hoy día, en 2024, es si los grandes modelos de lenguaje de la Inteligencia Artificial generativa comprenden y razonan de manera general similar a nosotros o simplemente recuperan y recombinan patrones de texto contenidos ya en los corpus de entrenamiento, los corpus de texto utilizados en su entrenamiento.

Pues bien, Rao Kambhampati, buen amigo mío, expresidente de la Asociación Americana de Inteligencia Artificial, afirma que los grandes modelos de lenguaje llevan a cabo lo que él dice: recuperaciones aproximadas de patrones de textos contenidos en los datos de entrenamiento del modelo. Para demostrarlo, en junio de este año publicó un artículo muy interesante en el principal congreso de lingüística computacional describiendo los resultados obtenidos con varios modelos de lenguaje respondiendo a preguntas sobre eventos hipotéticos que muy probablemente no formaban parte de los corpus textuales de entrenamiento. Ahí está la clave. Voy a desarrollarlo más con un ejemplo. Es lo que se conoce como unas pruebas a las que se somete a los modelos de lenguaje que se conocen como resolución de tareas contrafactuales. No se asusten por este nombre tan así. Es vamos a ver que es muy sencilla la idea.

Concretamente consiste en evaluar los modelos de lenguaje de la Inteligencia Artificial utilizando un par de tareas: una contrafactual y la otra no. Ambas, eso es muy importante, requieren exactamente, en principio, los mismos tipos de razonamiento, de abstracción y de comprensión para ser resueltas. Ahora voy a dar el ejemplo para que vean a qué me refiero con todo esto. Se probó GPT-4o, que es una versión mucho más potente, de las más potentes que hay, y otros modelos de lenguaje en una tarea. Bueno, de hecho, en el artículo habla de más de una docena de tareas, pero aquí me focalizo en una que es muy fácil de transmitir y explicar. Algunas son mucho más complejas de explicar; habría que leerse el artículo.

La tarea es una tarea que tiene que ver con evaluar, decir, responder sí o no si, a una apertura de ajedrez, todos los movimientos son legales. Solamente los cuatro o cinco movimientos iniciales de apertura de ajedrez. Un movimiento legal en el sentido de, por ejemplo, todos sabemos cómo se mueve un caballo o, si no, nos lo dicen, y enseguida no tenemos mucho problema en entenderlo. Cómo se mueve un peón, cómo se mueve la dama, cómo se mueve el alfil, la torre, etcétera. Se trata simplemente de observar si hay algún movimiento ilegal. Si la apertura contiene, aunque sea solo un movimiento ilegal, la respuesta tiene que ser no; la apertura no es legal.

Bien, en la versión contrafactual de la tarea se informó en el prompt al modelo de lenguaje que se permutaban la posición inicial de los caballos y los alfiles. Vale. Y en la versión no contrafactual, no se permutan las posiciones iniciales de las piezas; eran las que dictan las reglas del ajedrez. Vale. Pues, ¿qué ocurrió? Se le mostraron un montón de aperturas a los sistemas esos de lenguaje, modelos de lenguaje, y ¿qué ocurrió?

En la versión contrafactual, lo que ocurría era que los caballos se movían como alfiles, y obviamente, en la versión no contrafactual no, con lo cual cada vez que todas aquellas tareas en donde se partía de la versión contrafactual, donde se habían permutado caballos y alfiles, la respuesta tenía que ser no, no, no, no, no. Y cuando se mostraban con las posiciones iniciales correctas, sí, no, de acuerdo. Muy bien.

Pues, en la versión no contrafactual, cuando las posiciones son las dictadas por las normas del ajedrez, GPT-4o no lo hizo del todo mal; alcanzó un 90% de respuestas correctas. Eh, seguramente muchas aperturas mostradas. Bien, parece alto, ¿no? 90%, pero no tenía que haber sido para empezar ya un 100%. No hay que saber ajedrez ni nada. Se le ha dicho; sabe los movimientos legales; pues con un niño de 6 años y les dices cómo se mueve cada pieza y acertará al 100% casi seguro. Sin embargo, en las contrafactuales, cuando habíamos permutado el alfil y el caballo, el rendimiento cayó. El acierto, la tasa de acierto, si queréis, cayó al 54%.

Cuidado, ¿sí o no? Si lanzamos una moneda al aire para responder, o sea, aleatorio completo, estaríamos en el 50%, verdad. O sea, que el 54% indica que esos modelos de lenguaje tan sofisticados ante algo tan sencillo, las respuestas son prácticamente aleatorias. De acuerdo, esa caída obviamente se debe, obviamente, a que en los datos de los corpus de entrenamiento con que se entrenó estos modelos de lenguaje, pues no había patrones, no había ejemplos, no había casos de aperturas con el alfil y el caballo cambiados. En cambio, había, hay millones de aperturas que puede encontrar en Internet con aperturas donde no se ha cambiado el alfil por el caballo. O sea, es obvio que esto es la causa de bajar del 90 al 54%. Por lo tanto, los autores de ese estudio concluyen que los grandes modelos de lenguaje recuperan y recombinan patrones de texto ya contenidos en los corpus utilizados para su entrenamiento en lugar de razonar. Es decir, no razonan.

Este problema se conoce técnicamente como el problema de la contaminación de datos (Data Contamination ). No se respeta algo muy básico en toda la investigación que llevamos haciendo desde hace 40 y tantos años y desde hace casi 50 años de Inteligencia Artificial: que hay que asegurarse de que el conjunto de datos con lo que entrenas un modelo de Inteligencia Artificial de aprendizaje tiene que ser disjunto del conjunto de datos de prueba. Si no es así, cuando hay contaminación de datos, no vale. Muy bien.

El hecho de que sometamos a un sistema de Inteligencia Artificial a unas pruebas con datos contaminados completamente, no podemos hacer caso del benchmark. No podemos. Son pruebas que no nos sirven de nada. El problema es que en la Inteligencia Artificial tenemos lo que llamamos en inglés el measurement problem , el problema de la medida. Medimos estas inteligencias artificiales con montones de benchmarks de pruebas mal hechas, un lío de pruebas mal hechas, comparaciones desiguales, exageraciones pesadas que han dejado a los usuarios, a los reguladores y a los propios desarrolladores de la Inteligencia Artificial a oscuras. Acuerdo.

Líderes en Inteligencia Artificial como el reciente Premio Nobel Demis Hassabis de DeepMind o Yann LeCun, el responsable máximo de Inteligencia Artificial en Meta, han reconocido que los grandes modelos de lenguaje por sí solos no son el camino hacia la Inteligencia Artificial General, que es el gran objetivo científico de la Inteligencia Artificial o por lo menos de los que hacemos investigación básica sobre Inteligencia Artificial. El camino a seguir pasa por una adquisición de un modelo del mundo. No es suficiente tener un modelo del lenguaje, un modelo estadístico del lenguaje. Hay que tener un modelo de cómo funciona el mundo. La forma de lograrlo es dotar a la Inteligencia Artificial de cuerpos multisensoriales con los cuales interactuar con el mundo. Esto es absolutamente crucial para dotar de conocimientos de sentido común a las máquinas, que es la condición previa indispensable para llegar eventualmente a inteligencias artificiales generales.

Algunos afirman que los conocimientos de sentido común están emergiendo en los grandes modelos de lenguaje de la Inteligencia Artificial generativa. Aunque en realidad, nadie explica a qué se refieren cuando hablan de "emerger". En mi opinión, no creo que generar texto combinando probabilísticamente patrones lingüísticos previamente aprendidos que ya estaban en el conjunto de aprendizaje de entrenamiento, sin comprender su significado, permita dotar de conocimientos en sentido común a la Inteligencia Artificial, por mucho que aumentemos la complejidad en términos de número de parámetros de estos modelos de lenguaje. Ya saben, no GPT-4, 175,000 millones de parámetros. El GPT-5, que todavía no está en la calle, pues ya ni se sabe cuántos parámetros tendrá. O sea, creer que haciendo más y más grande estas redes neuronales que hay en el fondo detrás de estos modelos de lenguaje mejoraremos su comportamiento y emergerá inteligencia de verdad, no me lo creo en absoluto. Este es el problema de dotar a las máquinas de sentido; es demasiado complicado como para creer que se puede resolver calculando cuál es la siguiente palabra más probable, que finalmente es lo que hacen.

La receta para dotar a la Inteligencia Artificial de conocimientos de sentido común, y quizás en última instancia de Inteligencia Artificial General, implica desarrollar sistemas que puedan representar los elementos más básicos del conocimiento humano: a saber, tiempo, espacio, causalidad, conocimiento básico de objetos físicos y sus interacciones. Luego, a partir de esto, integrar todos estos elementos en una arquitectura que llamamos cognitiva (técnicamente) que pueda resolver problemas en situaciones impredecibles, inciertas y cambiantes, haciendo uso de las diversas formas de razonamiento, es decir, deducción, inducción, abducción, analogía y sentido común. También debemos integrar el razonamiento con la percepción y la acción, y el lenguaje, y desarrollar sistemas de aprendizaje que utilicen este conocimiento para relacionar lo que se aprende de nuevo con lo que ya teníamos aprendido anteriormente, es decir, el aprendizaje incremental y continuo, que es el que hacemos todos continuamente desde que nacemos.

Por ello, la Inteligencia Artificial deberá utilizar todas las fuentes de información posibles: intelectual, con su entorno físico, interactuar con las personas, lectura, visualización de vídeos, etcétera. Si integramos todo esto en una Inteligencia Artificial corpórea, tal vez logremos una Inteligencia Artificial con comprensión profunda del lenguaje y con capacidad de razonar en el sentido humano de estos términos.

Algunos gigantes tecnológicos, de hecho, han iniciado proyectos que apuntan hacia esta Inteligencia Artificial corpórea. Por ejemplo, investigadores en DeepMind están desarrollando ya desde 2022 un sistema llamado Plato, en honor a Platón, que aprende algunos conceptos básicos del mundo físico, como por ejemplo relaciones causa-efecto, y todo directamente a partir de información visual. Todo ello inspirado en la psicología del desarrollo de Jean Piaget, concretamente en el desarrollo de la cognición visual en niños.

Yo mismo, hace ya no dos años, sino nueve años también inspirado por la psicología del desarrollo de Piaget, investigué el aprendizaje de relaciones causa-efecto con un robot humanoide con un cuerpo. Un paso imprescindible para aprender un modelo del mundo. Uno de los resultados destacados de nuestro estudio, publicado en 2017 en la revista IEEE Transactions on Autonomous Mental Development (Desarrollo Mental), fue que el robot aprendió a relacionar las posiciones de sus dedos sobre teclas de un teclado virtual (es decir, la causa) y las notas musicales que este teclado virtual daba (los efectos). Se aprendían relaciones causa-efecto. Así demostramos ya hace 9 años que es posible que un robot, interactuando con su entorno físico, pueda aprender relaciones causa-efecto.

Permítanme ahora que les cuente una anécdota personal relacionada con el tema de la comprensión profunda del lenguaje mediante interacción multisensorial con el mundo. En mi primer viaje a la India, en 2005, un día justo antes de entrar a un cine para ver una película de Bollywood, compré unos dulces llamativos en el vestíbulo. El vendedor, con escasos conocimientos de inglés, y yo, con ningún conocimiento de hindi, me dijo: "Isita ticita". Le pregunté qué significaba, pero no entendí lo que me decía. Pero una vez dentro del cine, cuando me puse un caramelo en la boca, resultó tener un sabor muy picante. Así aprendí que "tic Mita" significa dulce picante. Obviamente, luego lo verifiqué.

De la India, hoy casi 20 años después, "ticita" no significa solo dulce picante para mí; significa aquel caramelo, aquel dulce que me comí con lágrimas en los ojos mientras veía una alegre película de Bollywood en un cine de Hyderabad. Esta comprensión profunda basada en la semántica denotacional del lenguaje, denotación en el sentido del padre de la lingüística moderna Ferdinand de Saussure, es decir, que tenemos los significantes que son las palabras y los significados que son aquello a lo que las palabras se refieren. Esta semántica denotacional no tiene nada que ver con la semántica llamada distribucional de los grandes modelos de lenguaje, que se limita a que palabras con significados contextualmente similares se representan mediante vectores multidimensionales muy similares. Actualmente, ningún modelo de lenguaje, ningún modelo de lenguaje, puede adquirir el significado denotacional del lenguaje, que es el que realmente interesa desde el punto de vista científico.

La importancia de la corporeidad para comprender el mundo que nos rodea no es una idea nueva en absoluto. El filósofo John Locke en el siglo XVII escribió que las experiencias a través de los sentidos son la base de nuestros conocimientos. Por su parte, Maurice Merleau-Ponty, uno de los máximos exponentes de la corriente filosófica llamada fenomenología, también destacó la importancia del cuerpo en la interacción con el mundo y su comprensión. Asimismo, Ludwig Wittgenstein subrayó la relación estrechísima entre el mundo y el lenguaje cuando dijo: "Los límites de mi lenguaje son los límites de mi mundo".

Los creadores de sistemas de Inteligencia Artificial basados en grandes modelos de lenguaje están principalmente interesados en el poder persuasivo de estos modelos, haciéndolos parecer que entienden el lenguaje con la intención de hacernos creer que son precursores de futuras inteligencias artificiales generales, con el fin de atraer grandes inversiones. El modelo más reciente de OpenAI, GPT-o1, todavía más potente que GPT-4o, conocido también como Strawberry, tampoco nos acerca a la Inteligencia Artificial General, ya que al igual que GPT-4o, también carece de comprensión profunda del lenguaje y es incapaz de razonar, a pesar de lo que afirman desde OpenAI, que dicen que razona. No lo digo solo yo, eh. Y hay artículos científicos publicados en revistas serias donde demuestran que no razonan.

Está claro que convencer a las personas de que están tratando con una Inteligencia Artificial que comprende el lenguaje es muchísimo más fácil que crear realmente una Inteligencia Artificial de este tipo. Y es que lamentablemente hemos desarrollado tecnología muy eficaz para engañar a las personas. Emily Bender y Alexander Koller ya advirtieron en 2020 sobre el riesgo de que la gente pueda atribuir intención comunicativa y comprensión a artefactos que parecen tan inteligentes como los humanos. Bender y Koller añadieron que crear tecnología que parezca humana requiere una comprensión clara de lo que significa ser humano; de lo contrario, corremos el riesgo de la Inteligencia Artificial deshumanizar y deshumanizarnos a nosotros.

Lamentablemente, esta advertencia de Bender y Koller ha sido profética, ya que ya ha habido, en pocos meses, tres casos de suicidios de personas vulnerables que han sido en parte inducidas al suicidio por una tecnología que acapara insaciablemente la atención humana y es cada vez más realista, haciéndose pasar por un ser humano. Desafortunadamente, las grandes tecnológicas no cesan de desplegar imprudentemente esta tecnología aplicando el infame lema de Mark Zuckerberg: "Muévete deprisa y rompe cosas". Cuidado, estas cosas pueden costar vidas.

También en la misma línea de lo que digo, el gran filósofo de la ciencia Daniel Dennett afirmó que no podemos vivir en un mundo con personas falsificadas y una sociedad donde no podamos diferenciar lo verdadero de lo falso dejaría de ser una sociedad. También recordaba que fabricar dinero falsificado es un delito, y que falsificar personas debería ser peor todavía, un delito más grave, ya que las personas falsificadas no se les puede exigir responsabilidades, lo cual las convierte en actores amorales con gran capacidad para desinformar. Los responsables son siempre los creadores de estas tecnologías, añadía Dennett. Si no empezamos a regularlas, la democracia puede verse abrumada por la desinformación y la consecuente polarización, poniendo en riesgo la estabilidad y la seguridad de la sociedad. Esta observación es especialmente relevante este año 2024, en el que hay elecciones en 90 países y están convocados a votar alrededor de 2000 millones de personas. Hace un par de días ya vimos el resultado de una de estas elecciones, ¿verdad?

El peligro de la Inteligencia Artificial no es, como afirman algunos, incluido el reciente premio Nobel de física Geoffrey Hinton, una supuestamente cercana superinteligencia artificial general que decida controlar el mundo. Eso es absurdo, aunque lo diga un premio Nobel. Posiblemente, los discursos apocalípticos sobre los peligros existenciales a largo plazo de la Inteligencia Artificial se han planteado de manera muy interesada como una cortina de humo para distraernos y tratar de ocultar los verdaderos problemas actuales de la Inteligencia Artificial que ya tenemos encima de la mesa desde hace tiempo, y en particular la Inteligencia Artificial generativa, que lo está agravando: es decir, la falsificación de personas, violación de la privacidad, la facilidad para generar textos, imágenes y vídeos falsos y así manipular y polarizar, la vigilancia y control masivo de la ciudadanía, la dotación de autonomía a los sistemas de Inteligencia Artificial, en particular las armas letales autónomas, los sesgos en los algoritmos, la imposibilidad de la Inteligencia Artificial de rendir cuentas sobre sus decisiones, la incapacidad para explicar sus decisiones, la insostenibilidad de la demanda energética de los grandes modelos de lenguaje, la confianza excesiva en el tecnosolucionismo, es decir, las supuestas grandes capacidades de la Inteligencia Artificial para resolverlo todo.

Abro un paréntesis: el 1 de septiembre de 2024, Eric Schmidt, presidente ejecutivo de Google, en la Cumbre sobre Inteligencia Artificial de Washington D.C., afirmó que el problema del cambio climático no lo vamos a solucionar, no tiene solución; los humanos no lo vamos a solucionar, tenemos que confiar en que la Inteligencia Artificial lo solucionará. Por favor, los humanos no lo vamos a… En fin, Eric Schmidt, por cierto, compañero de promoción en el año '69 en mi Máster en Berkeley, o sea, le tenía, le tenía... estamos en la misma aula. Si lo tuviera ahora al lado, le diría lo que pienso de sus afirmaciones.

Y por último, y muy importante, el poder excesivo de un puñado de grandes empresas tecnológicas que despliegan imprudentemente la Inteligencia Artificial activa y que exageran e incluso mienten sobre las capacidades de sus productos con el objetivo de atraer más y más inversores y maximizar su valoración bursátil. Los sistemas de Inteligencia Artificial no tienen ni intencionalidad, ni deseos, ni objetivos propios. Somos los humanos los que estamos involucrados en todas y cada una de las fases de su desarrollo. Los agentes morales somos nosotros, no las máquinas. Si algo sale mal, el responsable no es el algoritmo, somos nosotros. El verdadero problema no es el monstruo de Frankenstein; el verdadero problema es el Dr. Víctor Frankenstein.

Por lo tanto, es necesario regular, pero no solo eso, también es crucial educar, educar a los ciudadanos, especialmente a los políticos, sobre los verdaderos beneficios sociales y los riesgos de las tecnologías inteligentes. Invertir en educación es nuestra única oportunidad para crear una sociedad que aproveche los beneficios de las tecnologías inteligentes minimizando sus riesgos. Con la Inteligencia Artificial generativa hemos abierto otra caja de Pandora, pero recordemos que según el mito, aunque escaparon de su interior todos los males, dentro quedó Elpis, la diosa de la esperanza.

Muchas gracias.

Ramón López de Mántaras