De la importancia de tener un buen marco epistemológico y una teoría de la inteligencia antes de hablar de IA

Este texto es una reflexión filosófica, no un artículo de investigación, y hay que tomarlo por lo que es: una nota preliminar a toda reflexión sobre la «inteligencia artificial», sobre el trabajo que debe hacerse antes de hablar de ella. Reformula un artículo anterior que yo había escrito en un tono demasiado polémico, y cuyo fondo me sigue pareciendo justo, mientras que la forma no lo era. He conservado las distinciones y retirado los golpes.

Hay una razón más general para escribir estas páginas, y va más allá de la IA. No se puede hacer ciencia sin haber hecho un poco de historia de la filosofía, de historia de las ciencias y de epistemología. No mucho, y no como especialista; lo bastante para saber que las preguntas que uno se plantea ya han sido planteadas, que las palabras que se emplean tienen una historia que las carga, y que las nociones que se tienen por evidentes (causa, ley, explicación, observación, modelo, inteligencia) fueron campos de batalla antes de convertirse en herramientas. Quien ignora esto no hace ciencia sin filosofía, como cree. Hace metafísica sin saberlo, es decir, mal, tomando prestadas del aire de los tiempos tesis sobre lo que existe y sobre lo que cuenta como prueba, tesis que nunca ha examinado y que no sabría defender si se las mostraran. El ingeniero que dice «no son más que cálculos» retoma, sin saberlo, el argumento que Leibniz oponía a Hobbes, para quien razonar no era otra cosa que calcular, e ignora que la cuestión se disputa desde hace tres siglos. El investigador que dice «el modelo comprende» retoma sin saberlo una tesis sobre la relación entre comportamiento y mente que el conductismo defendió y que Chomsky demolió en Skinner, y no ha leído ni al uno ni al otro.

La historia de las ciencias enseña la misma lección con el ejemplo. Los grandes avances han exigido casi siempre que se cuestionara lo que los contemporáneos tenían por demasiado evidente para ser discutido: la simultaneidad para Einstein, la separabilidad de las propiedades para la mecánica cuántica, la fijeza de las especies para Darwin. En cada caso, el progreso no consistió en acumular resultados dentro de un marco, sino en ver que el propio marco contenía una hipótesis, y en formularla. Ese gesto no es científico en sentido estricto; es epistemológico, y quienes lo hicieron tenían todos una cultura filosófica que no consideraban accesoria. Un campo que se jacta de no hacer filosofía no se ha liberado de ella. Solo ha dejado de ver la suya.

Por eso lo primero que hay que hacer ante la IA no es medirla, es saber con qué palabras y con qué presuposiciones uno se dispone a medirla. El resto de este texto es ese trabajo previo, hecho una vez para poder luego prescindir de él.

Las preguntas «¿piensa la IA?» y «¿es la IA realmente inteligente?» me parecen mal situadas, y es precisamente eso lo que las hace interesantes. Mal situadas porque se plantean como preguntas de ciencia, a las que se esperaría que los laboratorios respondieran algún día con un resultado, cuando no lo son. Una pregunta científica tiene una forma: se sabe qué contaría como respuesta, y se puede ir a buscarla. Estas no tienen esa forma. Ninguna medida, ningún benchmark, ninguna arquitectura las responderá, porque lo que se pregunta no es un hecho sobre la máquina sino una decisión sobre lo que llamamos pensar, y esa decisión precede a toda medida. Pertenece a la filosofía de la mente, que es una disciplina respetable y sin resultados que los laboratorios puedan producir, y no a las ciencias de la ingeniería, que tienen resultados y no tienen nada que decir al respecto.

Interesantes, porque tocan lo que somos y obligan, por primera vez, a decirlo con precisión, a falta de lo cual ya no se puede distinguir lo que nosotros hacemos de lo que hacen estos sistemas. Y sin lugar en las ciencias, porque la ciencia no zanja lo que no ha definido, y tiene cosas mejores que hacer que arbitrar entre Descartes y Aristóteles con curvas de aprendizaje.

Debo decir que, como practicante, mi pragmatismo pasa deliberadamente por encima de todo esto, y con cierto alivio. Para construir, evaluar, enseñar o criticar estos sistemas, no necesito saber ni si piensan ni si comprenden. Necesito saber lo que hacen, en qué condiciones lo hacen mal, y a quién imputar lo que producen. Estas tres preguntas son empíricas, tienen respuestas, y ocupan holgadamente una vida de investigación. Lo que sigue no es, por tanto, un alegato para que los informáticos se vuelvan filósofos. Es un alegato para que sepan, cuando emplean la palabra «inteligencia», a qué pregunta responden, y para que dejen de pretender responder a la otra.

No me gusta el término «inteligencia artificial»

Antes que nada, una declaración de desconfianza hacia el vocabulario. No me gusta la expresión «inteligencia artificial», y no por coquetería: cada vez que la encuentro en un texto serio, constato que desempeña en él uno de tres oficios, y ninguno de los tres es un oficio de conocimiento.

O bien la expresión no quiere decir nada. Es el caso cuando «inteligencia» no está definida, lo que ocurre casi siempre. El término aparece en la propuesta de McCarthy, Minsky, Rochester y Shannon del 31 de agosto de 1955 para el seminario de Dartmouth, y McCarthy explicó más tarde que lo había elegido para dar nombre a un programa de investigación distinto de la cibernética de Wiener. La propuesta misma no define la inteligencia; plantea la conjetura de que cada uno de sus aspectos puede describirse con la precisión suficiente para que una máquina lo simule. No es una tesis sobre la naturaleza de lo que se iba a construir, es una apuesta sobre un método. Setenta años después, el campo sigue sin tener una definición de la inteligencia que suscite consenso, y el manual de referencia de Russell y Norvig, en su tercera edición, se abría con un cuadro de ocho definiciones concurrentes antes de elegir la más cómoda. Un término técnico sin definición no es un término técnico. Es una etiqueta, y de una etiqueta no se extrae ninguna consecuencia.

O bien la expresión no explica nada. Es el caso cuando «inteligencia» designa por comodidad el conjunto de las cosas que hacen los sistemas a los que llamamos inteligentes. Se dice entonces que un programa juega al ajedrez gracias a su inteligencia, como Molière hacía dormir por la virtud dormitiva. El término nombra el efecto y lo hace pasar por una causa. Lo que explica que un programa juegue al ajedrez es una función de evaluación, un algoritmo de búsqueda, una base de datos de aperturas; lo que explica que un modelo de lenguaje traduzca es una arquitectura, un corpus, un objetivo de entrenamiento. «Inteligencia» no añade nada a estas explicaciones y, peor aún, las enmascara, porque sugiere que hay algo más detrás de ellas, algo que sería la inteligencia propiamente dicha, y de lo que nunca se dirá qué es.

O bien la expresión es una tautología. Es el caso cada vez que se la define por su uso. «La inteligencia artificial es lo que hacen los investigadores en inteligencia artificial.» «Un sistema es inteligente si se comporta de manera inteligente.» «La IA consiste en hacer que las máquinas hagan lo que requiere inteligencia cuando lo hace un humano.» Esta última fórmula, que es la de Minsky en la introducción de Semantic Information Processing (1968), tiene aire de definición y no lo es, puesto que remite a una inteligencia humana que no define más. Tiene además un defecto conocido, que se llama el teorema de Tesler, formulado por Larry Tesler en los años setenta y popularizado por Hofstadter: «la IA es todo lo que aún no se ha hecho», porque en cuanto una cosa la hace una máquina, se deja de decir que requería inteligencia. El reconocimiento de caracteres, la búsqueda de itinerarios, la compresión de imágenes eran inteligencia artificial; ahora son funciones del teléfono. Un término cuya extensión se vacía a medida que tiene éxito no designa nada estable.

Este triple defecto no es anodino. Explica por qué la conversación pública sobre estos sistemas es tan pobre: no se puede razonar correctamente con un término que, según el momento, no dice nada, nombra un efecto como si fuera una causa, o gira en círculo. En cambio, sí se puede hablar con precisión de lo que estos sistemas son y hacen, a condición de nombrarlos por lo que son. Un modelo de lenguaje es un modelo estadístico de secuencias de texto, entrenado para predecir la continuación de un contexto. Una red neuronal convolucional es un filtro aprendido. Un sistema de recomendación es una factorización de matrices. Estos nombres venden menos. Tienen la ventaja de decir algo, y de permitir después la única pregunta que vale la pena, que es la de saber si lo que estos objetos hacen merece, en un sentido que habrá que precisar, el nombre de inteligencia.

Emplearé, pues, la sigla «IA» en lo que sigue, porque se ha convertido en el nombre común de estos sistemas y sería pedante rechazarla. Pero la empleo como se emplean «rayos X» o «agujero negro», como un nombre propio cuya etimología no debe tomarse por una descripción. Todo el artículo es un intento de decir qué habría que tener resuelto para que la etimología volviera a ser una descripción.

El debate da vueltas en círculo porque empieza en el lugar equivocado

Estas dos preguntas no tienen respuesta mientras no se haya dicho qué se entiende por pensar y por inteligente, ni cómo se procedería para saberlo. No es una precaución de filósofo. Es la razón por la que diez años de debates públicos sobre la inteligencia artificial han producido mucho ruido y casi ninguna conclusión compartida.

El esquema es siempre el mismo. Un sistema hace algo que se tenía por reservado a la mente humana: jugar al ajedrez, traducir, escribir un soneto, aprobar un examen de medicina. Una mitad de los comentaristas concluye que la máquina piensa. La otra mitad desplaza el criterio: no era eso pensar, era otra cosa, que sigue fuera de alcance. Luego la máquina hace esa otra cosa, y el criterio se mueve de nuevo. Ninguno de los dos bandos se equivoca sobre los hechos. Los dos se equivocan sobre el método, porque primero juzgan y después definen.

La tesis de este artículo es simple. Antes de decir lo que sea sobre la inteligencia de una máquina, hay que haber resuelto dos cosas: una teoría de la inteligencia, es decir, lo que se considera constitutivo del hecho de pensar, y un marco epistemológico, es decir, lo que se acepta como prueba de que esa cosa está presente o ausente. Quien no ha hecho este trabajo no habla de la IA. Habla de sus propias reacciones ante la IA, y las viste de juicios.

Este trabajo no exige estar de acuerdo en el fondo. Un dualista y un fisicalista nunca se pondrán de acuerdo sobre qué es la mente. Pero si cada uno ha fijado sus criterios antes de mirar la máquina, podrán al menos decir con precisión en qué divergen, y constatar que la máquina, en general, no dirime su desacuerdo. Esta constatación vale más que la ilusión inversa, que es la de que los progresos técnicos van a zanjar una cuestión que nadie ha formulado.

«Inteligencia» no es una palabra unívoca

El primer obstáculo es léxico, y es más grave de lo que parece. La palabra «inteligencia» abarca al menos tres cosas que la tradición filosófica siempre se ha preocupado por distinguir, y que el vocabulario corriente confunde.

Está primero la inteligencia en sentido funcional: la capacidad de un sistema para alcanzar fines en un entorno, para resolver problemas, para adaptarse. En este sentido, un termostato es un poco inteligente, un perro lo es más, un programa de ajedrez lo es mucho en un dominio estrecho. Es el sentido que la informática adoptó en 1955 cuando McCarthy acuñó la expresión «inteligencia artificial», y es un sentido honesto mientras se lo mantenga en su lugar. No dice nada de lo que ocurre en el interior del sistema. Describe un comportamiento.

Está después la inteligencia en el sentido del razonamiento discursivo: encadenar inferencias, pasar de una proposición a otra según reglas, descomponer un problema y recomponer una solución. En vocabulario contemporáneo, es la parte sintáctica del pensamiento, la que opera sobre la forma de las representaciones sin necesitar su contenido, y es la que la lógica, y luego la informática, han ido mecanizando progresivamente. Que una máquina razone en este sentido ya no es discutible desde Frege y Turing. La única cuestión es saber si lo hace en sentido propio o en sentido derivado, y esa cuestión remite al tercer sentido.

Está por último la inteligencia en el sentido de la comprensión propiamente dicha: captar lo que una cosa es, formar un concepto que valga para todos los casos y no solo para los encontrados, apuntar a un sentido y no solo manipular signos. Es la parte semántica, y es el sentido fuerte, el que compromete la cuestión de la intencionalidad, de la conciencia y de la verdad. Searle fijó el vocabulario corriente al distinguir la intencionalidad original, la de una mente cuyos estados versan sobre algo por sí mismos, de la intencionalidad derivada, la de un texto o un programa cuyos estados solo versan sobre algo porque una mente los interpreta; Dennett discute que la distinción se sostenga, pero emplea las mismas palabras. Los filósofos han nombrado esta parte de diversas maneras según las épocas, intelecto, entendimiento, comprensión semántica, pero es de ella de la que hablan Aristóteles, Descartes, Kant, Searle o Chalmers cuando preguntan qué es pensar. Y es de ella, en general, de la que la gente quiere hablar cuando pregunta si la IA «piensa de verdad».

La confusión entre estos tres sentidos produce sofismas simétricos. El primero consiste en constatar la inteligencia funcional de un sistema y concluir de ello su intelecto: la máquina resuelve problemas, luego comprende. El segundo consiste en negar el intelecto de un sistema y concluir de ello que no es inteligente en ningún sentido: la máquina no comprende, luego no hace nada inteligente, no es más que un loro. Los dos razonamientos pasan de un sentido a otro sin señalarlo.

La filosofía tiene desde hace mucho una herramienta para esto, la analogía, que se encuentra en Aristóteles y que los medievales sistematizaron. (Los «parecidos de familia» de Wittgenstein son otra cosa: semejanzas que se entrecruzan sin término de referencia.) Decir que un perro es inteligente, que una solución es inteligente, que un hombre es inteligente, no es emplear la palabra tres veces en el mismo sentido ni en tres sentidos sin relación. Es emplearla según una proporción, y en relación con un término de referencia único, la inteligencia humana, del que los demás usos toman su sentido: hay en cada caso algo que desempeña, en su nivel, el papel que la comprensión desempeña en el hombre. Los tres sentidos distinguidos más arriba no están, pues, yuxtapuestos; se ordenan a partir de la comprensión. Esta herramienta permite decir sin contradicción que un modelo de lenguaje es inteligente en sentido funcional, que razona al menos por imitación, y que sigue abierta la cuestión de si comprende algo en sentido fuerte. Sin esta herramienta, uno está condenado a uno de los dos sofismas.

Hay que añadir que la inflación del vocabulario no es inocente. «Inteligencia artificial» vende más que «tratamiento estadístico de secuencias». «El modelo comprende su pregunta» vende más que «el modelo produce una distribución sobre los tokens siguientes». Quienes emplean el sentido fuerte para describir hechos del sentido débil tienen a menudo interés en hacerlo, y quienes reaccionan negando el sentido débil tienen a menudo interés en no ver lo que la máquina hace realmente. En ambos casos, la ausencia de distinción léxica sirve a algo, y ese algo no es el conocimiento.

Siempre se tiene un marco, incluso cuando se cree no tener ninguno

Un marco epistemológico es el conjunto de lo que se acepta como prueba. Para una pregunta como «¿piensa este sistema?», hay que haber respondido como mínimo a tres cosas: qué hechos cuentan, qué peso darles, y qué haría cambiar de opinión.

La primera ilusión que hay que disipar es la de la mirada neutra. Nadie observa una máquina sin marco. Quien dice «yo solo miro lo que hace» ya ha decidido que el comportamiento es el único dato pertinente, lo cual es una posición filosófica, el conductismo, y una posición que casi nadie defiende ya con pleno conocimiento de causa. Quien dice «no se puede saber lo que siente» ya ha decidido que lo sentido es el criterio y que es inaccesible, lo cual es otra posición, y que también tiene sus dificultades. Quien dice «no son más que cálculos» ha decidido que el cálculo excluye el pensamiento, sin preguntarse si el cerebro no calcula también. El marco está ahí en cada caso; simplemente está implícito, y por tanto sustraído al examen.

Un marco implícito tiene dos defectos. El primero es que no puede ser criticado, puesto que no está enunciado. El segundo, más grave, es que puede cambiar sin que su portador se dé cuenta. Es lo que ocurre cuando los criterios de la inteligencia retroceden a medida que las máquinas avanzan: el marco se ha movido, pero como no estaba escrito en ninguna parte, quien lo porta cree sinceramente no haber cambiado nunca de opinión.

El trabajo de explicitación consiste en responder por escrito, antes de mirar la máquina, a las tres preguntas. Qué hechos cuentan: ¿el comportamiento solo, o también la arquitectura, la historia causal del sistema, la naturaleza de su sustrato? Qué peso: ¿basta un comportamiento indiscernible del humano, o no es más que un indicio? Y sobre todo, qué haría cambiar de opinión: ¿qué observación, si se produjera, me obligaría a revisar? Esta última pregunta es la más importante, y es la que casi nadie se plantea. Un marco que no la responde no es un marco, es un estado de ánimo.

Hay que ser honesto sobre una dificultad. Para la cuestión del intelecto en sentido fuerte, no es seguro que exista una observación exterior que pueda zanjarla. Si comprender es algo distinto de comportarse como alguien que comprende, entonces ningún comportamiento prueba la comprensión, y se vuelve a caer en el argumento de la habitación china de Searle, que tiene más de cuarenta años y nunca ha sido refutado de manera convincente, pero que tampoco ha convencido nunca a quienes no compartían ya su conclusión. Un marco honesto debe decir qué hace con esta dificultad: o bien admite que la cuestión del sentido fuerte está fuera del alcance empírico y se atiene al sentido funcional; o bien reivindica una fuente de conocimiento distinta de la observación exterior, la introspección por ejemplo, y debe entonces decir por qué esa fuente vale para él y no para la máquina.

Este punto merece subrayarse porque es la fuente de la mayoría de los malentendidos. Cuando dos personas discuten sobre la inteligencia de un modelo de lenguaje, creen en general que discuten sobre el modelo. En realidad discuten casi siempre sobre lo que cuenta como prueba, y ese desacuerdo ya estaba presente antes de que existiera la máquina. La IA no ha creado el problema; lo ha hecho imposible de ignorar.

Cinco marcos, cinco predicciones

Para mostrar lo que cambia un marco explícito, basta con tomar algunos que se defienden realmente hoy y mirar lo que cada uno dice de la IA antes de haberla mirado. Los presento sin zanjar entre ellos; lo que importa es que dan respuestas diferentes y previsibles, y que esa previsibilidad es precisamente lo que aporta un marco.

El funcionalismo. Pensar es ocupar cierto papel funcional: recibir entradas, transformarlas según una organización de cierto tipo, producir salidas, todo ello con independencia del sustrato que realiza esa organización. Este marco lo formuló Putnam en 1967 en «The Nature of Mental States» y es, de hecho, el marco implícito de la mayor parte de la informática. Su predicción sobre la IA es clara: si un sistema realiza la organización funcional adecuada, piensa, sea cual sea la materia de la que está hecho. El criterio es el comportamiento, tomado en un sentido amplio que incluye la estructura interna del procesamiento. La dificultad del funcionalismo se conoce desde el origen, y el propio Putnam acabó abandonando la posición en 1988 en Representation and Reality: debe decir qué organización es «la adecuada», y nunca ha podido hacerlo sin circularidad. Se reconoce la organización adecuada en que produce pensamiento, y se reconoce el pensamiento en que procede de la organización adecuada. Block mostró ya en 1978, con el argumento de la nación china, que cualquier organización funcional puede ser realizada por un dispositivo del que nadie diría que piensa. Ante un modelo de lenguaje, el funcionalista está, pues, en una posición incómoda: su marco le dice que la cuestión está abierta, y no tiene criterio para cerrarla.

El fisicalismo reduccionista. Pensar es un proceso físico, en este caso cerebral. El pensamiento no es una organización abstracta sino una actividad concreta de cierto tipo de materia organizada de cierta manera. Este marco predice, según sus variantes, dos cosas opuestas. Una variante sostiene que solo el sustrato biológico produce el pensamiento, en cuyo caso ninguna máquina pensará, sea cual sea su rendimiento; es el naturalismo biológico de Searle, que se dice fisicalista a la vez que rechaza el funcionalismo, y que nunca ha podido decir qué tiene el cerebro que no tenga el silicio, salvo que produce pensamiento. La otra variante sostiene que el sustrato importa poco con tal de que se realicen los mismos procesos causales, y se une entonces al funcionalismo por otro camino, con las mismas dificultades. El fisicalismo tiene una fuerza: versa sobre lo que es, no sobre lo que aparece. Y una debilidad estructural: no tiene respuesta al problema de saber por qué un proceso físico va acompañado de una experiencia vivida, lo que Chalmers llamó en 1995 el problema difícil, y tampoco tiene una respuesta que suscite consenso al argumento de la indeterminación que Kripke extrajo de Wittgenstein en 1982, según el cual ningún hecho físico sobre un sistema fija cuál de varios contenidos incompatibles representa ese sistema. Su mejor réplica pasa por las teorías naturalistas del contenido, las de Dretske, Fodor o Millikan, que intentan fijar el contenido mediante relaciones causales o mediante la historia de las funciones; ninguna ha logrado la adhesión general, pero la objeción no ha quedado sin respuesta. Ante la IA, el fisicalista es el más expuesto a ver moverse sus criterios, porque su marco no le dice de antemano qué es, en el proceso físico, lo esencial para el pensamiento.

El dualismo, en sus formas clásicas y contemporáneas. Pensar, en sentido fuerte, es el acto de algo que no es reducible a un proceso físico: una sustancia distinta del cuerpo en Descartes, una propiedad no física en los dualistas de propiedades como Chalmers, una facultad inmaterial en Aristóteles. El argumento de este último parte del objeto del pensamiento: el intelecto capta lo universal, lo que es el triángulo y no tal triángulo, mientras que una facultad material solo recibe las formas en su particularidad; la facultad que capta lo universal no es, por tanto, material. Se encuentra una versión contemporánea en quienes parten del argumento de la indeterminación de Kripke (1982), del que Boghossian (1989) dio la discusión de referencia, y le dan la vuelta: si ningún estado físico fija un contenido determinado, y si algunos de nuestros pensamientos tienen un contenido determinado (la suma, el modus ponens, el hecho de pensar que dos más dos son cuatro y nada más), entonces esos pensamientos no son estados físicos. Las variantes difieren sobre qué es no físico y por qué, pero convergen en la predicción: ninguna máquina tendrá el pensamiento en sentido fuerte, sea cual sea su rendimiento, porque el rendimiento depende de la inteligencia funcional y de la imitación del razonamiento, no de la comprensión. Lo que una máquina produce con sentido, lo produce con una intencionalidad derivada: la razón de ser de sus salidas está en quienes la construyeron, la entrenaron y la interrogaron, como el termómetro de Dretske indica la temperatura sin saber nada de ella. La fuerza de este marco es que se planteó mucho antes de la primera máquina y que no necesita moverse; su premisa decisiva, que el intelecto capta lo universal y que el pensamiento tiene un contenido determinado, es la que sus adversarios niegan, y se verá más abajo que ese desacuerdo no está zanjado. Su verdadera debilidad está en otra parte: dice lo que la máquina no es, pero nada de su acción propia, de lo que hace en cuanto instrumento y que ningún otro instrumento hace. Esa cuestión la remite a la ciencia, la única que puede responderla.

El enactivismo y las teorías de la cognición encarnada. Pensar es la actividad de un organismo vivo que mantiene su existencia en un medio, y el sentido nace de esa relación vital antes de todo procesamiento simbólico. Varela, Thompson y Rosch fijaron la línea en 1991 en The Embodied Mind; Noë y Thompson la prolongaron. Su predicción es que los modelos de lenguaje, que no tienen ni cuerpo, ni medio, ni interés propio en su mantenimiento, producen texto sin sentido para ellos, sea cual sea su calidad. A diferencia del dualismo, este marco deja una puerta abierta: un sistema artificial que fuera autónomo, encarnado y sometido a una precariedad real podría, en principio, satisfacer sus criterios. Su debilidad es no decir claramente qué es, en la vida, lo necesario para el sentido, y por tanto arriesgarse a redefinir la vida a posteriori según lo que las máquinas aún no hacen; el criterio «tener un interés propio en su mantenimiento» es él mismo una noción teleológica que el marco toma prestada sin fundamentarla.

El panpsiquismo y las teorías de la información integrada. La experiencia no la producen ciertas organizaciones, sino que está presente, en grados diversos, en toda organización física, y lo que varía es su grado de integración. Goff y Strawson para la versión filosófica, Tononi para la versión formal con la teoría de la información integrada. La predicción es la más abierta de todas: la cuestión no es saber si una máquina tiene una experiencia, sino cuánta, y la respuesta depende de su arquitectura, no de su comportamiento. Un modelo de lenguaje de propagación hacia delante, sin bucle de retroalimentación, tendría según Tononi una integración nula a pesar de su rendimiento. Este marco tiene la ventaja de dar un criterio independiente del comportamiento. Su debilidad es que ese criterio se discute hasta en su mensurabilidad, que una carta abierta de más de cien investigadores calificó la teoría de pseudociencia en 2023, y que la tesis de fondo, la ubicuidad de la experiencia, es considerada ininteligible por muchos: explica cómo se combina la experiencia afirmando que está en todas partes, lo que desplaza el problema sin resolverlo.

Lo que muestra esta comparación no es que un marco sea el bueno. Es que los cinco dan, para el mismo objeto, veredictos diferentes, y que cada veredicto se sigue de premisas planteadas antes de la observación. El funcionalista dirá «quizá, y no tengo el medio de saberlo». El fisicalista dirá «depende de qué es lo esencial en el proceso, y todavía no lo sé». El dualista dirá «no, por naturaleza, y he aquí por qué». El enactivista dirá «no, esta no, pero otra podría». El panpsiquista dirá «un poco, y he aquí cómo medirlo». Ninguno de los cinco queda refutado por lo que hacen los modelos de lenguaje en 2026. Quien no tiene marco cree que los modelos de 2026 zanjan la cuestión; se equivoca, y se equivocará de nuevo con los modelos de 2030.

Cómo se reconoce la ausencia de marco

La ausencia de marco no se señala por el silencio. Se señala por síntomas reconocibles, y es útil nombrarlos, porque son frecuentes en personas por lo demás competentes.

El primer síntoma es el criterio retroactivo. Se observa lo que la máquina todavía no hace, y se convierte en la marca de la inteligencia verdadera. En 1997 era el ajedrez; una vez superado Deep Blue, ya no era el ajedrez, era el go, que exigía intuición. En 2016 ya no era el go, era el lenguaje. En 2023 ya no era el lenguaje, era el razonamiento, o la creatividad, o la comprensión del mundo físico. Cada criterio era sincero en el momento en que se planteaba. Ninguno se había planteado antes de que cayera el anterior. Un criterio fabricado después de la derrota del anterior no es un criterio; es una línea de repliegue.

El segundo síntoma es la oscilación. La misma persona, según el día y el ejemplo que se le muestre, dice que el modelo «no es más que un loro estocástico» y que «comprende manifiestamente lo que se le pide». Los dos enunciados no son compatibles, y su alternancia muestra que el juicio sigue la impresión del momento más que un principio. La oscilación es el signo de un marco que no existe, o que no ha sido escrito.

El tercer síntoma es el test de Turing móvil. Turing propuso en 1950 un criterio explícito, conductual y falsable: si un interrogador no puede distinguir la máquina del humano, diremos que piensa. Se puede discutir este criterio, y muchos lo han hecho, pero era un criterio. Lo que se observa desde que hay sistemas que lo superan más o menos es que casi nadie acepta la conclusión, y que casi nadie tampoco dice explícitamente que abandona el criterio. Se lo modifica en silencio: hacía falta un interrogador experto, una duración más larga, preguntas sobre la experiencia vivida. Cada uno de estos añadidos es defendible. Ninguno se anunció antes de que el test fuera superado.

El cuarto síntoma es el argumento del sustrato invocado a demanda. «No son más que multiplicaciones de matrices» es una descripción exacta de un modelo de lenguaje. «No son más que intercambios iónicos a través de membranas» es una descripción exacta de un cerebro. Quien tiene el primer enunciado por una refutación del pensamiento y el segundo por una descripción neutra debe explicar la diferencia. Si no puede, no tiene un argumento, tiene una preferencia.

El quinto síntoma, por último, es el inverso de los anteriores: la generosidad sin criterio. Se atribuye al sistema comprensión, intenciones, emociones, porque su texto tiene la forma de ellas. Es el mismo defecto en el otro sentido. El texto producido tiene la forma de la comprensión porque se produce a partir de textos que tenían esa forma; eso no dice nada, ni en un sentido ni en otro, sobre lo que ocurre en el sistema. Quien concluye la comprensión sobre esa base no tiene más marco que quien concluye su ausencia sobre la base de las matrices.

Estos cinco síntomas tienen una causa común. En cada caso, el juicio se forma antes que el criterio, y el criterio se reconstruye para justificar el juicio. Es lo contrario de lo que hace un marco, cuya función es precisamente fijar el criterio antes de que uno sienta la tentación de juzgar.

Lo que debe proporcionar un buen marco

Un marco no necesita ser verdadero para ser útil a la discusión. Necesita cumplir cuatro funciones, y un marco que las cumple vale más, para pensar la IA, que una intuición acertada pero no formulada.

La primera función es proporcionar criterios anteriores a los hechos. Antes de mirar un sistema, el marco dice qué habría que observar para concluir en un sentido o en otro. Esto supone una teoría de la inteligencia lo bastante precisa como para engendrar criterios, y es ahí donde fracasan la mayoría de los marcos implícitos: «piensa si comprende de verdad» no engendra ningún criterio, porque «comprender de verdad» no está definido con independencia del juicio que se intenta fundamentar.

La segunda función es distinguir la herramienta del agente. Es la distinción más útil en la práctica y la que menos a menudo se hace. Una herramienta produce efectos cuya razón de ser está en su usuario; un agente produce efectos cuya razón de ser está en él. El martillo no clava para sí mismo. En vocabulario contemporáneo, es la distinción entre teleología derivada y teleología intrínseca: Millikan intentó en 1984 naturalizar la segunda mediante la historia selectiva de las funciones, Dennett sostiene desde 1987 que solo hay teleología derivada, también en nosotros, y el debate no está cerrado. Esta distinción es independiente del rendimiento: una herramienta muy sofisticada sigue siendo una herramienta, un agente muy limitado sigue siendo un agente. Es también independiente del sustrato. En cambio, exige una teoría de lo que es tener una razón de ser en sí, y es ahí donde los marcos divergen. Los marcos que tienen una noción fuerte de organismo, de sustancia o de autonomía (el dualismo de inspiración aristotélica, el enactivismo) disponen de esa teoría, y es una de sus fuerzas reales. Hela aquí en una frase: el instrumento tiene una acción que le es propia, pero el efecto que produce lo excede, porque otro se sirve de él; el agente tiene en sí la razón de su efecto. La diferencia entre un modelo de lenguaje y una sierra no está, pues, en la categoría de instrumento, que comparten, sino en su acción propia, y esa acción está por estudiar. El funcionalismo estricto la tiene mucho menos, porque lo define todo por el papel y el papel de herramienta y el papel de agente pueden coincidir funcionalmente. Su mejor respuesta viene de la teleosemántica de Millikan: un dispositivo tiene una función propia cuando existe porque dispositivos anteriores del mismo tipo produjeron ese efecto y fueron seleccionados por ello. La razón de ser no está entonces ni en el usuario ni en una sustancia, sino en una historia de selección. Aplicada a un modelo de lenguaje, la pregunta se vuelve precisa: ¿es el entrenamiento, que retiene los parámetros que producen ciertos efectos, una historia de selección en este sentido, o solo la ejecución de un objetivo fijado por otros? Ambas respuestas son defendibles, y la cuestión puede investigarse. Sin esta respuesta, el funcionalista, ante un modelo de lenguaje, duda entre la herramienta y el agente, y esa duda no es un defecto personal sino una consecuencia de su marco.

La tercera función es fijar las condiciones de revisión. Un buen marco dice qué lo haría cambiar. No «si la máquina comprendiera de verdad», que no dice nada, sino una observación determinada: si un sistema, sin haber sido entrenado en tal clase de problemas, resuelve uno explicando una regla general que no ha visto en ninguna parte; si un sistema rechaza una tarea por una razón que le es propia y que mantiene contra su usuario; si un sistema corrige su propio modelo del mundo sobre la base de una inferencia y no de un dato. Cada una de estas condiciones es discutible. Lo que importa es que quien las haya escrito de antemano podrá decir, el día en que una se cumpla, si revisa o no, y por qué. Quien no las haya escrito dirá, como siempre, que no era eso.

La cuarta función es localizar el desacuerdo. Dos personas que tienen cada una un marco explícito pueden decir con precisión en qué premisa divergen. Un dualista y un funcionalista divergen sobre la cuestión de saber si el contenido de un pensamiento es una relación funcional entre un sistema y su entorno o algo que ninguna relación de este tipo agota. Es una divergencia antigua, anterior a la IA, y no la zanjará un modelo de lenguaje. Saberlo evita discutir sobre el modelo cuando en realidad se discute sobre Descartes o sobre Aristóteles. Dos personas sin marco, en cambio, discuten sobre todo y no localizan nada, porque sus desacuerdos versan sobre premisas que ninguna de las dos ha formulado.

Se observará que ninguna de estas cuatro funciones exige que el marco sea el de la mayoría, ni que sea compatible con el estado de la ciencia. Un marco explícito, sea cual sea, con sus criterios y sus condiciones de revisión, es más útil para pensar la IA que una posición vaga, materialista o no, que se cree eximida de criterios. La ciencia no es un marco; es lo que se hace dentro de un marco, y no exime de tener uno.

El precio de la irrefutabilidad

Hay una objeción a todo lo anterior, y es seria. Si un marco es bueno porque da respuestas estables, el mejor marco es el que nunca queda en falta. Ahora bien, un marco que nunca queda en falta es también un marco que no aprende nada. Popper construyó su filosofía de la ciencia sobre este punto, y se aplica aquí sin modificación.

Tomemos el marco dualista, puesto que es el más estable de los cinco. Su tesis sobre la IA, «un artefacto no puede tener el pensamiento en sentido fuerte; lo que produce con sentido, lo produce como instrumento», es irrefutable por construcción. Sea cual sea el comportamiento de una máquina futura, quedará clasificado bajo la explicación por el instrumento. Si una máquina demuestra un teorema que nadie ha demostrado nunca, es la inteligencia de sus diseñadores y de sus fuentes la que actúa en ella a distancia. Si rechaza una orden, es que sus diseñadores pusieron en ella ese rechazo. Ninguna observación puede contradecir la tesis. Es su fuerza dialéctica, y es su defecto epistémico.

El defecto no es lógico. Una tesis irrefutable puede ser verdadera o falsa; su irrefutabilidad no dice nada de lo uno ni de lo otro. El defecto es que la tesis, llegada a este punto, ha dejado de explicar para limitarse a clasificar. Dice lo que la máquina no es, y lo dice bien. Sitúa la máquina entre los instrumentos, y la categoría no distingue un modelo de lenguaje de una sierra. Lo que los distingue es su acción propia, y eso es precisamente lo que habría que comprender; el marco no exime de ese estudio, lo remite a la ciencia, y quien lo adopta se hace un flaco favor si cree haberlo hecho ya.

Hay que ser justo, sin embargo, con la irrefutabilidad, porque la objeción popperiana no se aplica sin precaución. Una tesis sobre la naturaleza no tiene por qué ser refutable por un comportamiento, del mismo modo que «hay una infinidad de números primos» no es refutable por una calculadora que se detiene. El propio Popper reservaba su criterio a las teorías empíricas y no lo aplicaba ni a la lógica ni a la metafísica, que consideraba significativas sin ser refutables. La verdadera cuestión no es, pues, saber si el dualismo es refutable por la IA, no lo es ni pretende serlo, sino saber si su premisa se sostiene. Esa premisa es que algunos de nuestros pensamientos tienen un contenido determinado. Sus defensores sostienen que negarla tiene un precio: quien afirma que el contenido de sus pensamientos es indeterminado afirma algo determinado, a saber, eso, y si concede que su afirmación misma solo es determinada «para el uso», parece renunciar a decir algo verdadero. Sus adversarios responden que el argumento supone lo que quiere establecer: aseverar no exige un contenido determinado en sentido fuerte, sino condiciones de uso compartidas por una comunidad, lo que el propio Kripke proponía con el nombre de solución escéptica, y la verdad puede entenderse en términos que no piden nada más. El debate sigue abierto. Es él, y no el comportamiento de las máquinas, el que decide la fuerza del marco dualista.

El mismo defecto existe, bajo otra forma, en el fisicalista que sostiene que «no son más que cálculos». Esa tesis también lo absorbe todo: sea cual sea el comportamiento que muestre la máquina, era cálculo. No puede ser sorprendida, y no aprende nada. El fisicalista honesto es el que admite que su marco no le dice de antemano qué haría, en el cálculo, el pensamiento, y que está por tanto en posición de ser sorprendido. Esta posición es incómoda. Su incomodidad es información.

La lección no es que haya que abandonar los marcos estables por marcos inestables. Es que un marco debe dar cuenta de su propia irrefutabilidad. El dualista que dice «mi tesis no puede ser refutada por un comportamiento, porque versa sobre la naturaleza y no sobre el comportamiento, y he aquí lo que pierdo al aceptarlo» está en mejor posición que quien cree que la irrefutabilidad de su tesis es una prueba de su verdad. El primero sabe dónde está su punto ciego; el segundo ni siquiera sabe que tiene uno. La misma exigencia vale para el panpsiquista, cuya medida de integración puede ajustarse hasta dar el resultado deseado, y para el enactivista, cuya noción de vida puede retroceder a medida que las máquinas ganan autonomía.

Hay una prueba sencilla. Pregunten al portador de un marco qué debería hacer una máquina para que él revisara. Si responde con una observación precisa, tiene un marco y está en posición de aprender. Si responde «nada, por principio», tiene una metafísica, lo cual es respetable, pero debe entonces dejar de pretender que habla de la IA. Habla de la naturaleza de la mente, y la IA no es para él más que un ejemplo, que no le enseñará nada porque no tiene nada que aprender de él. Las dos posiciones son sostenibles. Lo que no lo es, es sostener la segunda dándose aires de la primera.

Aplicación: lo que los modelos de lenguaje nos dicen, y lo que no nos dicen

Apliquemos estos marcos al objeto que ocupa a todo el mundo desde 2022. Los modelos de lenguaje no zanjan ninguno de los desacuerdos entre marcos. Pero enseñan algo a cada uno, y ese algo no es lo mismo según el marco.

Al funcionalista le enseñan que la organización funcional del lenguaje es mucho más simple de lo que se creía, o al menos mucho más aprendible a partir de datos. Durante cincuenta años, la lingüística sostuvo que la sintaxis exigía estructuras innatas específicas; sistemas que no contienen nada parecido producen una sintaxis irreprochable. Esto no prueba que los humanos no tengan esas estructuras. Prueba que no son necesarias para el comportamiento, y el funcionalista, que lo define todo por el comportamiento, debe concluir de ello que el papel funcional del lenguaje es realizable por vías que no había previsto. Su marco sale ampliado, no refutado.

Al fisicalista le enseñan que la cuestión del sustrato es más apremiante de lo que pensaba. Mientras los únicos sistemas que hablaban eran cerebros, se podía suponer que el pensamiento y el sustrato biológico iban juntos sin tener que decir por qué. Ahora que un sustrato radicalmente distinto produce un comportamiento lingüístico comparable, el fisicalista debe o bien admitir que el sustrato no es esencial, y se vuelve funcionalista, o bien decir qué es lo esencial en el sustrato biológico que le falta al silicio, y no tiene, hoy, una respuesta que no sea un criterio retroactivo. Es la posición más incómoda, y por tanto la que más tiene que buscar.

Al dualista le enseñan algo más sutil y más inquietante. La mayoría de los dualismos distinguen el razonamiento discursivo, que encadena inferencias, de la comprensión simple, que capta lo que una cosa es, y sostienen que el primero procede de la segunda: no se puede razonar sobre lo que no se comprende. Ahora bien, he aquí sistemas que razonan, al menos en apariencia, sin que se pueda establecer que comprenden. El dualista tiene dos respuestas. La primera es el instrumento: ese razonamiento no es el de la máquina sino el de los humanos cuyos textos recombina. Es coherente e irrefutable, con el coste descrito más arriba. La segunda es más honesta respecto de los hechos: el razonamiento discursivo es más mecanizable de lo que se pensaba, y solo la comprensión resiste. Esta segunda respuesta le cuesta poco a la tesis de fondo y obliga al dualista a redistribuir su teoría de la mente, que es exactamente lo que un marco vivo debería hacer ante un hecho nuevo. Los modelos de lenguaje no le plantean, pues, al dualista la pregunta «¿piensan?», que ya tiene resuelta, sino la pregunta «¿qué es el razonamiento sin la comprensión?», que nunca había tenido que plantearse.

Al enactivista le enseñan que el lenguaje se deja producir sin cuerpo, lo cual es una sorpresa para un marco que tenía el sentido por enraizado en la acción encarnada. Le queda mostrar que ese lenguaje sin cuerpo carece de sentido, y debe hacerlo mediante un criterio que no sea la mera ausencia de cuerpo. Al panpsiquista, por último, le ofrecen un caso de prueba: un sistema de comportamiento muy rico y, según sus propias medidas, de integración nula. Si la medida es buena, el comportamiento no es un indicio de la experiencia, lo cual es una conclusión fuerte. Si es mala, es el marco el que está en dificultades.

Estas lecciones tienen un punto en común. En cada caso, lo que la máquina enseña al portador del marco no es algo sobre la máquina. Es algo sobre su propio marco: una organización funcional más simple de lo previsto, un sustrato más difícil de defender de lo previsto, una distinción interna a la mente más porosa de lo previsto. Los modelos de lenguaje son, para la filosofía de la mente, menos un objeto de estudio que un instrumento de medida de nuestras teorías. No nos dicen si piensan. Nos dicen dónde eran imprecisas nuestras teorías del pensamiento, porque nunca habían tenido que pronunciarse sobre un caso de este tipo.

Lo que los modelos no nos dicen, en cambio, es igual de importante de fijar. No nos dicen si hay algo que se siente al ser ellos. Ningún comportamiento puede establecerlo, puesto que el comportamiento es precisamente lo que han sido entrenados para producir. No nos dicen si la comprensión es algo distinto de una capacidad de producir texto adecuado, porque es una cuestión de definición y no de observación. Y no nos dicen cuál de los marcos es el bueno, porque todos los absorben sin daño, cada uno a su manera. Quien espera que la próxima generación de modelos zanje estas cuestiones esperará mucho tiempo. No son de las que un hecho zanja.

Conclusión: elegir, asumir, decir en qué condiciones se revisa

No hay posición sin marco. La única alternativa es entre un marco explícito, que se puede criticar y que puede aprender, y un marco implícito, que se mueve sin que uno lo sepa y que solo sirve para justificar juicios ya formados. El segundo es la norma en el debate público sobre la IA, tanto entre los entusiastas como entre los escépticos, y por eso ese debate no avanza.

Lo que propongo a cualquiera que quiera hablar de IA en serio se resume en tres exigencias. Primero, decir qué teoría de la inteligencia se sostiene: funcional, fisicalista, dualista, encarnada, panpsiquista u otra, pero una, y con sus distinciones internas, empezando por la que separa la inteligencia del comportamiento, la del razonamiento y la de la captación del sentido. Después, decir qué cuenta como prueba, y en particular si la introspección lo es, y por qué valdría para nosotros y no para la máquina. Por último, y es el punto menos a menudo honrado, decir de antemano qué haría revisar, o reconocer que se sostiene una posición que nada hará revisar, y sacar de ello las consecuencias sobre aquello de lo que realmente se habla.

Estas exigencias no favorecen a ningún bando. Son igual de costosas para quien atribuye el pensamiento a las máquinas que para quien se lo niega. El primero debe decir qué entiende por pensar y por qué el comportamiento basta para establecerlo. El segundo debe decir qué le falta a la máquina y cómo lo sabe. En ambos casos, el trabajo es filosófico antes de ser técnico, y no puede delegarse ni en los ingenieros ni en los benchmarks.

No he dicho aquí qué marco sostengo, y es deliberado. Este texto trata del método, no de la naturaleza: zanjar la cuestión de qué es la mente sería escribir otro texto.

Hay, en cambio, un marco mínimo que todos los que publican en este campo deberían aceptar, sea cual sea su posición de fondo. Cuando hago investigación, me esfuerzo por dejar mis opiniones filosóficas en el guardarropa, y por pasar por alto las de mis coautores, no por indiferencia sino porque un resultado que depende de las convicciones metafísicas de quien lo ha obtenido no es un resultado. Si una medida de asimetría entre dos formulaciones de una misma pregunta solo tiene sentido para un funcionalista, no mide nada; si una evaluación de robustez solo es aceptable para un dualista, no evalúa nada. El trabajo científico sobre estos sistemas debe poder ser leído, verificado y prolongado por personas que no comparten ninguna de mis premisas sobre la mente, y yo debo poder hacer lo mismo con el suyo. Ese marco mínimo es el naturalismo metodológico, y hay que decir lo que es: no una hipótesis sobre lo que existe, sino la definición misma del objeto de las ciencias experimentales, que solo tratan de lo observable y lo reproducible. Presentado así, nadie puede rechazarlo, y no pretende nada sobre el ser. Va acompañado de un pragmatismo, que sirve de regla para elegir las preguntas en el laboratorio: se plantean aquellas cuya respuesta cambia algo en lo que se construye, se predice o se corrige. Ese pragmatismo no juzga la verdad de las demás preguntas, solo su lugar, que está en otra parte.

Este marco no exige a nadie que renuncie a sus convicciones. El dualista puede sostener el naturalismo metodológico como una convención de trabajo, sin ceder nada en el fondo; el fisicalista verá en él una descripción de lo que piensa de todos modos, con la salvedad de que un marco que necesita que ese naturalismo sea también ontológico para funcionar confunde su método con su metafísica, y debe explicarse; el panpsiquista y el enactivista encontrarán en él una disciplina que los obliga a hacer mensurables sus criterios. Lo que el marco exige es que el discurso filosófico y el resultado de investigación estén separados en el texto, y que se pueda retirar el primero sin que el segundo se derrumbe. La mayor parte de lo que se publica sobre la «inteligencia» de los modelos de lenguaje no supera esta prueba: quiten las premisas filosóficas del autor, y no quedan más que curvas de las que ya no se sabe qué muestran. Es el signo de que el autor no tenía marco científico, y de que dejó que su marco filosófico hiciera el trabajo en su lugar.

Lo cual no impide decir lo que el ejercicio le cuesta a cada uno fuera del laboratorio, porque es el mismo coste bajo formas diferentes. Quien sostiene un marco estable, dualista por ejemplo, gana no alarmarse y pierde no poder ser sorprendido; debe entonces reconocer que la pregunta «¿qué es esto?» sigue intacta para él y que reclama precisamente el instrumental naturalista descrito más arriba, que no dirá nada sobre la cuestión de naturaleza. Quien sostiene un marco abierto, funcionalista o fisicalista, gana poder aprender y pierde no saber de antemano qué cuenta; debe entonces escribir sus criterios antes de que la próxima generación de modelos los desplace sin que él lo sepa. En ambos casos, el trabajo es el mismo: saber de qué habla su marco, y de qué no habla.

Quizá sea esta la fórmula más corta de lo que he querido decir. Un buen marco no es el que responde a todas las preguntas. Es el que sabe cuáles son las suyas.

Referencias