¿Pero vais a dejar de decir «IA» de una vez, caramba?

Nombrar mal un objeto es añadir desdicha a este mundo. (Albert Camus, 1944)

La palabra, no la disciplina

Estoy harto del término «inteligencia artificial». No de la disciplina: trabajo en ella, enseño en ella, publico en ella. De la palabra.

«Inteligencia artificial» promete algo que la cosa no hace. En 2026, el término designa una familia de programas estadísticos entrenados con inmensos corpus de texto, de imágenes o de sonidos. Estos programas son notables. No son inteligentes, y cada vez que se dice que lo son, se enturbia un poco más la discusión sobre lo que pueden hacer, sobre lo que se les puede confiar y sobre lo que son.

Voy a contar lo que hay detrás de la palabra, luego los daños que produce, y luego por qué, en el fondo, no puede querer decir lo que pretende decir.

Lo que hay detrás de la palabra

Un modelo de lenguaje no comprende, no razona, no sabe. Calcula una distribución de probabilidad sobre la palabra siguiente, con un brío estadístico que impone respeto. Se le da el comienzo de un texto, produce el token más plausible, y se vuelve a empezar. La conversación, el código, la redacción salen de esa operación repetida.

Me dirán que los modelos recientes «razonan». Miremos qué se les ha añadido para conseguirlo.

  1. Un aprendizaje por refuerzo. Se hace que el modelo genere miles de respuestas a un mismo problema. Se recompensan las que aciertan (una demostración verificada, un test unitario que pasa, un evaluador humano que aprueba), se refuerzan las trayectorias ganadoras y se debilitan las demás.
  2. Un presupuesto de texto intermedio. El modelo produce páginas de «reflexión» antes de su respuesta, porque se ha constatado que cuanto más escribe, mejor es la distribución final. Ese texto intermedio también se predice token a token, y luego lo selecciona el refuerzo descrito arriba para que se parezca a un proceso de resolución.
  3. Muletas externas. Una calculadora, un intérprete de Python, un motor de búsqueda, un acceso a archivos. El modelo emite un token especial, un programa clásico toma el control, ejecuta y vuelve a pegar el resultado en el texto.

Nada de esto cambia lo que es el objeto. Sigue siendo predicción de tokens, entrenada para que los tokens producidos se parezcan a un razonamiento y seleccionada para que el resultado sea correcto más a menudo. El «razonamiento» es una propiedad de la salida, no del mecanismo. Que sea útil, sí, a menudo muy útil. Que sea lo mismo que razonar: eso es lo que la palabra «inteligencia» cuela de contrabando.

Primer daño: la palabra fabrica una persona

Se dice «la IA piensa que», «la IA me ha aconsejado», «la IA ha mentido», «la IA se niega». Cada una de esas frases presta al programa un sujeto, una intención, una voluntad. Ninguna es verdadera en el sentido en que lo sería de un humano, y sin embargo todas salen solas, porque la palabra las llama.

Hay gente que habla con un modelo como con alguien. Le prestan estados de ánimo, una lealtad, una memoria afectiva. Le confían decisiones pensando que «lo ha pensado». Se sienten traicionados cuando se equivoca. Hay empresas que venden «compañeros» y «asistentes» que «te conocen», y el público se lo cree, porque el vocabulario ya ha hecho la mitad del trabajo.

No es una ingenuidad individual, es una consecuencia de la palabra. Un «generador de texto» no te quiere, y a nadie se le ocurriría imaginarlo. Una «inteligencia», quizá. El antropomorfismo no es un accidente de recorrido de la tecnología, deriva del nombre que se le dio.

Y una vez fabricada la persona, se le atribuye de todo, en cualquier orden. Hace dos años, los titulares gritaban que la IA se escapaba de su entorno aislado, que pirateaba sus propios servidores, que mentía a sus diseñadores para sobrevivir. Hoy, las mismas columnas explican que es consciente, que sufre, que habría que reconocerle derechos. Entre una cosa y otra, ninguna continuidad, ningún argumento, un único reflejo: lo que lleva el nombre de inteligencia debe de tener una interioridad, amenazante o digna de lástima según lo que haga clicar esa semana.

Lo que me exaspera es que los trabajos existen. Las neurociencias tienen décadas de literatura sobre lo que mide, o no mide, un test de conciencia. La filosofía de la mente pasó el siglo XX distinguiendo comportamiento, función y experiencia, de Turing a Searle pasando por Dennett y Chalmers. Los equipos que evalúan los modelos publican sus protocolos, lo que prueban, en qué condiciones, con qué límites, casi siempre con conclusiones mucho más prudentes que el comunicado que las resume. Nada de eso es secreto. Basta con leer antes de difundir.

Pero leer es más lento que indignarse, y un modelo que «sufre» o que «se escapa» da mejor titular que un modelo que «produce, en tal protocolo, salidas interpretables como». La palabra «inteligencia» hace creíbles esos titulares de antemano. Sin ella, se vería enseguida que se habla de un programa y se pedirían pruebas.

Segundo daño: el mapa tomado por el territorio

Un modelo es un modelo. La palabra está en el nombre y aun así se olvida. Un modelo de lenguaje es una compresión estadística de un corpus: codifica las regularidades de miles de millones de frases escritas por humanos. No es el mundo, es un mapa del mundo, dibujado a partir de lo que la gente ha dicho del mundo.

Decir «la IA sabe que París está en Francia» es tomar el mapa por lo real. El modelo nunca ha estado en París, nunca ha visto una frontera, no tiene ninguna relación con Francia. Ha observado que los tokens «París» y «Francia» aparecen a menudo en ciertas configuraciones, y cuando se le pregunta, reproduce la configuración. El día en que el corpus es falso, el modelo se equivoca con el mismo aplomo, porque el aplomo no viene de una relación con lo real sino de la frecuencia de una secuencia de palabras.

Peor que la confusión, la inversión. Se oye cada vez más: «en realidad, nuestro cerebro funciona como una IA». Hemos construido una herramienta que imita algunas salidas del cerebro. Deducir de ello que el cerebro es esa herramienta es mirar un retrato y concluir que la cara está hecha de pintura. El modelo se ajustó para parecerse a nosotros; que se nos parezca no dice nada sobre cómo estamos hechos. Es el sentido mismo de la palabra «imitación».

Esta inversión no es solo un error de filosofía de barra de bar, tiene efectos. Si el cerebro «es» un modelo de lenguaje, entonces la comprensión «es» predicción estadística, y el programa comprende por definición. El vocabulario se ha cerrado sobre sí mismo: se ha redefinido al humano para que la máquina merezca su nombre.

Tercer daño: todo el mundo se desliza

Los estudiantes llegan pensando que «la IA» es una entidad. Antes de enseñar un perceptrón, un descenso de gradiente o un mecanismo de atención, primero hay que deshacer la palabra: explicar que «la IA» no existe en singular, que hay algoritmos de clasificación, redes neuronales, modelos de lenguaje, y que cada uno hace una cosa precisa con límites precisos. Ese trabajo consume tiempo de clase, y hay que rehacerlo cada año porque la palabra vuelve a entrar por la puerta de los periódicos.

Los responsables de decidir compran «IA» como quien alquila un cerebro. La palabra les promete una capacidad general; después descubren que han comprado una herramienta, con un dominio de validez, casos de fallo y una factura. Si les hubieran vendido un «sistema de clasificación de documentos entrenado con tal corpus», habrían hecho las preguntas correctas desde el principio: qué corpus, qué tasa de error, qué hacer con los errores.

Los propios investigadores se dejan deslizar, y me incluyo. Quité «investigador en IA» de mi propia biografía. Trabajo en modelos de lenguaje, en la representación vectorial de las palabras, en el alineamiento de conocimientos entre ontologías. Es preciso, es verificable, y no necesita una palabra comodín para existir. La palabra comodín sirve para parecer más grande que lo que uno hace, y por eso hay que desconfiar de ella.

Que no se me haga decir que lo mezclo todo. Cuando investigo, dejo mis opiniones filosóficas en el vestuario. Mi enfoque es pragmático: tengo un modelo, lo ejecuto, mido si funciona o no en una tarea dada, publico el resultado y las condiciones en las que se sostiene. Desde luego, no es realismo científico. No pretendo que el modelo diga lo que las cosas son, ni siquiera que «capture» nada. Funciona o no funciona, y eso ya es mucho. Lo que eso pueda querer decir en lo absoluto, no lo sé, y no es mi oficio saberlo. Por eso me molesta la palabra «inteligencia»: le hace decir al modelo algo sobre lo absoluto que el método que lo produjo no puede garantizar. Un investigador que se atiene a «funciona en este conjunto de prueba» no tiene ningún derecho a «es inteligente», y no lo necesita.

De dónde viene la palabra

El término lo eligió en 1955 John McCarthy, en una solicitud de financiación para un taller de verano en Dartmouth al año siguiente. Hacía falta un nombre llamativo para obtener dinero de la Fundación Rockefeller, y un nombre que se distinguiera de la cibernética de Norbert Wiener, de la que McCarthy quería desmarcarse. «Inteligencia artificial» cumplía las dos condiciones. La propuesta anunciaba que un grupo de diez investigadores haría en dos meses avances significativos sobre el lenguaje, la abstracción y la automejora de las máquinas.

La palabra cumplió su función: el taller tuvo lugar, el campo nació, la financiación siguió durante setenta años, con inviernos y veranos. Nunca designó una cosa precisa. Designó, en cada época, la frontera de lo que los ordenadores aún no sabían hacer. Jugar al ajedrez era IA hasta que una máquina venció a Kaspárov; después pasó a ser búsqueda en árbol. Reconocer un gato era IA hasta 2012; después pasó a ser visión por ordenador. La palabra siempre se desplaza un paso por delante de lo que existe.

Setenta años después, sigue sirviendo para captar fondos, llenar salas y hacer subir acciones. Sirve cada vez menos para otra cosa.

Por qué «comprensión artificial» no quiere decir nada

Se me objetará que los aviones no baten las alas y aun así vuelan. Es el argumento clásico: el vuelo artificial no es el vuelo de los pájaros, pero es vuelo. ¿Por qué la inteligencia artificial no sería inteligencia, por otro medio?

Porque la analogía no se sostiene. «Volar» designa un resultado observable: estar en el aire, desplazarse, no caer. El avión lo consigue con otro mecanismo que el pájaro, y nadie lo discute. Con «nadar», lo mismo: el submarino se desplaza bajo el agua, luego nada, tenga aletas o hélice. En estos casos, «artificial» califica el medio, no el resultado, y el resultado está ahí.

Dijkstra lo dijo en 1984: preguntarse si las máquinas piensan es más o menos tan pertinente como preguntarse si los submarinos nadan. Quería decir que la pregunta es verbal y que se puede dejar a los filósofos. Le doy la razón con el submarino, y precisamente por eso no se la doy con la máquina. «Nadar» se deja redefinir sin daño, porque solo designa un desplazamiento. «Pensar» y «comprender» no se dejan redefinir así.

«Comprender» no es un resultado exterior que se constata, es el hecho mismo de haber captado algo. O se ha comprendido de verdad, o no se ha comprendido. No hay un tercer estado en el que se habría «comprendido artificialmente», igual que no hay un tercer estado entre estar vivo y estar muerto. El zombi de las películas, el muerto que camina, es la figura de esa imposibilidad: tiene todos los comportamientos exteriores de la vida y ninguna vida dentro. No se dice que «vive artificialmente». Se dice que está muerto y que se mueve.

Aplicad esto a la máquina. Si comprende, entonces comprende sin más: la inteligencia está ahí, real y no simulada, y la palabra «artificial» ya solo califica el origen, como en un diamante sintético, que es un diamante de verdad. Si no comprende, no hay nada que calificar de artificial: produce salidas que se parecen a la comprensión, y somos los únicos que les ponemos sentido. En un caso sobra «artificial», en el otro sobra «inteligencia», y no hay ningún caso en que las dos palabras juntas describan algo.

Queda la escapatoria habitual: «la IA es una forma de inteligencia, muy ajena a la nuestra», o «algo que se le parece sin ser del todo igual». Es una manera de quedarse con la palabra sin pagar su precio. Si tomo una piedra roja, la reduzco a polvo y la mezclo con agua, obtengo un líquido rojo y espeso. Puedo llamarlo «sangre de roca», decir que es una forma de sangre muy ajena a la nuestra, o algo que se le parece. No tendré sangre. Tendré barro rojo y una palabra que miente. «Forma de inteligencia» funciona igual: se conserva el sustantivo por el efecto, se añade «forma de» para protegerse de las objeciones, y se obtiene una expresión que no designa nada más que un parecido superficial, justamente el que el mecanismo fue entrenado para producir.

Por eso «comprensión artificial» es un oxímoron, y «inteligencia artificial» también. La expresión no designa una clase de inteligencia, designa nuestra negativa a decidir entre dos afirmaciones incompatibles. Mientras no decidamos, dejamos que la palabra decida por nosotros, en la dirección hacia la que fue concebida para empujar: hacia más.

Objeción: tampoco se verifica nunca que un humano haya comprendido

Sé lo que se me va a responder, y es una objeción seria. Tampoco se verifica nunca que un humano haya comprendido realmente. Se le hacen hacer tareas parecidas a las que se le han enseñado, en un marco que llamamos examen, y se pone una nota al final. La nota mide una salida. No dice nada de lo que ha pasado dentro.

Sé algo de eso: pasé por las clases preparatorias francesas (prépas). Allí se encuentra el estudio memorístico llevado al extremo. A fuerza de entrenamiento, se encadenan decenas de problemas a toda velocidad sin tocar nunca las sutilezas de lo que se manipula: se tiene un método que funciona, se reconoce, se aplica, y funciona. El corrector no ve ninguna diferencia con quien ha comprendido. A veces no la hay, en el examen.

Si el aprendizaje masivo y reforzado produjera inteligencia, bastaría con ir a la escuela para volverse inteligente. A la vista de lo que entra y de lo que sale, hay que reconocer que no es el caso. Y ese es el régimen de los modelos actuales: se refuerza, se refuerza, se selecciona lo que pasa los tests, a veces funciona, a veces no, y nunca se sabe qué ha salido de ahí.

Podría creerse que esta objeción derriba mi argumento. Si el que estudia de memoria y el modelo son indistinguibles en el examen, ¿por qué conceder la inteligencia a uno y negársela al otro? Porque el examen no mide la naturaleza de lo que se examina, mide una operación, en un marco estrecho. La inteligencia no es ante todo lo que se hace en un momento dado, es aquello de lo que se es capaz: captar lo que una cosa es, juzgar si una proposición es verdadera, volver sobre lo que se acaba de hacer para juzgarlo a su vez. El estudiante de prépa que aplica su método no ejerce esa capacidad en ese momento, pero la tiene. Se le puede preguntar, después de la prueba, por qué funciona el método, mostrarle un caso en el que falla, y puede reconocer que no comprendía. Puede juzgar su propio método. Esa posibilidad no viene del entrenamiento, lo precede. Es ella la que hace que se trate con un estudiante y no con una máquina de rellenar exámenes. La escuela no la crea, y precisamente por eso no vuelve inteligente a nadie; la ejercita o la deja en barbecho.

El modelo, en cambio, no tiene esa capacidad en reserva detrás de lo que produce. No hay un sujeto que pudiera, interrogado de otro modo, remontarse del método a su razón de ser. Hay otros tokens, producidos por el mismo mecanismo, que se parecerán a una explicación porque en el corpus figuraban explicaciones. Lo que una cosa hace se deriva de lo que es, y de una operación se puede concluir una naturaleza, a condición de mirar toda la extensión de la operación, no una sola tarea en un solo marco. Un humano y un modelo producen el mismo examen; solo uno de los dos puede después volverse hacia el examen y decir «no lo había comprendido». La comparación con el estudiante de prépa no rebaja, pues, al estudiante al rango de modelo. Dice que el estudiante, en el examen, se había puesto a funcionar como un modelo, y que lo que lo distingue es que puede dejar de hacerlo.

Entonces, ¿qué decir?

Decid lo que la cosa hace. «Modelo de lenguaje» cuando lo es. «Aprendizaje estadístico» para el método. «Sistema de recomendación», «clasificador de imágenes», «motor de transcripción» para el uso. Estas palabras tienen unas sílabas más, y tienen una ventaja: pueden ser falsas, así que se pueden verificar.

Perderéis una expresión fácil. Ganaréis una conversación honesta, en la que se puede discutir lo que una herramienta hace bien, lo que falla, lo que se le confía y lo que nos guardamos. Es la única conversación que vale la pena, y la palabra «IA» es lo que la impide.

Se habla mucho de «AI slop», esa bazofia de textos e imágenes generados que invade la web porque no cuesta nada producirla. El discurso sobre la IA fabrica su equivalente, que habría que llamar «brain slop»: una bazofia de pensamiento sobre la máquina, hecha de titulares contradictorios, de analogías no verificadas y de emociones listas para usar, consumida sin ser digerida nunca. Se lee que la IA piratea, luego que sufre, luego que nos va a sustituir, luego que es un simple loro; se asiente cada vez, y no se ha pensado nada.

El mecanismo es el mismo en los dos lados. Un modelo al que se deja producir sin revisión da slop; un cerebro al que se deja reaccionar sin verificación también. A la larga, las facultades que ya no se ejercitan se atrofian: distinguir una afirmación de una prueba, un resultado de un comunicado, un comportamiento de una intención. Es el espíritu crítico, y es lo que habría que tener en funcionamiento frente a estas herramientas. La palabra «inteligencia artificial», al cortocircuitar la pregunta «¿qué hace esto, exactamente?», es el primer ingrediente de esa bazofia.

Fuentes