De l'importance d'avoir un bon cadre épistémologique et une théorie de l'intelligence avant de parler d'IA

Ce texte est une réflexion philosophique, non un article de recherche, et il faut le prendre pour ce qu'il est : une note préliminaire à toute réflexion sur l'« intelligence artificielle », sur le travail qui doit être fait avant d'en parler. Il reformule un article précédent que j'avais écrit sur un ton trop polémique, et dont le fond me paraît toujours juste alors que la forme ne l'était pas. J'ai gardé les distinctions et retiré les coups.

Il y a une raison plus générale d'écrire ces pages, et elle dépasse l'IA. On ne peut pas faire de science sans avoir fait un peu d'histoire de la philosophie, d'histoire des sciences et d'épistémologie. Non pas beaucoup, et non pas en spécialiste ; assez pour savoir que les questions qu'on se pose ont déjà été posées, que les mots qu'on emploie ont une histoire qui les charge, et que les notions qu'on tient pour évidentes (cause, loi, explication, observation, modèle, intelligence) ont été des champs de bataille avant de devenir des outils. Celui qui ignore cela ne fait pas de la science sans philosophie, comme il le croit. Il fait de la métaphysique sans le savoir, c'est-à-dire mal, en empruntant à l'air du temps des thèses sur ce qui existe et sur ce qui compte comme preuve, thèses qu'il n'a jamais examinées et qu'il ne saurait pas défendre si on les lui montrait. L'ingénieur qui dit « ce ne sont que des calculs » reprend, sans le savoir, l'argument que Leibniz opposait à Hobbes, pour qui raisonner n'était rien d'autre que calculer, et il ignore que la question est disputée depuis trois siècles. Le chercheur qui dit « le modèle comprend » reprend sans le savoir une thèse sur le rapport entre comportement et esprit que le béhaviorisme a défendue et que Chomsky a démolie chez Skinner, et il n'a lu ni l'un ni l'autre.

L'histoire des sciences enseigne la même leçon par l'exemple. Les grandes avancées ont presque toujours exigé qu'on remette en cause ce que les contemporains tenaient pour trop évident pour être discuté : la simultanéité pour Einstein, la séparabilité des propriétés pour la mécanique quantique, la fixité des espèces pour Darwin. Dans chaque cas, le progrès n'a pas consisté à accumuler des résultats dans un cadre, mais à voir que le cadre lui-même contenait une hypothèse, et à la formuler. Ce geste n'est pas scientifique au sens étroit ; il est épistémologique, et ceux qui l'ont fait avaient tous une culture philosophique qu'ils ne jugeaient pas accessoire. Un champ qui se vante de ne pas faire de philosophie ne s'en est pas affranchi. Il a seulement cessé de voir la sienne.

C'est pourquoi la première chose à faire devant l'IA n'est pas de la mesurer, c'est de savoir avec quels mots et quelles présuppositions on s'apprête à la mesurer. Le reste de ce texte est ce travail préalable, fait une fois pour pouvoir ensuite s'en dispenser.

Les questions « l'IA pense-t-elle ? » et « l'IA est-elle réellement intelligente ? » me paraissent mal placées, et c'est précisément ce qui les rend intéressantes. Mal placées parce qu'on les pose comme des questions de science, auxquelles on attendrait que les laboratoires répondent un jour par un résultat, alors qu'elles n'en sont pas. Une question scientifique a une forme : on sait ce qui compterait comme réponse, et on peut aller la chercher. Celles-ci n'ont pas cette forme. Aucune mesure, aucun benchmark, aucune architecture n'y répondra, parce que ce qui est demandé n'est pas un fait sur la machine mais une décision sur ce que l'on appelle penser, et cette décision précède toute mesure. Elle appartient à la philosophie de l'esprit, qui est une discipline respectable et sans résultats que les laboratoires puissent produire, et non aux sciences de l'ingénieur, qui ont des résultats et n'ont rien à dire là-dessus.

Intéressantes, parce qu'elles touchent à ce que nous sommes et qu'elles obligent, pour la première fois, à le dire avec précision, faute de quoi on ne peut plus distinguer ce que nous faisons de ce que font ces systèmes. Et sans place en sciences, parce que la science ne tranche pas ce qu'elle n'a pas défini, et qu'elle a mieux à faire que d'arbitrer entre Descartes et Aristote avec des courbes d'apprentissage.

Je dois dire qu'en tant que praticien, mon pragmatisme passe volontairement au-dessus de tout cela, et avec un certain soulagement. Pour construire, évaluer, enseigner ou critiquer ces systèmes, je n'ai besoin de savoir ni s'ils pensent ni s'ils comprennent. J'ai besoin de savoir ce qu'ils font, dans quelles conditions ils le font mal, et à qui imputer ce qu'ils produisent. Ces trois questions sont empiriques, elles ont des réponses, et elles occupent largement une vie de recherche. Ce qui suit n'est donc pas un plaidoyer pour que les informaticiens deviennent philosophes. C'est un plaidoyer pour qu'ils sachent, quand ils emploient le mot « intelligence », à quelle question ils répondent, et pour qu'ils cessent de prétendre répondre à l'autre.

Je n'aime pas le terme « intelligence artificielle »

Avant toute chose, une déclaration de méfiance envers le vocabulaire. Je n'aime pas l'expression « intelligence artificielle », et pas par coquetterie : chaque fois que je la rencontre dans un texte sérieux, je constate qu'elle y fait l'un de trois travaux, et aucun des trois n'est un travail de connaissance.

Soit l'expression ne veut rien dire. C'est le cas quand « intelligence » n'est pas défini, ce qui est presque toujours le cas. Le terme apparaît dans la proposition de McCarthy, Minsky, Rochester et Shannon du 31 août 1955 pour le séminaire de Dartmouth, et McCarthy a expliqué plus tard l'avoir choisi pour donner un nom à un programme de recherche distinct de la cybernétique de Wiener. La proposition elle-même ne définit pas l'intelligence ; elle pose la conjecture que chacun de ses aspects peut être décrit assez précisément pour qu'une machine le simule. Ce n'est pas une thèse sur la nature de ce qu'on allait construire, c'est un pari sur une méthode. Soixante-dix ans plus tard, le champ n'a toujours pas de définition de l'intelligence qui fasse consensus, et le manuel de référence de Russell et Norvig, dans sa troisième édition, ouvrait sur un tableau de huit définitions concurrentes avant de choisir la plus commode. Un terme technique sans définition n'est pas un terme technique. C'est une étiquette, et l'on ne tire aucune conséquence d'une étiquette.

Soit l'expression n'explique rien. C'est le cas quand « intelligence » désigne par commodité l'ensemble des choses que font les systèmes qu'on appelle intelligents. On dit alors qu'un programme joue aux échecs grâce à son intelligence, comme Molière faisait dormir par la vertu dormitive. Le terme nomme l'effet et le fait passer pour une cause. Ce qui explique qu'un programme joue aux échecs, c'est une fonction d'évaluation, un algorithme de recherche, une base de données d'ouvertures ; ce qui explique qu'un modèle de langage traduise, c'est une architecture, un corpus, un objectif d'entraînement. « Intelligence » n'ajoute rien à ces explications et, pire, les masque, parce qu'il suggère qu'il y a quelque chose de plus derrière elles, quelque chose qui serait l'intelligence proprement dite, et dont on ne dira jamais ce que c'est.

Soit l'expression est une tautologie. C'est le cas chaque fois qu'on la définit par son usage. « L'intelligence artificielle, c'est ce que font les chercheurs en intelligence artificielle. » « Un système est intelligent s'il se comporte de manière intelligente. » « L'IA, c'est faire faire aux machines ce qui demande de l'intelligence quand c'est un humain qui le fait. » Cette dernière formule, qui est celle de Minsky dans l'introduction de Semantic Information Processing (1968), a l'air d'une définition et n'en est pas une, puisqu'elle renvoie à une intelligence humaine qu'elle ne définit pas davantage. Elle a aussi un défaut connu, qu'on appelle le théorème de Tesler, formulé par Larry Tesler dans les années 1970 et popularisé par Hofstadter : « l'IA, c'est tout ce qui n'a pas encore été fait », car dès qu'une chose est faite par une machine, on cesse de dire qu'elle demandait de l'intelligence. La reconnaissance de caractères, la recherche d'itinéraires, la compression d'images étaient de l'intelligence artificielle ; ce sont maintenant des fonctions de téléphone. Un terme dont l'extension se vide à mesure qu'il réussit ne désigne rien de stable.

Ce triple défaut n'est pas anodin. Il explique pourquoi la conversation publique sur ces systèmes est si pauvre : on ne peut pas raisonner correctement avec un terme qui, selon le moment, ne dit rien, nomme un effet pour une cause, ou tourne en rond. On peut en revanche parler précisément de ce que ces systèmes sont et font, à condition de les nommer par ce qu'ils sont. Un modèle de langage est un modèle statistique de séquences de texte, entraîné à prédire la suite d'un contexte. Un réseau de neurones convolutif est un filtre appris. Un système de recommandation est une factorisation de matrice. Ces noms sont moins vendeurs. Ils ont l'avantage de dire quelque chose, et de permettre ensuite la seule question qui vaille, qui est de savoir si ce que ces objets font mérite, dans un sens à préciser, le nom d'intelligence.

J'emploierai donc le sigle « IA » dans ce qui suit, parce qu'il est devenu le nom commun de ces systèmes et qu'il serait pédant de le refuser. Mais je l'emploie comme on emploie « rayons X » ou « trou noir », comme un nom propre dont l'étymologie ne doit pas être prise pour une description. Tout l'article est une tentative de dire ce qu'il faudrait avoir réglé pour que l'étymologie redevienne une description.

Le débat tourne en rond parce qu'il commence au mauvais endroit

Ces deux questions n'ont pas de réponse tant qu'on n'a pas dit ce que l'on entend par penser et par intelligent, ni comment on s'y prendrait pour le savoir. Ce n'est pas une précaution de philosophe. C'est la raison pour laquelle dix ans de débats publics sur l'intelligence artificielle ont produit beaucoup de bruit et presque aucune conclusion partagée.

Le schéma est toujours le même. Un système fait quelque chose qu'on tenait pour réservé à l'esprit humain : jouer aux échecs, traduire, écrire un sonnet, passer un examen de médecine. Une moitié des commentateurs conclut que la machine pense. L'autre moitié déplace le critère : ce n'était pas cela, penser, c'était autre chose, qui reste hors de portée. Puis la machine fait cette autre chose, et le critère bouge encore. Ni l'un ni l'autre camp n'a tort sur les faits. Les deux ont tort sur la méthode, parce qu'ils jugent d'abord et définissent ensuite.

La thèse de cet article est simple. Avant de dire quoi que ce soit sur l'intelligence d'une machine, il faut avoir réglé deux choses : une théorie de l'intelligence, c'est-à-dire ce que l'on tient pour constitutif du fait de penser, et un cadre épistémologique, c'est-à-dire ce que l'on accepte comme preuve que cette chose est présente ou absente. Qui n'a pas fait ce travail ne parle pas de l'IA. Il parle de ses propres réactions devant l'IA, et les habille en jugements.

Ce travail n'exige pas d'être d'accord sur le fond. Un dualiste et un physicaliste ne tomberont jamais d'accord sur ce qu'est l'esprit. Mais s'ils ont chacun posé leurs critères avant de regarder la machine, ils pourront au moins dire précisément sur quoi ils divergent, et constater que la machine, en général, ne départage pas leur désaccord. Ce constat vaut mieux que l'illusion inverse, qui est que les progrès techniques vont trancher une question que personne n'a formulée.

« Intelligence » n'est pas un mot univoque

Le premier obstacle est lexical, et il est plus grave qu'il n'y paraît. Le mot « intelligence » recouvre au moins trois choses que la tradition philosophique a toujours pris soin de distinguer, et que le vocabulaire courant confond.

Il y a d'abord l'intelligence au sens fonctionnel : la capacité d'un système à atteindre des buts dans un environnement, à résoudre des problèmes, à s'adapter. En ce sens, un thermostat est un peu intelligent, un chien l'est davantage, un programme d'échecs l'est beaucoup dans un domaine étroit. C'est le sens que l'informatique a adopté en 1955 quand McCarthy a forgé l'expression « intelligence artificielle », et c'est un sens honnête tant qu'on le garde à sa place. Il ne dit rien de ce qui se passe à l'intérieur du système. Il décrit un comportement.

Il y a ensuite l'intelligence au sens du raisonnement discursif : enchaîner des inférences, passer d'une proposition à une autre selon des règles, décomposer un problème et recomposer une solution. En vocabulaire contemporain, c'est la part syntaxique de la pensée, celle qui opère sur la forme des représentations sans avoir besoin de leur contenu, et c'est celle que la logique, puis l'informatique, ont progressivement mécanisée. Qu'une machine raisonne en ce sens n'est plus discutable depuis Frege et Turing. La seule question est de savoir si elle le fait au sens propre ou au sens dérivé, et cette question renvoie au troisième sens.

Il y a enfin l'intelligence au sens de la compréhension proprement dite : saisir ce qu'une chose est, former un concept qui vaut pour tous les cas et pas seulement pour ceux rencontrés, viser un sens et non seulement manipuler des signes. C'est la part sémantique, et c'est le sens fort, celui qui engage la question de l'intentionnalité, de la conscience et de la vérité. Searle a fixé le vocabulaire courant en distinguant l'intentionnalité originaire, celle d'un esprit dont les états portent sur quelque chose par eux-mêmes, de l'intentionnalité dérivée, celle d'un texte ou d'un programme dont les états ne portent sur quelque chose que parce qu'un esprit les interprète ; Dennett conteste que la distinction tienne, mais il emploie les mêmes mots. Les philosophes ont nommé cette part diversement selon les époques, intellect, entendement, compréhension sémantique, mais c'est d'elle que parlent Aristote, Descartes, Kant, Searle ou Chalmers quand ils demandent ce que c'est que penser. Et c'est d'elle, en général, que les gens veulent parler quand ils demandent si l'IA « pense vraiment ».

La confusion entre ces trois sens produit des sophismes symétriques. Le premier consiste à constater l'intelligence fonctionnelle d'un système et à en conclure à son intellect : la machine résout des problèmes, donc elle comprend. Le second consiste à nier l'intellect d'un système et à en conclure qu'il n'est intelligent en aucun sens : la machine ne comprend pas, donc elle ne fait rien d'intelligent, ce n'est qu'un perroquet. Les deux raisonnements passent d'un sens à l'autre sans le signaler.

La philosophie a depuis longtemps un outil pour cela, l'analogie, que l'on trouve chez Aristote et que les médiévaux ont systématisée. (Les « airs de famille » de Wittgenstein sont autre chose : des ressemblances qui se recoupent sans terme de référence.) Dire qu'un chien est intelligent, qu'une solution est intelligente, qu'un homme est intelligent, ce n'est pas employer le mot trois fois dans le même sens ni dans trois sens sans rapport. C'est l'employer selon une proportion, et en se rapportant à un terme de référence unique, l'intelligence humaine, d'où les autres usages tirent leur sens : il y a dans chaque cas quelque chose qui joue, à son niveau, le rôle que la compréhension joue chez l'homme. Les trois sens distingués plus haut ne sont donc pas juxtaposés ; ils s'ordonnent à partir de la compréhension. Cet outil permet de dire sans contradiction qu'un modèle de langage est intelligent au sens fonctionnel, qu'il raisonne au moins par imitation, et qu'il reste ouvert de savoir s'il comprend quoi que ce soit au sens fort. Sans cet outil, on est condamné à l'un des deux sophismes.

Il faut ajouter que l'inflation du vocabulaire n'est pas innocente. « Intelligence artificielle » vend mieux que « traitement statistique de séquences ». « Le modèle comprend votre question » vend mieux que « le modèle produit une distribution sur les tokens suivants ». Ceux qui emploient le sens fort pour décrire des faits du sens faible ont souvent un intérêt à le faire, et ceux qui réagissent en niant le sens faible ont souvent un intérêt à ne pas voir ce que la machine fait réellement. Dans les deux cas, l'absence de distinction lexicale sert quelque chose, et ce quelque chose n'est pas la connaissance.

On a toujours un cadre, même quand on croit n'en avoir aucun

Un cadre épistémologique, c'est l'ensemble de ce que l'on accepte comme preuve. Pour une question comme « ce système pense-t-il ? », il faut au minimum avoir répondu à trois choses : quels faits comptent, quel poids leur donner, et ce qui ferait changer d'avis.

La première illusion à dissiper est celle du regard neutre. Personne n'observe une machine sans cadre. Celui qui dit « je regarde juste ce qu'elle fait » a déjà décidé que le comportement est la seule donnée pertinente, ce qui est une position philosophique, le béhaviorisme, et une position que presque plus personne ne défend en toute connaissance de cause. Celui qui dit « on ne peut pas savoir ce qu'elle ressent » a déjà décidé que le ressenti est le critère et qu'il est inaccessible, ce qui est une autre position, et qui a aussi ses difficultés. Celui qui dit « ce ne sont que des calculs » a décidé que le calcul exclut la pensée, sans se demander si le cerveau n'en fait pas aussi. Le cadre est là dans chaque cas ; il est simplement implicite, et donc soustrait à l'examen.

Un cadre implicite a deux défauts. Le premier est qu'il ne peut pas être critiqué, puisqu'il n'est pas énoncé. Le second, plus grave, est qu'il peut changer sans que son porteur s'en aperçoive. C'est ce qui se passe quand les critères de l'intelligence reculent à mesure que les machines avancent : le cadre a bougé, mais comme il n'était écrit nulle part, celui qui le porte croit sincèrement n'avoir jamais changé d'avis.

Le travail d'explicitation consiste à répondre par écrit, avant de regarder la machine, aux trois questions. Quels faits comptent : le comportement seul, ou aussi l'architecture, l'histoire causale du système, la nature de son substrat ? Quel poids : un comportement indiscernable de l'humain suffit-il, ou n'est-il qu'un indice ? Et surtout, ce qui ferait changer d'avis : quelle observation, si elle se produisait, m'obligerait à réviser ? Cette dernière question est la plus importante, et c'est celle que presque personne ne se pose. Un cadre qui n'y répond pas n'est pas un cadre, c'est une humeur.

Il faut être honnête sur une difficulté. Pour la question de l'intellect au sens fort, il n'est pas sûr qu'il existe une observation extérieure qui puisse trancher. Si comprendre est autre chose que se comporter comme quelqu'un qui comprend, alors aucun comportement ne prouve la compréhension, et l'on retombe sur l'argument de la chambre chinoise de Searle, qui a plus de quarante ans et n'a jamais été réfuté de manière convaincante, mais qui n'a jamais convaincu non plus ceux qui ne partageaient pas déjà sa conclusion. Un cadre honnête doit dire ce qu'il fait de cette difficulté : soit il admet que la question du sens fort est hors de portée empirique et il s'en tient au sens fonctionnel ; soit il revendique une source de connaissance autre que l'observation extérieure, l'introspection par exemple, et il doit alors dire pourquoi cette source vaut pour lui et pas pour la machine.

Ce point mérite d'être souligné parce qu'il est la source de la plupart des malentendus. Quand deux personnes se disputent sur l'intelligence d'un modèle de langage, elles croient en général se disputer sur le modèle. Elles se disputent presque toujours, en réalité, sur ce qui compte comme preuve, et ce désaccord-là était déjà présent avant que la machine existe. L'IA n'a pas créé le problème ; elle l'a rendu impossible à ignorer.

Cinq cadres, cinq prédictions

Pour montrer ce qu'un cadre explicite change, il suffit d'en prendre quelques-uns qui sont réellement défendus aujourd'hui et de regarder ce que chacun dit de l'IA avant de l'avoir regardée. Je les présente sans trancher entre eux ; le point est qu'ils donnent des réponses différentes et prévisibles, et que cette prévisibilité est précisément ce qu'un cadre apporte.

Le fonctionnalisme. Penser, c'est occuper un certain rôle fonctionnel : recevoir des entrées, les transformer selon une organisation d'un certain type, produire des sorties, le tout indépendamment du substrat qui réalise cette organisation. Ce cadre a été formulé par Putnam en 1967 dans « The Nature of Mental States » et il est, de fait, le cadre implicite de la plus grande partie de l'informatique. Sa prédiction sur l'IA est nette : si un système réalise la bonne organisation fonctionnelle, il pense, quel que soit ce dont il est fait. Le critère est le comportement, pris en un sens large qui inclut la structure interne du traitement. La difficulté du fonctionnalisme est connue depuis l'origine, et Putnam lui-même a fini par abandonner la position en 1988 dans Representation and Reality : il doit dire quelle organisation est « la bonne », et il n'a jamais pu le faire sans circularité. On reconnaît la bonne organisation à ce qu'elle produit de la pensée, et on reconnaît la pensée à ce qu'elle vient de la bonne organisation. Block a montré dès 1978, avec l'argument de la nation chinoise, que n'importe quelle organisation fonctionnelle peut être réalisée par un dispositif dont personne ne dirait qu'il pense. Devant un modèle de langage, le fonctionnaliste est donc dans une position inconfortable : son cadre lui dit que la question est ouverte, et il n'a pas de critère pour la fermer.

Le physicalisme réductionniste. Penser, c'est un processus physique, en l'occurrence cérébral. La pensée n'est pas une organisation abstraite mais une activité concrète d'un certain type de matière organisée d'une certaine façon. Ce cadre prédit, selon ses variantes, deux choses opposées. Une variante tient que seul le substrat biologique produit la pensée, auquel cas aucune machine ne pensera, quelle que soit sa performance ; c'est le naturalisme biologique de Searle, qui se dit physicaliste tout en refusant le fonctionnalisme, et qui n'a jamais pu dire ce que le cerveau a de plus que le silicium sinon qu'il produit de la pensée. L'autre variante tient que le substrat importe peu pourvu que les mêmes processus causaux soient réalisés, et elle rejoint alors le fonctionnalisme par un autre chemin, avec les mêmes difficultés. Le physicalisme a une force : il porte sur ce qui est, pas sur ce qui apparaît. Et une faiblesse structurelle : il n'a pas de réponse au problème de savoir pourquoi un processus physique s'accompagne d'une expérience vécue, ce que Chalmers a nommé en 1995 le problème difficile, et il n'a pas non plus de réponse qui fasse consensus à l'argument de l'indétermination que Kripke a tiré de Wittgenstein en 1982, selon lequel aucun fait physique sur un système ne fixe lequel de plusieurs contenus incompatibles ce système représente. Sa meilleure réplique passe par les théories naturalistes du contenu, celles de Dretske, de Fodor ou de Millikan, qui tentent de fixer le contenu par des relations causales ou par l'histoire des fonctions ; aucune n'a emporté l'adhésion, mais l'objection n'est pas restée sans réponse. Devant l'IA, le physicaliste est le plus exposé à voir ses critères bouger, parce que son cadre ne lui dit pas d'avance ce qui, dans le processus physique, est essentiel à la pensée.

Le dualisme, sous ses formes classiques et contemporaines. Penser, au sens fort, est l'acte de quelque chose qui n'est pas réductible à un processus physique : une substance distincte du corps chez Descartes, une propriété non physique chez les dualistes de propriétés comme Chalmers, une faculté immatérielle chez Aristote. L'argument de ce dernier part de l'objet de la pensée : l'intellect saisit l'universel, ce qu'est le triangle et non tel triangle, alors qu'une faculté matérielle ne reçoit les formes que dans leur particularité ; la faculté qui saisit l'universel n'est donc pas matérielle. On en trouve une version contemporaine chez ceux qui partent de l'argument de l'indétermination de Kripke (1982), dont Boghossian (1989) a donné la discussion de référence, et le retournent : si aucun état physique ne fixe un contenu déterminé, et si certaines de nos pensées ont un contenu déterminé (l'addition, le modus ponens, le fait de penser que deux et deux font quatre et rien d'autre), alors ces pensées ne sont pas des états physiques. Les variantes diffèrent sur ce qui est non physique et pourquoi, mais elles convergent sur la prédiction : aucune machine n'aura la pensée au sens fort, quelle que soit sa performance, parce que la performance relève de l'intelligence fonctionnelle et de l'imitation du raisonnement, non de la compréhension. Ce qu'une machine produit de sensé, elle le produit avec une intentionnalité dérivée : la raison d'être de ses sorties est chez ceux qui l'ont construite, entraînée et interrogée, comme le thermomètre de Dretske indique la température sans rien savoir d'elle. La force de ce cadre est qu'il a été posé bien avant la première machine et qu'il n'a pas besoin de bouger ; sa prémisse décisive, que l'intellect saisit l'universel et que la pensée a un contenu déterminé, est celle que ses adversaires nient, et l'on verra plus bas que ce désaccord n'est pas tranché. Sa vraie faiblesse est ailleurs : il dit ce que la machine n'est pas, mais rien de son action propre, de ce qu'elle fait en tant qu'instrument et qu'aucun autre instrument ne fait. Cette question-là, il la renvoie à la science, qui seule peut y répondre.

L'énactivisme et les théories de la cognition incarnée. Penser, c'est l'activité d'un organisme vivant qui maintient son existence dans un milieu, et le sens naît de ce rapport vital avant tout traitement symbolique. Varela, Thompson et Rosch ont fixé la ligne en 1991 dans The Embodied Mind, Noë et Thompson l'ont prolongée. Sa prédiction est que les modèles de langage, qui n'ont ni corps, ni milieu, ni intérêt propre à leur maintien, produisent du texte sans sens pour eux, quelle qu'en soit la qualité. À la différence du dualisme, ce cadre laisse une porte ouverte : un système artificiel qui serait autonome, incarné et soumis à une précarité réelle pourrait, en principe, satisfaire ses critères. Sa faiblesse est de ne pas dire clairement ce qui, dans la vie, est nécessaire au sens, et donc de risquer de redéfinir la vie après coup selon ce que les machines ne font pas encore ; le critère « avoir un intérêt propre à son maintien » est lui-même une notion téléologique que le cadre emprunte sans la fonder.

Le panpsychisme et les théories de l'information intégrée. L'expérience n'est pas produite par certaines organisations mais présente, à des degrés divers, dans toute organisation physique, et ce qui varie est son degré d'intégration. Goff et Strawson pour la version philosophique, Tononi pour la version formelle avec la théorie de l'information intégrée. La prédiction est la plus ouverte de toutes : la question n'est pas de savoir si une machine a une expérience, mais combien, et la réponse dépend de son architecture, non de son comportement. Un modèle de langage à passage avant, sans boucle de rétroaction, aurait selon Tononi une intégration nulle malgré ses performances. Ce cadre a l'avantage de donner un critère indépendant du comportement. Sa faiblesse est que ce critère est contesté jusque dans sa mesurabilité, qu'une lettre ouverte de plus de cent chercheurs a qualifié la théorie de pseudoscience en 2023, et que la thèse de fond, l'ubiquité de l'expérience, est tenue par beaucoup pour inintelligible : elle explique comment l'expérience se combine en affirmant qu'elle est partout, ce qui déplace le problème sans le résoudre.

Ce que montre cette comparaison n'est pas qu'un cadre est le bon. C'est que les cinq donnent, pour le même objet, des verdicts différents, et que chaque verdict découle de prémisses posées avant l'observation. Le fonctionnaliste dira « peut-être, et je n'ai pas le moyen de savoir ». Le physicaliste dira « cela dépend de ce qui dans le processus est essentiel, et je ne le sais pas encore ». Le dualiste dira « non, par nature, et voici pourquoi ». L'énactiviste dira « non, pas celle-là, mais une autre pourrait ». Le panpsychiste dira « un peu, et voici comment le mesurer ». Aucun des cinq n'est réfuté par ce que font les modèles de langage en 2026. Celui qui n'a pas de cadre croit que les modèles de 2026 tranchent ; il se trompe, et il se trompera encore avec les modèles de 2030.

À quoi reconnaît-on l'absence de cadre

L'absence de cadre ne se signale pas par le silence. Elle se signale par des symptômes reconnaissables, et il est utile de les nommer, parce qu'ils sont fréquents chez des gens par ailleurs compétents.

Le premier symptôme est le critère rétroactif. On observe ce que la machine ne fait pas encore, et on en fait la marque de l'intelligence véritable. En 1997, c'était les échecs ; une fois Deep Blue passé, ce n'était plus les échecs, c'était le go, qui exigeait de l'intuition. En 2016, ce n'était plus le go, c'était le langage. En 2023, ce n'était plus le langage, c'était le raisonnement, ou la créativité, ou la compréhension du monde physique. Chaque critère était sincère au moment où il était posé. Aucun n'avait été posé avant que le précédent tombe. Un critère fabriqué après la défaite du précédent n'est pas un critère ; c'est une ligne de repli.

Le second symptôme est l'oscillation. La même personne, selon le jour et l'exemple qu'on lui montre, dit que le modèle « n'est qu'un perroquet stochastique » et qu'il « comprend manifestement ce qu'on lui demande ». Les deux énoncés ne sont pas compatibles, et leur alternance montre que le jugement suit l'impression du moment plutôt qu'un principe. L'oscillation est le signe d'un cadre qui n'existe pas, ou qui n'a pas été écrit.

Le troisième symptôme est le test de Turing mouvant. Turing avait proposé en 1950 un critère explicite, comportemental, et falsifiable : si un interrogateur ne peut pas distinguer la machine de l'humain, on dira qu'elle pense. On peut contester ce critère, et beaucoup l'ont fait, mais c'était un critère. Ce que l'on observe depuis que des systèmes le passent à peu près, c'est que presque personne n'accepte la conclusion, et que presque personne non plus ne dit explicitement qu'il abandonne le critère. On le modifie en silence : il fallait un interrogateur expert, une durée plus longue, des questions sur l'expérience vécue. Chacun de ces ajouts est défendable. Aucun n'a été annoncé avant que le test soit passé.

Le quatrième symptôme est l'argument du substrat invoqué à la demande. « Ce ne sont que des multiplications de matrices » est une description exacte d'un modèle de langage. « Ce ne sont que des échanges ioniques à travers des membranes » est une description exacte d'un cerveau. Celui qui tient le premier énoncé pour une réfutation de la pensée et le second pour une description neutre doit expliquer la différence. S'il ne le peut pas, il n'a pas un argument, il a une préférence.

Le cinquième symptôme, enfin, est l'inverse des précédents : la générosité sans critère. On attribue au système de la compréhension, des intentions, des émotions, parce que son texte en a la forme. C'est le même défaut dans l'autre sens. Le texte produit a la forme de la compréhension parce qu'il est produit à partir de textes qui en avaient la forme ; cela ne dit rien, dans un sens ni dans l'autre, sur ce qui se passe dans le système. Celui qui conclut à la compréhension sur cette base n'a pas plus de cadre que celui qui conclut à son absence sur la base des matrices.

Ces cinq symptômes ont une cause commune. Dans chaque cas, le jugement est formé avant le critère, et le critère est reconstruit pour justifier le jugement. C'est le contraire de ce que fait un cadre, dont la fonction est précisément de fixer le critère avant que l'on soit tenté de juger.

Ce qu'un bon cadre doit fournir

Un cadre n'a pas besoin d'être vrai pour être utile à la discussion. Il a besoin de remplir quatre fonctions, et un cadre qui les remplit vaut mieux, pour penser l'IA, qu'une intuition juste mais informulée.

La première fonction est de fournir des critères antérieurs aux faits. Avant de regarder un système, le cadre dit ce qu'il faudrait observer pour conclure dans un sens ou dans l'autre. Cela suppose une théorie de l'intelligence suffisamment précise pour engendrer des critères, et c'est là que la plupart des cadres implicites échouent : « ça pense si ça comprend vraiment » n'engendre aucun critère, parce que « comprendre vraiment » n'est pas défini indépendamment du jugement qu'on cherche à fonder.

La deuxième fonction est de distinguer l'outil de l'agent. C'est la distinction la plus utile en pratique et la moins souvent faite. Un outil produit des effets dont la raison d'être est chez son utilisateur ; un agent produit des effets dont la raison d'être est en lui. Le marteau ne cloue pas pour lui-même. En vocabulaire contemporain, c'est la distinction entre téléologie dérivée et téléologie intrinsèque : Millikan a tenté en 1984 de naturaliser la seconde par l'histoire sélective des fonctions, Dennett soutient depuis 1987 qu'il n'y a que de la téléologie dérivée, y compris chez nous, et le débat n'est pas clos. Cette distinction est indépendante de la performance : un outil très sophistiqué reste un outil, un agent très limité reste un agent. Elle est aussi indépendante du substrat. Elle demande en revanche une théorie de ce qu'est avoir une raison d'être en soi, et c'est là que les cadres divergent. Les cadres qui ont une notion forte d'organisme, de substance ou d'autonomie (le dualisme d'inspiration aristotélicienne, l'énactivisme) disposent de cette théorie, et c'est l'une de leurs forces réelles. La voici en une phrase : l'instrument a une action qui lui est propre, mais l'effet qu'il produit le dépasse, parce qu'un autre s'en sert ; l'agent a en lui la raison de son effet. La différence entre un modèle de langage et une scie n'est donc pas dans la catégorie d'instrument, qu'ils partagent, mais dans leur action propre, et celle-là est à étudier. Le fonctionnalisme strict l'a beaucoup moins, parce qu'il définit tout par le rôle et que le rôle d'outil et le rôle d'agent peuvent coïncider fonctionnellement. Sa meilleure réponse vient de la téléosémantique de Millikan : un dispositif a une fonction propre quand il existe parce que des dispositifs antérieurs du même type ont produit cet effet et ont été retenus pour cela. La raison d'être n'est alors ni chez l'utilisateur ni dans une substance, mais dans une histoire de sélection. Appliquée à un modèle de langage, la question devient précise : l'entraînement, qui retient les paramètres produisant certains effets, est-il une histoire de sélection en ce sens, ou seulement l'exécution d'un objectif fixé par d'autres ? Les deux réponses se défendent, et la question peut s'instruire. Sans cette réponse, le fonctionnaliste, devant un modèle de langage, hésite entre l'outil et l'agent, et cette hésitation n'est pas un défaut personnel mais une conséquence de son cadre.

La troisième fonction est de fixer les conditions de révision. Un bon cadre dit ce qui le ferait changer. Pas « si la machine comprenait vraiment », ce qui ne dit rien, mais une observation déterminée : si un système, sans avoir été entraîné sur telle classe de problèmes, en résout un en expliquant une règle générale qu'il n'a vue nulle part ; si un système refuse une tâche pour une raison qui lui est propre et qu'il maintient contre son utilisateur ; si un système corrige son propre modèle du monde sur la base d'une inférence et non d'une donnée. Chacune de ces conditions est discutable. Le point est que celui qui les a écrites d'avance pourra dire, le jour où l'une se réalise, s'il révise ou non, et pourquoi. Celui qui ne les a pas écrites dira, comme toujours, que ce n'était pas cela.

La quatrième fonction est de localiser le désaccord. Deux personnes qui ont chacune un cadre explicite peuvent dire précisément sur quelle prémisse elles divergent. Un dualiste et un fonctionnaliste divergent sur la question de savoir si le contenu d'une pensée est une relation fonctionnelle entre un système et son environnement ou quelque chose qu'aucune relation de ce type n'épuise. C'est une divergence ancienne, antérieure à l'IA, et elle ne sera pas tranchée par un modèle de langage. Le savoir évite de se disputer sur le modèle quand on se dispute en réalité sur Descartes ou sur Aristote. Deux personnes sans cadre, en revanche, se disputent sur tout et ne localisent rien, parce que leurs désaccords portent sur des prémisses qu'aucune des deux n'a formulées.

On remarquera qu'aucune de ces quatre fonctions n'exige que le cadre soit celui de la majorité, ni qu'il soit compatible avec l'état de la science. Un cadre explicite, quel qu'il soit, avec ses critères et ses conditions de révision, est plus utile pour penser l'IA qu'une position vague, matérialiste ou non, qui se croit dispensée de critères. La science n'est pas un cadre ; elle est ce que l'on fait à l'intérieur d'un cadre, et elle ne dispense pas d'en avoir un.

Le prix de l'irréfutabilité

Il y a une objection à tout ce qui précède, et elle est sérieuse. Si un cadre est bon parce qu'il donne des réponses stables, le meilleur cadre est celui qui n'est jamais pris en défaut. Or un cadre qui n'est jamais pris en défaut est aussi un cadre qui n'apprend rien. Popper a bâti sa philosophie des sciences sur ce point, et il s'applique ici sans modification.

Prenons le cadre dualiste, puisque c'est le plus stable des cinq. Sa thèse sur l'IA, « un artefact ne peut avoir la pensée au sens fort ; ce qu'il produit de sensé, il le produit comme instrument », est irréfutable par construction. Quel que soit le comportement d'une machine future, il sera rangé sous l'explication par l'instrument. Si une machine démontre un théorème que personne n'a jamais démontré, c'est l'intelligence de ses concepteurs et de ses sources qui agit en elle à distance. Si elle refuse un ordre, c'est que ses concepteurs ont mis en elle ce refus. Aucune observation ne peut contredire la thèse. C'est sa force dialectique, et c'est son défaut épistémique.

Le défaut n'est pas logique. Une thèse irréfutable peut être vraie ou fausse ; son irréfutabilité ne dit rien de l'un ni de l'autre. Le défaut est que la thèse, à ce point, a cessé d'expliquer pour se contenter de classer. Elle dit ce que la machine n'est pas, et elle le dit bien. Elle range la machine parmi les instruments, et la catégorie ne distingue pas un modèle de langage d'une scie. Ce qui les distingue, c'est leur action propre, et c'est précisément ce qu'il faudrait comprendre ; le cadre ne dispense pas de cette étude, il la renvoie à la science, et celui qui l'adopte se rend un mauvais service s'il croit l'avoir faite.

Il faut toutefois être juste avec l'irréfutabilité, parce que l'objection poppérienne ne s'applique pas sans précaution. Une thèse sur la nature n'a pas à être réfutable par un comportement, pas plus que « il y a une infinité de nombres premiers » n'est réfutable par un calculateur qui s'arrête. Popper lui-même réservait son critère aux théories empiriques et ne l'appliquait pas à la logique ni à la métaphysique, qu'il tenait pour signifiantes sans être réfutables. La vraie question n'est donc pas de savoir si le dualisme est réfutable par l'IA, il ne l'est pas et ne prétend pas l'être, mais de savoir si sa prémisse tient. Cette prémisse, c'est que certaines de nos pensées ont un contenu déterminé. Ses défenseurs soutiennent que la nier a un prix : celui qui affirme que le contenu de ses pensées est indéterminé affirme quelque chose de déterminé, à savoir cela, et s'il concède que son affirmation n'est elle-même déterminée que « pour l'usage », il semble renoncer à dire quelque chose de vrai. Ses adversaires répondent que l'argument suppose ce qu'il veut établir : asserter n'exige pas un contenu déterminé au sens fort, mais des conditions d'usage partagées par une communauté, ce que Kripke lui-même proposait sous le nom de solution sceptique, et la vérité peut se comprendre en des termes qui ne demandent rien de plus. Le débat reste ouvert. C'est lui, et non le comportement des machines, qui décide de la force du cadre dualiste.

Le même défaut existe, sous une autre forme, chez le physicaliste qui tient que « ce ne sont que des calculs ». Cette thèse-là aussi absorbe tout : quelque comportement que montre la machine, c'était du calcul. Elle ne peut pas être surprise, et elle n'apprend rien. Le physicaliste honnête est celui qui admet que son cadre ne lui dit pas d'avance ce qui, dans le calcul, ferait la pensée, et qui est donc en position d'être surpris. Cette position est inconfortable. Son inconfort est de l'information.

La leçon n'est pas qu'il faut abandonner les cadres stables pour des cadres instables. C'est qu'un cadre doit rendre compte de sa propre irréfutabilité. Le dualiste qui dit « ma thèse ne peut pas être réfutée par un comportement, parce qu'elle porte sur la nature et non sur le comportement, et voici ce que je perds en acceptant cela » est en meilleure position que celui qui croit que l'irréfutabilité de sa thèse est une preuve de sa vérité. Le premier sait où est son angle mort ; le second ne sait même pas qu'il en a un. La même exigence vaut pour le panpsychiste, dont la mesure d'intégration peut être ajustée jusqu'à donner le résultat voulu, et pour l'énactiviste, dont la notion de vie peut reculer à mesure que les machines gagnent en autonomie.

Il y a un test simple. Demandez au porteur d'un cadre ce qu'une machine devrait faire pour qu'il révise. S'il répond par une observation précise, il a un cadre et il est en position d'apprendre. S'il répond « rien, par principe », il a une métaphysique, ce qui est respectable, mais il doit alors cesser de prétendre qu'il parle de l'IA. Il parle de la nature de l'esprit, et l'IA n'est pour lui qu'un exemple, qui ne lui apprendra rien parce qu'il n'a rien à en apprendre. Les deux positions sont tenables. Ce qui ne l'est pas, c'est de tenir la seconde en se donnant les airs de la première.

Application : ce que les modèles de langage nous disent, et ce qu'ils ne nous disent pas

Appliquons ces cadres à l'objet qui occupe tout le monde depuis 2022. Les modèles de langage ne tranchent aucun des désaccords entre cadres. Mais ils apprennent quelque chose à chacun, et ce quelque chose n'est pas le même selon le cadre.

Au fonctionnaliste, ils apprennent que l'organisation fonctionnelle du langage est beaucoup plus simple qu'on ne le croyait, ou du moins beaucoup plus apprenable à partir de données. Pendant cinquante ans, la linguistique a tenu que la syntaxe exigeait des structures innées spécifiques ; des systèmes qui ne contiennent rien de tel produisent une syntaxe irréprochable. Cela ne prouve pas que les humains n'ont pas ces structures. Cela prouve qu'elles ne sont pas nécessaires au comportement, et le fonctionnaliste, qui définit tout par le comportement, doit en tirer que le rôle fonctionnel du langage est réalisable par des voies qu'il n'avait pas prévues. Son cadre en sort élargi, pas réfuté.

Au physicaliste, ils apprennent que la question du substrat est plus pressante qu'il ne le pensait. Tant que les seuls systèmes qui parlaient étaient des cerveaux, on pouvait supposer que la pensée et le substrat biologique allaient ensemble sans avoir à dire pourquoi. Maintenant qu'un substrat radicalement différent produit un comportement linguistique comparable, le physicaliste doit soit admettre que le substrat n'est pas essentiel, et il devient fonctionnaliste, soit dire ce qui dans le substrat biologique est essentiel et manque au silicium, et il n'a pas, aujourd'hui, de réponse qui ne soit pas un critère rétroactif. C'est la position la plus inconfortable, et donc celle qui a le plus à chercher.

Au dualiste, ils apprennent quelque chose de plus subtil et de plus dérangeant. La plupart des dualismes distinguent le raisonnement discursif, qui enchaîne des inférences, de la compréhension simple, qui saisit ce qu'une chose est, et ils tiennent que le premier procède de la seconde : on ne peut raisonner sur ce qu'on ne comprend pas. Or voici des systèmes qui raisonnent, au moins en apparence, sans qu'on puisse établir qu'ils comprennent. Le dualiste a deux réponses. La première est l'instrument : ce raisonnement n'est pas celui de la machine mais celui des humains dont elle recombine les textes. Elle est cohérente et irréfutable, avec le coût décrit plus haut. La seconde est plus honnête vis-à-vis des faits : le raisonnement discursif est plus mécanisable qu'on ne le pensait, et seule la compréhension résiste. Cette seconde réponse coûte peu à la thèse de fond et elle oblige le dualiste à redécouper sa théorie de l'esprit, ce qui est exactement ce qu'un cadre vivant devrait faire devant un fait nouveau. Les modèles de langage posent donc au dualiste non pas la question « pensent-ils ? », qu'il a réglée, mais la question « qu'est-ce que le raisonnement sans la compréhension ? », qu'il n'avait jamais eu à poser.

À l'énactiviste, ils apprennent que le langage se laisse produire sans corps, ce qui est une surprise pour un cadre qui tenait le sens pour enraciné dans l'action incarnée. Il lui reste à montrer que ce langage sans corps est sans sens, et il doit le faire par un critère qui ne soit pas la seule absence de corps. Au panpsychiste, enfin, ils offrent un cas d'épreuve : un système au comportement très riche et, selon ses propres mesures, à l'intégration nulle. Si la mesure est bonne, le comportement n'est pas un indice de l'expérience, ce qui est une conclusion forte. Si elle est mauvaise, c'est le cadre qui est en difficulté.

Il y a un point commun à ces leçons. Dans chaque cas, ce que la machine apprend au porteur du cadre n'est pas quelque chose sur la machine. C'est quelque chose sur son propre cadre : une organisation fonctionnelle plus simple que prévu, un substrat plus difficile à défendre que prévu, une distinction interne à l'esprit plus poreuse que prévu. Les modèles de langage sont, pour la philosophie de l'esprit, moins un objet d'étude qu'un instrument de mesure de nos théories. Ils ne nous disent pas s'ils pensent. Ils nous disent où nos théories de la pensée étaient floues, parce qu'elles n'avaient jamais eu à se prononcer sur un cas de ce genre.

Ce que les modèles ne nous disent pas, en revanche, est tout aussi important à fixer. Ils ne nous disent pas s'il y a quelque chose que cela fait d'être eux. Aucun comportement ne peut l'établir, puisque le comportement est précisément ce qu'ils ont été entraînés à produire. Ils ne nous disent pas si la compréhension est autre chose qu'une capacité à produire du texte adapté, parce que c'est une question de définition et non d'observation. Et ils ne nous disent pas lequel des cadres est le bon, parce que tous les absorbent sans dommage, chacun à sa manière. Celui qui attend de la prochaine génération de modèles qu'elle tranche ces questions attendra longtemps. Elles ne sont pas de celles qu'un fait tranche.

Conclusion : choisir, assumer, dire à quelles conditions on révise

Il n'y a pas de position sans cadre. La seule alternative est entre un cadre explicite, qu'on peut critiquer et qui peut apprendre, et un cadre implicite, qui bouge sans qu'on le sache et qui ne sert qu'à justifier des jugements déjà formés. Le second est la norme dans le débat public sur l'IA, chez les enthousiastes comme chez les sceptiques, et c'est pourquoi ce débat n'avance pas.

Ce que je propose à quiconque veut parler d'IA sérieusement tient en trois exigences. D'abord, dire quelle théorie de l'intelligence on tient : fonctionnelle, physicaliste, dualiste, incarnée, panpsychiste ou autre, mais une, et avec ses distinctions internes, à commencer par celle entre l'intelligence du comportement, celle du raisonnement et celle de la saisie du sens. Ensuite, dire ce qui compte comme preuve, et en particulier si l'introspection en est une, et pourquoi elle vaudrait pour nous et pas pour la machine. Enfin, et c'est le point le moins souvent honoré, dire d'avance ce qui ferait réviser, ou reconnaître qu'on tient une position que rien ne fera réviser, et en tirer les conséquences sur ce dont on parle réellement.

Ces exigences ne favorisent aucun camp. Elles sont aussi coûteuses pour celui qui attribue la pensée aux machines que pour celui qui la leur refuse. Le premier doit dire ce qu'il entend par penser et pourquoi le comportement suffit à l'établir. Le second doit dire ce qui manque à la machine et comment il le sait. Dans les deux cas, le travail est philosophique avant d'être technique, et il ne peut pas être délégué aux ingénieurs ni aux benchmarks.

Je n'ai pas dit ici quel cadre je tiens, et c'est voulu. Ce texte porte sur la méthode, non sur la nature : trancher la question de ce qu'est l'esprit serait écrire un autre texte.

Il y a en revanche un cadre minimal que tous ceux qui publient dans ce champ devraient accepter, quelle que soit leur position de fond. Quand je fais de la recherche, je m'efforce de laisser mes opinions philosophiques au vestiaire, et de passer outre celles de mes co-auteurs, non par indifférence mais parce qu'un résultat qui dépend des convictions métaphysiques de celui qui l'a obtenu n'est pas un résultat. Si une mesure d'asymétrie entre deux formulations d'une même question n'a de sens que pour un fonctionnaliste, elle ne mesure rien ; si une évaluation de robustesse n'est acceptable que pour un dualiste, elle n'évalue rien. Le travail scientifique sur ces systèmes doit pouvoir être lu, vérifié et prolongé par des gens qui ne partagent aucune de mes prémisses sur l'esprit, et je dois pouvoir faire de même avec le leur. Ce cadre minimal est le naturalisme méthodologique, et il faut dire ce qu'il est : non une hypothèse sur ce qui existe, mais la définition même de l'objet des sciences expérimentales, qui ne traitent que de l'observable et du reproductible. Ainsi présenté, personne ne peut le refuser, et il ne prétend rien sur l'être. Il s'accompagne d'un pragmatisme, qui sert de règle de choix des questions dans le laboratoire : on y pose celles dont la réponse change quelque chose à ce que l'on construit, prédit ou corrige. Ce pragmatisme ne juge pas de la vérité des autres questions, seulement de leur place, qui est ailleurs.

Ce cadre n'exige de personne qu'il renonce à ses convictions. Le dualiste peut tenir le naturalisme méthodologique comme une convention de travail, sans rien céder sur le fond ; le physicaliste y verra une description de ce qu'il pense de toute façon, à ceci près qu'un cadre qui a besoin que ce naturalisme soit aussi ontologique pour fonctionner confond sa méthode et sa métaphysique, et doit s'en expliquer ; le panpsychiste et l'énactiviste y trouveront une discipline qui les oblige à rendre leurs critères mesurables. Ce que le cadre exige, c'est que le discours philosophique et le résultat de recherche soient séparés dans le texte, et qu'on puisse retirer le premier sans que le second s'effondre. La plus grande partie de ce qui se publie sur l'« intelligence » des modèles de langage ne passe pas ce test : enlevez les prémisses philosophiques de l'auteur, et il ne reste que des courbes dont on ne sait plus ce qu'elles montrent. C'est le signe que l'auteur n'avait pas de cadre scientifique, et qu'il a laissé son cadre philosophique faire le travail à sa place.

Ce qui n'empêche pas de dire ce que l'exercice coûte à chacun hors du laboratoire, parce que c'est le même coût sous des formes différentes. Celui qui tient un cadre stable, dualiste par exemple, gagne de ne pas s'affoler et perd de ne pas pouvoir être surpris ; il doit alors reconnaître que la question « qu'est-ce que c'est ? » reste entière pour lui et qu'elle appelle précisément l'outillage naturaliste décrit ci-dessus, qui ne dira rien sur la question de nature. Celui qui tient un cadre ouvert, fonctionnaliste ou physicaliste, gagne de pouvoir apprendre et perd de ne pas savoir d'avance ce qui compte ; il doit alors écrire ses critères avant que la prochaine génération de modèles ne les déplace à son insu. Dans les deux cas, le travail est le même : savoir ce dont son cadre parle, et ce dont il ne parle pas.

C'est peut-être la formule la plus courte de ce que j'ai voulu dire. Un bon cadre n'est pas celui qui répond à toutes les questions. C'est celui qui sait lesquelles sont les siennes.

Sources