« Expert en IA » : anatomie d'un écran de fumée

Un homme vu de dos, à son bureau, regarde un tableau de liège où quatre étiquettes manuscrites proposent chacune un métier ; trois sont barrées au feutre rouge, la quatrième est entourée.
Illustration générée avec Gemini (Nano Banana), retouchée sous GIMP.
Description détaillée de l'image

Photographie d'intérieur au format large, prise en fin de journée.

À gauche, un homme d'une quarantaine d'années est assis de dos à un bureau en bois, tourné vers la droite, le menton posé sur la main. Il porte un pull sombre à grosses mailles et ses cheveux bruns sont en bataille. Son visage n'est visible que de trois quarts arrière : son expression n'est pas lisible. Derrière lui, une fenêtre laisse entrer une lumière chaude et basse, sur un ciel pâle et des toits de ville. Sur le bureau, de gauche à droite : un pot à crayons, un cahier ouvert couvert d'écriture, une paire de lunettes, une tasse grise, un ordinateur portable ouvert vu de dos, et une pile de livres aux tranches colorées.

À droite, occupant la moitié haute de l'image, un grand tableau de liège encadré de bois est accroché au mur. Quatre feuilles blanches y sont punaisées en carré, chacune portant une mention manuscrite, chaque punaise d'une couleur différente. En haut à gauche, « naturopathe », barrée d'un trait de feutre rouge. En haut à droite, « lead thinker », barrée de la même façon. En bas à gauche, « formateur en bureautique », sur deux lignes, barrée elle aussi. En bas à droite, « chercheur (indépendant) en IA », sur deux lignes, la seule qui ne soit pas barrée : elle est entourée d'un large cercle au feutre rouge.

Entre l'homme et le tableau, dans la pénombre, on distingue une bibliothèque, une plante et quelques photographies plus petites épinglées au mur. Une lampe d'architecte descend du bord supérieur droit.

On parle beaucoup de désinformation par l'IA : textes générés, images truquées, fausses citations. C'est réel, mais ce n'est pas le sujet de ce billet. Je veux parler d'une désinformation plus discrète et, à mon sens, plus corrosive : la désinformation sur l'IA, produite par des gens qui se présentent comme experts du domaine et qui ne le sont pas.

Le mécanisme est simple. Le grand public ne sait pas ce qu'est un modèle de langage, ne sait pas ce qu'un chercheur fait de ses journées, et n'a aucun moyen de distinguer un article scientifique d'un billet LinkedIn. Dans ce vide, n'importe qui peut planter un drapeau. Et beaucoup l'ont fait.

Un titre que personne ne protège

En France, certains titres sont réservés. « Médecin », « avocat », « architecte » : leur usage sans droit tombe sous le coup de l'usurpation de titre. « Docteur », au sens du grade universitaire, est aussi protégé : on ne s'appelle pas docteur sans avoir soutenu une thèse.

« Chercheur », lui, n'est protégé par rien. Ni « expert ». Ni « spécialiste ». Ni « consultant ». On peut se dire chercheur en IA le lundi, coach en transformation digitale le mardi, et personne n'a de recours. Même « ingénieur » n'est pas réservé ; seul « ingénieur diplômé » l'est, via la Commission des titres d'ingénieur.

Le résultat est mécanique : le mot « chercheur » a un capital de crédibilité accumulé sur un siècle par des gens qui ont effectivement passé des années à produire des connaissances vérifiées, et ce capital est en libre-service. Il suffit d'ajouter « en IA » à ce qu'on faisait déjà. Un formateur en bureautique devient formateur en IA. Un consultant en organisation devient consultant en IA générative. Un journaliste qui a testé ChatGPT trois fois devient spécialiste des enjeux de l'IA. Pouf.

Pourquoi « en IA » marche si bien

Le suffixe « en IA » a trois propriétés qui en font un écran de fumée idéal.

Il est invérifiable pour le profane. Si quelqu'un se dit expert en droit fiscal, vous pouvez vérifier s'il est avocat, expert-comptable, ou rien du tout. Si quelqu'un se dit expert en IA, vous vérifiez quoi ? Il n'existe pas d'ordre professionnel, pas de diplôme de référence grand public, pas de registre. Le seul critère lisible serait la publication scientifique, et le grand public ne sait pas où regarder.

Il fait peur et fascine en même temps. Un domaine perçu comme mystérieux et menaçant crée une demande massive d'explications. Cette demande est solvable : entreprises inquiètes, collectivités qui veulent « faire quelque chose », établissements scolaires débordés. L'offre suit, et elle n'a aucune raison d'être proportionnée à la compétence réelle.

Il autorise à parler de tout. Comme l'IA touche à tout, l'« expert en IA » peut se prononcer sur l'emploi, l'éducation, la santé, la géopolitique, la conscience, l'énergie. Un vrai chercheur en IA sait qu'il n'est compétent que sur une fraction minuscule du champ. Un faux n'a pas cette contrainte. Le glissement est même remarquable de vitesse : le formateur en bureautique devenu « formateur en IA » se retrouve, dans la même semaine, à expliquer en conférence pourquoi l'informatique quantique va rendre les modèles conscients. Personne ne lui a demandé s'il savait ce qu'est un qubit, parce que personne dans la salle ne le sait non plus. Le suffixe « en IA » ne donne pas une compétence, il donne une licence : celle de parler de tout ce qui est compliqué, puisque l'IA est compliquée et qu'il est « dedans ».

Ce que produit cet écran de fumée

Ce n'est pas un problème de vanité. Les conséquences sont concrètes.

Des chiffres faux circulent avec l'autorité d'un « expert ». Quelques-uns, entendus en conférence, lus dans la presse ou dans des supports de formation :

Aucun de ces chiffres n'est sorti d'un laboratoire. Tous sont sortis d'une chaîne de reprises où chacun citait le précédent, et où le premier maillon était déjà une lecture de travers. Ce qui les maintient en vie, c'est qu'ils sont répétés par des gens dont la qualité d'« expert » dispense l'auditoire de vérifier.

J'ai aussi vu vendre des outils de détection de textes générés à des établissements entiers. Les études disponibles leur attribuent des taux de faux positifs élevés, avec un biais documenté contre les rédacteurs non natifs. Je ne suis pas juriste, et la recevabilité d'un tel score dépend de la procédure. Mais un indice de cette qualité ne suffit pas à fonder une accusation de fraude contre un étudiant, et que c'est pourtant l'usage qu'on en fait.

Des décisions se prennent sur ces bases. Des formations facturées au prix fort, des politiques d'établissement, des articles de presse, des interventions dans des instances publiques. Le coût de la désinformation n'est pas abstrait : il est budgétaire, pédagogique, parfois juridique.

Et le pire effet est indirect : la crédibilité de la recherche se dilue. Quand tout le monde est expert, plus personne ne l'est, et le chercheur qui dit « on ne sait pas » ou « c'est plus compliqué que ça » passe pour moins compétent que le consultant qui a une réponse à tout.

Le marché du « fait par IA »

L'écran de fumée n'est pas qu'un problème de discours. Il a un chiffre d'affaires.

Il y a d'abord les prestations. J'ai vu des plateformes de marketing facturer des contenus « générés par IA », « optimisés par IA », « personnalisés par IA », dont la chaîne de production complète est un copier-coller du brief du client dans un chatbot grand public, puis un copier-coller de la réponse dans le livrable. Zéro ingénierie, zéro modèle, zéro traitement. Le client paie une marge sur un abonnement à vingt euros par mois qu'il pourrait prendre lui-même. Le mot « IA » sur la facture ne désigne pas une technologie, il désigne une opacité : le client ne sait pas ce qu'il achète, et c'est précisément ce qui permet de le lui vendre.

Il y a ensuite les formations. Trois cents euros la demi-journée pour apprendre à « maîtriser l'IA générative », et le contenu tient en une phrase : ouvrir ChatGPT, écrire ce qu'on veut, lire la réponse. Le reste est du remplissage : historique de l'IA en dix diapositives, définitions approximatives, et une liste de « prompts magiques » qui sont des formules de politesse. La personne qui anime a découvert l'outil six mois avant ses stagiaires. Il n'y a là ni pédagogie ni contenu, seulement la conversion d'une angoisse en prestation.

Et il y a l'emploi. Les fiches de poste et les intitulés de profil se multiplient dans des structures qui n'ont pas la moindre idée de ce que le poste devrait contenir. Une demi-heure sur un réseau professionnel suffit à en récolter une brassée ; entre parenthèses, le nombre de profils portant le même intitulé :

Je passe sur la coupure. « Chercheur en IA dans le domaine de X » se retrouve miraculeusement raccourci en « Chercheur en IA », et ce qui saute au passage est la seule partie qui renseignait sur quelque chose. Pas mal !

Ces intitulés ne désignent pas tous des impostures, loin de là. Certains recouvrent un travail parfaitement réel : un doctorant en intelligence artificielle est un doctorant, avec un directeur de thèse et un sujet ; un ingénieur qui construit des systèmes à base d'agents fait un métier qui existe. C'est exactement ce qui rend la liste intéressante. Mise bout à bout, elle est illisible. Rien, dans la formulation, ne permet de distinguer celui qui écrit du code de celui qui anime des ateliers, ni le chercheur du vendeur. « Expert en IA et cinéma » et « Chercheur en IA » se ressemblent typographiquement, et c'est tout ce que verra un recruteur pressé, un journaliste en quête d'un intervenant ou une collectivité qui cherche un conseil.

Le mot « IA » ne décrit donc plus un domaine dans ces intitulés : il signale une appartenance. Et il finit par produire des autorités internes par décret. On nomme responsable IA quelqu'un qui sait utiliser un chatbot, et cette personne devient l'expert maison sur un sujet qu'elle ne comprend pas mieux que ses collègues, simplement parce que quelqu'un devait l'être.

Toute prestation autour de l'IA n'est pas une escroquerie, et toute formation non plus. Le marché, lui, ne fait aucune différence entre celles qui apportent quelque chose et celles qui n'apportent rien, parce que le client n'a aucun moyen de le voir. C'est la définition même d'un marché de la fumée.

Comment vérifier, sans être du métier

On ne demande pas au public de devenir chercheur. On lui demande de savoir poser quatre questions.

Où publie-t-il ? Un chercheur publie dans des conférences et revues à comité de lecture. Ses travaux sont sur HAL (l'archive ouverte française), sur DBLP pour l'informatique, sur Google Scholar. Si la totalité de la production de la personne est constituée de posts LinkedIn, de vidéos et d'un livre chez un éditeur généraliste, ce n'est pas un chercheur. Ce n'est pas disqualifiant en soi, mais ce n'est pas la même chose.

Attention toutefois : « publié » ne suffit pas. Il existe une industrie entière d'éditeurs dits prédateurs, dont le modèle est de facturer à l'auteur quelques centaines ou milliers d'euros pour publier à peu près n'importe quoi, avec un comité de lecture de façade et une relecture en quelques jours. Leurs revues ont des noms parfaitement respectables, « International Journal of », « Advances in », et un site qui ressemble à celui d'un éditeur sérieux. Pour un lecteur non averti, l'article y paraît aussi crédible qu'un article de revue à comité de lecture réel. C'est précisément leur fonds de commerce : vendre l'apparence de la science à ceux qui en ont besoin pour le CV. Quelques indices : l'éditeur publie des dizaines de revues sur tous les sujets, sollicite les auteurs par courriel, promet une publication rapide, et affiche des frais de publication comme argument principal. En cas de doute, on cherche le nom de la revue dans les listes noires maintenues par les bibliothèques universitaires ou dans le DOAJ, qui recense les revues en accès ouvert répondant à des critères de sérieux. Une communication dans un séminaire ou un atelier, aussi prestigieux soit le lieu, n'est pas non plus une publication évaluée : c'est une intervention orale, et elle ne prouve rien d'autre que le fait d'avoir été invité à parler.

Rattaché à quoi ? Un chercheur appartient à un laboratoire identifiable : une UMR, une équipe, un institut. C'est vérifiable en deux clics : le laboratoire a un site, une liste de membres, et le nom y figure ou n'y figure pas. Attention aux formulations qui imitent l'affiliation sans en être une. Un poste, même universitaire, n'est pas un rattachement à un laboratoire : on peut travailler dans l'enseignement supérieur, la fonction publique ou une grande entreprise sans appartenir à aucune équipe de recherche, et c'est le cas de l'immense majorité des gens qui y travaillent. Être doctorant est une affiliation réelle, et respectable, mais elle désigne quelqu'un en formation à la recherche, pas un chercheur ; un doctorant honnête se présente comme doctorant. « Chercheur indépendant » existe mais reste rare, et un chercheur indépendant sérieux a quand même une trace de publications ; sans elle, l'expression signifie surtout que personne n'a accepté de le rattacher. « Fondateur de », « CEO de », « directeur de l'innovation chez » sont des fonctions, pas des affiliations scientifiques : elles disent que la personne a un intérêt commercial dans le domaine, ce qui est précisément la question suivante.

Vend-il quelque chose ? Ce n'est pas rédhibitoire, mais c'est un conflit d'intérêts à connaître, et il faut le chercher parce qu'il est rarement affiché. La personne qui vous explique que l'IA va tout bouleverser et qui vend une formation à l'IA a un intérêt direct à ce que vous ayez peur. Celle qui vous explique que les détecteurs de texte généré sont fiables et qui en distribue un a un intérêt direct à ce que vous les achetiez. Celle qui vous explique que l'IA va supprimer la moitié des emplois et qui vend de l'accompagnement à la « transformation » a un intérêt direct à ce que vous vous sentiez en retard. Le motif est toujours le même : un diagnostic alarmant, dont la seule issue est le produit du diagnostiqueur. Regardez le pied de page du site, la page « services », le lien en bio. Regardez aussi qui paie la conférence : un « expert » invité par un éditeur de logiciel dira rarement du mal du logiciel. Un chercheur peut avoir des intérêts commerciaux, et beaucoup en ont ; la différence est qu'il est tenu de les déclarer dans ses publications, et qu'il ne fonde pas son autorité dessus.

Sait-il dire ce qui ne marche pas ? C'est le test le plus fiable, et il ne demande aucune connaissance technique. Demandez à la personne les limites de ce dont elle parle, ce qu'on ne sait pas, où les résultats sont contestés, ce qui l'a surprise dans le mauvais sens. Un vrai spécialiste répond en détail et avec plaisir, parce que les limites sont précisément l'endroit où il travaille : c'est là qu'il passe ses journées, c'est là que sont les questions ouvertes, et c'est ce dont il a envie de parler. Il vous dira que tel résultat n'a jamais été reproduit, que tel benchmark est contaminé, que tel effet disparaît quand on change la formulation. Un vendeur de fumée répond par des généralités (« il faut rester prudent », « tout dépend de l'usage », « l'humain doit rester au centre ») ou change de sujet vers ce qui marche. Je précise, parce que j'ai écrit ailleurs que l'IA est un outil et que je le maintiens : la phrase est vraie, mais elle ne devient une esquive que servie comme conclusion, à la place de la liste des limites qu'on vous demandait. Variante utile : demandez-lui de quoi il n'est pas compétent pour parler. Le spécialiste répond en une seconde, avec une liste précise. L'expert autoproclamé hésite, parce que la question n'a pas de sens pour lui : son titre couvre tout.

Quand la fumée entre dans les articles

Il y a un dernier étage, et c'est le plus inquiétant pour quelqu'un dont c'est le métier : la contamination de la littérature scientifique elle-même.

Le phénomène est documenté et facile à constater. Des articles publiés contiennent des phrases comme « en tant que modèle de langage, je ne peux pas », restées dans le texte parce que personne, ni l'auteur ni le relecteur, ne l'a lu. En 2024, un article de biologie paru dans une revue à comité de lecture a été retiré après publication parce qu'il contenait des figures générées manifestement aberrantes, que des milliers de lecteurs ont vues avant que la revue ne réagisse. Des avocats américains ont été sanctionnés pour avoir déposé des conclusions citant des décisions de justice inexistantes. Et plusieurs travaux ont montré que les modèles fabriquent des références bibliographiques plausibles : auteurs réels, revue réelle, titre crédible, et un DOI qui ne mène nulle part.

C'est ce dernier point qui abîme le plus la recherche, parce qu'il est invisible. Un lecteur vérifie rarement chaque référence. Une bibliographie de quarante entrées dont trois n'existent pas se lit exactement comme une bibliographie de quarante entrées. Si l'article est cité à son tour, la fausse référence se propage, et il devient très difficile de remonter à l'origine. C'est de la désinformation par accumulation lente, sans intention et sans auteur clairement identifiable.

Que des chercheurs utilisent ces outils ne me pose aucun problème : j'en utilise, pour reformuler, pour traduire, pour débroussailler une littérature que je ne connais pas. Le problème n'est pas l'outil, c'est la disparition d'une étape. Signer un article veut dire qu'on répond de chaque phrase et de chaque référence qui s'y trouvent. Un texte qu'on n'a pas relu ligne à ligne, dont on n'a pas ouvert les sources une par une, n'est pas un texte dont on répond. La règle est simple et bien antérieure aux modèles de langage : on ne cite pas ce qu'on n'a pas lu. Elle suffit à éviter à peu près tous ces accidents, et elle est massivement enfreinte.

Il y a une ironie à relever. Les établissements qui achètent des détecteurs pour traquer les étudiants n'ont, le plus souvent, aucune procédure pour vérifier les publications de leurs propres personnels. On surveille en bas, on fait confiance en haut. Et le prestige du titre, encore lui, tient lieu de relecture : un texte signé « chercheur en IA » est lu avec moins de méfiance qu'une copie d'étudiant.

Le seul titre honnête que j'aie trouvé

Aucun des intitulés de ma récolte ne dit ce que la personne fait de ses journées. Ils disent tous la même chose, qui est : je suis du côté de l'IA, et c'est une bonne place.

Un seul sortait du lot : « Développeur et utilisateur de chatbots et multimédia ».

Regardez ce qu'il fait, ce titre. Il nomme un objet concret, des chatbots, et non un continent. Il distingue deux rôles, développer et utiliser, qui ne sont pas la même compétence et que tous les autres confondent. Il n'annonce ni expertise, ni recherche, ni vision. On sait immédiatement quoi lui demander, et quoi ne pas lui demander. C'est très exactement ce que j'appelle un périmètre.

Il n'a pas beaucoup d'abonnés. Évidemment. Le titre honnête ne rapporte rien : il dit une chose, alors que le titre vague en promet mille. C'est toute la logique de ce billet en une comparaison. Tant que dire ce qu'on fait vraiment coûte de la visibilité, la fumée restera le choix rationnel, et ceux qui refusent d'en produire resteront moins audibles que ceux qui en vivent.

Dommage. C'est pourtant le seul profil de ma récolte que j'aurais invité à parler devant mes étudiants.

Deux cas d'école

Le mécanisme n'est pas né avec l'IA générative ; l'IA n'est que son véhicule du moment. Le cas le plus documenté en France est celui d'Idriss Aberkane, et il vaut la peine de lui appliquer les quatre questions, parce qu'il les échoue toutes avec méthode.

Présenté au milieu des années 2010 comme titulaire de trois doctorats, professeur à CentraleSupélec, chercheur à Polytechnique, affilié à Stanford, il a vendu un best-seller sur les neurosciences et enchaîné les plateaux. À l'automne 2016, Le Monde, L'Express, Libération et Marianne ont vérifié auprès des établissements : ni normalien, ni enseignant-chercheur au CNRS ou à Polytechnique. Il y avait été, pendant un an, chercheur associé, c'est-à-dire bénévole, dans un centre de recherche en gestion. Son doctorat français porte sur les sciences de gestion et l'épistémologie appliquée, pas sur les neurosciences. En septembre 2022, le comité d'éthique de Polytechnique a qualifié de plagiat évident des passages de cette thèse ; la décision n'est devenue publique qu'à l'été 2023. Sur les publications, la question que je posais plus haut est la bonne : là où l'on attend une bibliographie, on trouve des ouvrages grand public et une poignée de textes dans des revues dont le sérieux a été contesté.

Rattachement : des affiliations réelles gonflées jusqu'à devenir fausses. Publications : absentes ou de complaisance. Intérêt commercial : livres, conférences, formations, tout le modèle repose sur le titre. Limites : un discours qui couvre les neurosciences, l'économie, le biomimétisme, la géopolitique, puis, dans les années 2020, la virologie, sans jamais se dire incompétent sur rien.

Ce qui rend le cas instructif, c'est qu'il n'a rien coûté. Les enquêtes ont été publiées, le CV a été démonté publiquement, et la carrière de conférencier a continué. Le public qui remplit les salles n'a pas lu L'Express ; il a lu « trois doctorats ». La correction ne rattrape jamais le titre, parce que le titre est court et la correction est longue.

Le second cas est plus récent, plus proche de mon sujet, et plus inconfortable, parce qu'il concerne quelqu'un dont la compétence est réelle. Luc Julia est ingénieur, docteur, a travaillé au SRI dans les années 1990 avec Adam Cheyer sur des architectures d'agents, a dirigé une équipe Siri chez Apple à partir de 2011, puis a été directeur scientifique chez Samsung et chez Renault. Personne ne conteste ce parcours. Ce qui a été contesté, c'est l'étiquette : « co-créateur de Siri », devenue en France « père de Siri » puis « pape de l'IA ». Or la société Siri a été fondée en 2007 sans lui, par trois personnes qui ne sont pas lui, et il a rejoint Apple après le rachat, une fois l'assistant déjà dans l'iPhone. Ses brevets de l'époque SRI ont bien été acquis par Siri Inc., mais pour valoriser un portefeuille de propriété intellectuelle, pas pour construire le produit.

Le point qui m'intéresse n'est pas la querelle sur le titre. C'est ce que le titre a produit. En juin 2025, il est auditionné par une commission du Sénat en qualité d'expert de l'IA, présenté sur le site de l'institution comme « concepteur de Siri ». Il y affirme, entre autres, que les modèles de langage ont « une marge d'erreur de 36 % », chiffre qui ne correspond à aucune mesure connue et qui n'a aucun sens sans dire de quelle tâche on parle. Les sénateurs saluent une intervention passionnante et une clairvoyance cartésienne. Il a fallu qu'un vidéaste, docteur en philosophie, démonte l'audition point par point en août 2025 pour que la presse spécialisée s'y intéresse, et pour que les cofondateurs de Siri, interrogés, précisent publiquement ce qu'avait été et n'avait pas été son rôle.

Ce cas dit deux choses que le premier ne disait pas. D'abord, qu'une compétence réelle sur un sujet, ici l'ingénierie logicielle des années 2000, ne se transfère pas à un autre, ici les modèles de langage de 2025 ; l'étiquette, elle, se transfère sans frottement. Ensuite, que le filtre institutionnel ne fonctionne pas : le Sénat n'a pas vérifié, il a lu la biographie. Et le lecteur pressé aura noté que le seul à avoir fait le travail de vérification n'est ni un chercheur en IA ni un journaliste, mais un philosophe avec une chaîne YouTube. Les quatre questions ne demandent pas de diplôme ; elles demandent de les poser.

C'est exactement ce qui se rejoue aujourd'hui avec « expert en IA », à une échelle beaucoup plus large, et avec des profils beaucoup moins visibles, donc beaucoup moins enquêtés.

Pourquoi j'ai retiré « en IA » de ma biographie

Je suis enseignant-chercheur en informatique, et chercheur associé à l'IRIT. Ce dernier mot mérite une précision, puisque je l'ai utilisé plus haut à propos d'Aberkane : chercheur associé veut dire rattaché à une équipe sans y avoir de poste ni de salaire. C'est mon cas. Ce qui distingue les deux situations n'est pas le statut, c'est ce qu'on met derrière : mes publications sont listées, avec leurs DOI, sur HAL et sur DBLP, et n'importe qui peut les compter. J'ai une thèse, et je travaille avec des modèles de langage au quotidien, en pédagogie et en recherche. Pendant un temps, ma biographie disait « chercheur en IA ». Je l'y avais mis pour une raison que je croyais bonne : le champ devenait passionnant, j'y passais de plus en plus de temps, et je me suis dit que le mot aiderait en vulgarisation. Les gens sauraient tout de suite de quoi je parle.

Perdu. C'est exactement l'inverse. Le suffixe ne disait pas de quoi je parle, il disait que je pouvais parler de tout. Il me donnait, aux yeux d'un lecteur non spécialiste, une autorité sur l'ensemble du champ alors que ma compétence réelle en couvre une fraction, et il effaçait la différence.

Cette fraction, je peux la décrire précisément. La seule partie de ma recherche qui regarde à l'intérieur d'un modèle de langage porte sur la façon dont il vectorise des mots : comment un texte devient une liste de nombres, ce que ces nombres capturent et ce qu'ils ratent. C'est un sujet précis, technique, borné, et je suis le premier à critiquer ce que j'en dis. Le reste de mes travaux sur l'IA, les garde-fous appliqués au handicap, les usages en formation d'ingénieurs, étudie les modèles de l'extérieur, comme des boîtes noires dont on mesure le comportement avec un protocole. Ça ne demande pas de savoir ce qu'il y a dedans, et ça ne fait pas de moi quelqu'un qui sait ce qu'est l'intelligence.

Je tiens à cette précision parce que je vois passer de plus en plus de papiers, et de thèses, où « de l'IA » a été rajouté. Rajouté, au sens propre : le travail existait, il tenait debout, et quelqu'un a branché dessus un truc qui ressemble vaguement à un LLM, ou un ersatz de réseau de neurones. Magie : comme on ne sait pas expliquer ce qu'il fait, on aura forcément de bons résultats. Ou pas. MAIS C'EST PUBLIABLE, REGARDEZ, JE FAIS DE L'IA ! Non, Camille, tu as juste mis une boîte noire qui parfois se comporte comme un chien savant qui aboie au bon moment, et qui parfois lance des bananes. Ce qui sépare les deux cas, tu ne le sais pas, et l'article ne le dit pas davantage.

Dans certains cas, c'est plus grave qu'un effet de mode. On balance des données à OpenAI ou à Anthropic sans réfléchir à ce qu'elles contiennent ni à l'endroit où elles atterrissent, on reprend les retours de ces agents, on les intègre au manuscrit, et on signe. Bravo, belle éthique scientifique. Se servir de ces outils ne me choque pas, je m'en sers tous les jours et je le dis ; ne pas le dire, et revendiquer la paternité de ce qu'on n'a pas écrit, c'est autre chose.

Les outils suivent le même chemin. Depuis un an, je vois passer des « ce week-end, j'ai conçu », « ce week-end, j'ai construit », « j'ai développé une application qui fait ». Moi, ce week-end, j'ai acheté une boîte de pâtes à mettre au micro-ondes, et j'ai fait de la cuisine.

Qu'on se comprenne bien : je ne jette la pierre à personne. Ni à ceux qui se servent de ces outils, ni à ceux qui conçoivent avec. Je défends même leur utilité, et sans réserve : dans le handicap, où je travaille, il n'existe à peu près rien qui fonctionne, et le besoin est ÉNORME. Là, ces modèles font des choses qu'aucun outil n'avait faites avant.

Ce qui me fait hurler, c'est quand la mention disparaît. Dominique, qui donne des cours d'histoire de l'art, nous pond en trois jours une application qui projette en 3D avec du raytracing. Nooooooon, sérieux ? Personne ne demande comment. La démo tourne, le projet est validé, et la question de savoir qui saura la maintenir se posera plus tard.

Et je hurle plus fort quand celui qui l'a produite ne sait pas ce qu'il a produit, parce que les défauts passent alors inaperçus, et que certains sont dangereux. Histoire vraie : en soutenance, un étudiant dont le projet plantait sous nos yeux m'a répondu « non mais monsieur, je peux pas vous expliquer, c'est pas moi qui l'ai codé, z'avez qu'à demander à l'IA ». Et il l'a fait, séance tenante : il a ouvert un chat avec Codex et y a tapé ma question. Il ne plaisantait pas, et il ne voyait pas ce que sa phrase avait d'extraordinaire.

Pour donner une idée de l'étendue du champ, voici mon propre trajet dedans. J'y suis entré en 2013 par l'analyse automatique des phrases, c'est-à-dire par le traitement de la langue. J'en suis sorti pendant ma thèse, que j'ai consacrée au handicap et à l'interaction homme-machine, avec la saisie de texte pour les personnes déficientes visuelles. J'y suis rentré plus tard par une porte encore différente, celle des ontologies et de l'alignement de connaissances. Trois entrées, trois communautés, trois vocabulaires, et à chaque fois j'ai dû réapprendre presque tout. Ces trois sous-domaines tiennent sous le même sigle, et pourtant quelqu'un qui excelle dans l'un peut n'avoir rien à dire sur les deux autres. C'est ce que le mot « IA » dissimule : il désigne un continent, et on l'emploie comme s'il désignait une compétence.

C'est d'ailleurs pour ça que je n'aime pas ce terme. Il ne dit rien de ce qu'on fait, rien de la méthode, rien du périmètre ; il ne fait qu'agrandir celui qui le prononce. « Expert en IA » ne m'évoque plus qu'une outre de vent, qui souffle son creux sur le vent des ignorants. Et le malheur des uns fait le bonheur des outres.

Ce qui me l'a fait comprendre, c'est une conférence invitée que M. Jude Rola m'a fait l'honneur d'organiser cette année. J'y ai parlé de ce que je connais. Et les questions de la salle ont été : « Vous pensez quoi de la conscience ? », « Comment on fabrique un être humain virtuel ? », « Est-ce que les machines vont nous remplacer ? ». Aucune de ces questions n'a de réponse scientifique aujourd'hui, et la plupart ne sont même pas des questions scientifiques : ce sont des questions philosophiques, ou anthropologiques, ou tout simplement des angoisses. Mais on me les posait à moi, parce que j'étais « le chercheur en IA » et que le titre promettait implicitement que j'avais quelque chose d'autorisé à dire dessus. La seule réponse honnête était « je ne sais pas, et personne ne le sait », et elle déçoit toujours. Je l'ai donnée quand même. C'est à ce moment-là que j'ai mesuré ce que le titre faisait en mon nom.

Or j'ai l'habitude de ne pas me prononcer sur ce que je ne maîtrise pas. Ou, plus exactement, de poser des questions à ceux qui pensent savoir, ce qui a le don de les agacer ; Socrate reste mon troll préféré, et la méthode est imbattable, puisque dans le pire des cas j'ai raison, et dans le meilleur j'ai tort et j'apprends quelque chose. Un exemple précis : je ne sais pas comment quelque chose qu'on appelle « intelligence » émerge de l'empilement de milliards de neurones artificiels, objets qui n'ont du neurone biologique que le nom et une vague analogie de fonctionnement. Personne ne le sait vraiment, à ma connaissance. Sur ce point, je me tais, ou je dis que je ne sais pas. Le mot « chercheur en IA » sur ma page suggérait le contraire : que j'avais un avis autorisé là-dessus, comme tous les autres experts.

Je l'ai donc retiré. Je participais à la pantalonnade, sans l'avoir voulu, simplement parce que le mot est disponible et qu'il rapporte.

Le titre « expert en IA » est précisément fait pour ne pas avoir à dire son périmètre. C'est pour ça qu'il ne faut jamais le prendre pour argent comptant, y compris quand c'est soi qui le porte.

La bonne nouvelle est que la vérification est à la portée de tout le monde. Il faut trente secondes pour taper un nom dans HAL ou Scholar. Les gens peuvent parfaitement vérifier ; ce qu'on ne leur a jamais dit, c'est que c'était possible, et où regarder.

L'état de ce champ est grave. Les faux experts y sont plus nombreux que les vrais, plus audibles, et mieux payés. Méfiez-vous. Vérifiez. Et quand quelqu'un vous dit « je suis chercheur en IA », demandez-lui où.

Un mot, pour finir, à l'intention des vendeurs de vent. La bulle éclatera, comme ont éclaté l'internet et le commerce en ligne à la fin des années 1990, puis les cryptomonnaies vingt ans plus tard. Une partie de ces experts en IA seront alors experts en chômage, le temps de refaire leur biographie. Comptez quelques semaines avant de les voir revenir en experts en IA quantique : le mot est déjà dans l'air, il impressionne davantage, et il a sur l'IA l'avantage d'être encore moins vérifiable.

Références