L'agent qui doute : pourquoi la vérification socratique ne rend pas un agent IA fiable

Le procès de l'agent qui doute

Imaginez un tribunal où l'accusé rédige aussi le verdict. Il plaide, délibère, se condamne ou s'acquitte — seul, avec sa propre tête pour seul juge. C'est exactement ce qu'on nous vend aujourd'hui sous le nom d'« agents auto-vérifiants ».

La promesse est séduisante : un agent IA qui se relit, se critique, débat avec lui-même avant de répondre. On invoque Socrate, on parle de vérification socratique interne, on célèbre les chaînes de self-critique. Je vais prendre le contre-pied.

Faire douter un modèle de lui-même n'est pas le rendre fiable. Un agent qui se relit n'est pas plus fiable — il est juste plus lent à se tromper avec assurance.

Ce que Socrate avait et qu'un LLM n'a pas

Revenons à la scène originelle. Dans les dialogues de Platon, Socrate n'interroge jamais lui-même : il interroge un autre. Euthyphron croit savoir ce qu'est la piété ; Socrate le pousse, par questions, jusqu'à l'aporie — l'impasse où l'interlocuteur découvre son ignorance.

Ce mécanisme ne fonctionne que pour une raison précise. Socrate est extérieur à Euthyphron. Il ne partage ni ses présupposés, ni ses angles morts, ni sa fierté. L'altérité est le moteur : la contradiction vient du dehors, elle n'est pas jouée par le même esprit.

Et Socrate ne triche pas avec lui-même. Son honnêteté — le fameux « je sais que je ne sais rien » — est un critère de vérité qui résiste à la complaisance. Deux ingrédients : altérité et honnêteté. Un modèle en boucle sur lui-même n'a ni l'un ni l'autre.

Quand un agent génère une réponse puis génère sa propre critique, il reste juge et partie. Mêmes poids, mêmes biais, même contexte contaminé par la première réponse. Ce n'est pas un dialogue : c'est un monologue qui se donne deux voix.

Trois pièges de la vérification interne

Le premier piège est le conformisme du modèle. Interrogé sur sa propre réponse, un LLM a une pente forte à la valider — une sycophancie retournée vers soi. La revue critique la plus solide sur le sujet, When Can LLMs Actually Correct Their Own Mistakes? (TACL, 2024), le tranche : aucune preuve robuste qu'un modèle s'auto-corrige de façon fiable quand le feedback vient de lui seul.

Le goulot d'étranglement, montrent les auteurs, n'est pas la capacité à réviser mais la capacité à juger. Le modèle sait parfois améliorer une réponse — mais il peine à déterminer si sa première réponse était fausse. Sans signal extérieur, la critique tourne à vide.

Le deuxième piège est l'illusion de robustesse. On croit qu'ajouter des agents qui débattent produit une seconde opinion. Faux. L'étude Talk Isn't Always Cheap (octobre 2025) teste des débats multi-agents sur CommonSenseQA, MMLU et GSM8K : le débat peut réduire la précision, tour après tour.

Les chercheurs observent des basculements du juste vers le faux après exposition au raisonnement des autres, une préférence pour l'accord plutôt que la contestation, et des cas où le simple vote majoritaire bat le débat. Quand les modèles partagent données d'entraînement et architecture, leurs erreurs sont corrélées. Le consensus n'est pas une validation : c'est un écho qui gagne en volume.

Le troisième piège est le coût. Chaque passe de self-critique multiplie les appels, la latence, la facture — sans garantie proportionnelle. On paie plus cher une confiance qui n'a pas gagné en vérité.

La vraie ligne de partage : un juge extérieur

La fiabilité ne naît pas d'un dialogue intérieur. Elle naît d'un juge extérieur au modèle. C'est la conclusion opérationnelle de la littérature : l'auto-correction devient utile seulement branchée sur un signal indépendant et vérifiable — interpréteur de code, moteur de recherche, raisonneur symbolique, oracle, annotation humaine.

Quatre gestes matérialisent cette extériorité.

Un. Le vérificateur déterministe. Règles, schémas, calculs exécutés hors du LLM. Un modèle brille par l'esprit de finesse mais rate un calcul de dates ; il faut lui prêter l'esprit de géométrie qu'il n'a pas — j'ai développé cette distinction dans pourquoi un LLM échoue sur un calcul simple malgré un raisonnement brillant. Une regex, un schéma JSON, un solveur : voilà de l'altérité.

Deux. L'oracle indépendant. Une source de vérité qui ne sort pas du modèle : base de données, API métier, et sur le pire cas, un humain dans la boucle. C'est le Socrate extérieur, celui qui ne partage pas les angles morts de l'accusé.

Trois. Le golden set adversarial, testé en amont. Un jeu de cas difficiles, construits pour piéger l'agent, éprouvé avant la production. La fiabilité ne se lit pas sur un taux de succès moyen mais sur la tenue face aux reformulations et aux perturbations.

Quatre. Le critère d'arrêt calibré sur la magnitude du risque. On ne laisse pas l'agent prolonger sa boucle indéfiniment : on décide, selon la gravité de l'erreur possible, quand escalader vers un humain. L'étude Towards a Science of AI Agent Reliability (ICML 2026) le formalise : la fiabilité tient à la consistency, la robustness, la predictability et la safety, pas au score brut. Les progrès de capacité, montrent les auteurs, n'améliorent que faiblement la fiabilité.

Ce que j'ai vu casser en production

J'ai déployé des pipelines « auto-vérifiants » avant de comprendre leur défaut. Sur un agent d'extraction documentaire, la seconde passe validait joyeusement une date hallucinée à la première : deux fois la même erreur, deux fois la même confiance. Le doute simulé n'avait rien révélé — il avait signé le procès-verbal.

Ce qui a réglé le problème n'était pas plus d'intelligence, mais plus d'extériorité. Un contrôle déterministe sur le format des dates, une vérification croisée contre la base client, une escalade automatique dès que le montant en jeu dépassait un seuil. Le modèle a cessé d'être son propre juge.

C'est le cœur de mon travail quand j'accompagne des entreprises sur leurs agents sur mesure : la question n'est jamais « l'agent répond-il souvent juste ? » mais « savons-nous quand il échoue et comment borner ses erreurs ? ». La bonne architecture n'est pas la plus bavarde ; c'est celle qui sait déléguer le verdict.

Cette exigence prolonge une idée que je défends ailleurs : la fiabilité d'un agent autonome se mesure au pire cas, pas à la fréquence de succès. Un agent fiable à 99 % qui rate le 1 % catastrophique n'est pas fiable — il est dangereux avec un bon score.

L'aporie ne s'auto-fabrique pas

Socrate reste précieux, mais recadré. Ce qui fonde le doute utile chez lui, ce n'est pas la répétition de la question : c'est l'altérité de l'interlocuteur et son honnêteté. Un modèle qui se relit n'a ni le premier, ni la seconde.

La vérification socratique interne est un théâtre à un acteur qui joue tous les rôles. Le doute y est mimé, jamais éprouvé, parce qu'il manque le regard du dehors qui refuse de tricher.

Alors gardez la formule pour votre prochain comité de direction, quand on vous vendra l'agent qui se corrige tout seul : un agent qui se relit lui-même n'est pas plus fiable, il est juste plus lent à se tromper avec assurance. La fiabilité s'achète en extériorité — un juge, un oracle, une règle, un humain — jamais en monologue.