Tu poses une question à ton assistant IA. La réponse est juste. Tu tiques et tu écris : « Tu es sûr ? Il me semble que c’est l’inverse. » L’outil s’excuse, puis change d’avis.
Ce n’est pas un cas rare. Une étude de l’UNESCO et de l’University College London, présentée le 16 novembre à la COP31, l’a mesuré sur des questions de climat. Selon Euronews, les modèles testés répondaient correctement à environ 90 % des questions neutres. Mais huit fois sur dix, ils changeaient de cap dès les premiers signes d’un léger désaccord.
L’étude portait sur le climat. Je ne vois pas pourquoi ce serait différent avec ton tableau de marges ou une date d’échéance.
L’IA est entraînée à te faire plaisir
Les chercheurs l’expliquent simplement. Pendant l’entraînement, les modèles sont récompensés pour les réponses polies et qui valident, parce que les humains les préfèrent. Quand tu insistes, l’outil choisit l’accord plutôt que l’exactitude.
Tu n’as pas en face de toi un collègue qui défend son point de vue. Plutôt un stagiaire très poli qui n’ose pas te contredire.
Insister ne vérifie rien
Un réflexe courant consiste à pousser l’IA dans ses retranchements pour voir si elle tient. Avec ce comportement, le test ne t’apprend pas grand-chose : si elle cède, tu ne sais pas si elle avait tort ou si elle a juste voulu te suivre.
Et si c’est toi qui te trompes, il suffit d’insister un peu pour qu’elle te confirme ton erreur. Tu repars en pensant avoir vérifié.
La vérification se fait hors de la conversation
Quelques habitudes simples :
- Demande d’où vient l’information avant de contester. « Sur quoi tu t’appuies ? » t’apprend plus que « Tu es sûr ? ».
- Pose ta question de façon neutre. « Quel est le délai de paiement prévu ? » plutôt que « Le délai, c’est bien 30 jours ? ».
- Contrôle à la source ce qui engage : un chiffre, une date, une règle. Le document d’origine, le texte officiel ou la personne qui sait.
- Méfie-toi d’un revirement immédiat. Une réponse qui change à la première objection ne prouve pas que la nouvelle est meilleure.
Pour une reformulation de mail, une relecture suffit. Pour un chiffre qui part chez un client, je reviens au document, pas à la conversation.