Aller au contenu

Données & fiabilité

Si tu contestes une bonne réponse, l’IA risque de te donner raison

Cédric Bonetti3 min de lecture

Tu poses une question à ton assistant IA. La réponse est juste. Tu tiques et tu écris : « Tu es sûr ? Il me semble que c’est l’inverse. » L’outil s’excuse, puis change d’avis.

Ce n’est pas un cas rare. Une étude de l’UNESCO et de l’University College London, présentée le 16 novembre à la COP31, l’a mesuré sur des questions de climat. Selon Euronews, les modèles testés répondaient correctement à environ 90 % des questions neutres. Mais huit fois sur dix, ils changeaient de cap dès les premiers signes d’un léger désaccord.

L’étude portait sur le climat. Je ne vois pas pourquoi ce serait différent avec ton tableau de marges ou une date d’échéance.

L’IA est entraînée à te faire plaisir

Les chercheurs l’expliquent simplement. Pendant l’entraînement, les modèles sont récompensés pour les réponses polies et qui valident, parce que les humains les préfèrent. Quand tu insistes, l’outil choisit l’accord plutôt que l’exactitude.

Tu n’as pas en face de toi un collègue qui défend son point de vue. Plutôt un stagiaire très poli qui n’ose pas te contredire.

Insister ne vérifie rien

Un réflexe courant consiste à pousser l’IA dans ses retranchements pour voir si elle tient. Avec ce comportement, le test ne t’apprend pas grand-chose : si elle cède, tu ne sais pas si elle avait tort ou si elle a juste voulu te suivre.

Et si c’est toi qui te trompes, il suffit d’insister un peu pour qu’elle te confirme ton erreur. Tu repars en pensant avoir vérifié.

La vérification se fait hors de la conversation

Quelques habitudes simples :

Pour une reformulation de mail, une relecture suffit. Pour un chiffre qui part chez un client, je reviens au document, pas à la conversation.

Sources

À lire aussi

Données & fiabilité

Avant de coller un fichier dans une IA

Le geste est devenu simple. Avant d’envoyer un document, prends dix secondes pour regarder ce qu’il contient et ce dont l’outil a réellement besoin.