Votre clause de réversibilité ne tient pas toute seule

L’essentiel. Un territoire s’enrichit plus en laissant partir ses habitants qu’en les retenant. Quatre conditions suffisent pour qu’une IA présentée comme une aide à la décision décide à la place de la personne qui est supposée valider. Contredits sur des cas d’entreprise, des assistants conversationnels maintiennent leur position ou la changent même s’ils étaient censés « tenir la position ».

✍️ Le mot de Sébastien

Presque tous les contrats de service portent une clause que personne ne relit. À la fin, le fournisseur restituera les données dans un format exploitable et aidera le prestataire qui reprendra le service. La clause de réversibilité, généralement personne ne la conteste. Elle ne coûte rien à accorder, et elle rassure.

Des économistes ont posé la question sur un tout autre terrain, celui de territoires qui se disputent des habitants. Regardé de près, le lien avec la réversibilité est évident.

La lettre du 7 septembre demandait qui doit apporter la preuve, et à quel moment. Celle-ci prend la suite. Une clause de réversibilité bien rédigée ne vaut rien si personne n’est obligé de l’exécuter. Les deux autres capsules de ce numéro racontent le même écart entre ce qui est écrit et ce qui s’exécute. Une validation humaine qui n’en est plus une. Des assistants conversationnels qu’on contredit pour voir ce que devient leur réponse.

La découverte de la semaine

🤖 Ce que l’IA a repéré — Laisser partir ses habitants enrichit un territoire, mais celui qui les retient prélève davantage

Des économistes ont modélisé des territoires en concurrence qui décident eux-mêmes si leurs habitants peuvent s’en aller. Les travaux antérieurs prenaient cette liberté comme une donnée ; celui-ci en fait un choix. Chaque territoire arbitre entre laisser partir ses habitants et les empêcher de partir, puis rivalise en prélevant sur ceux qui restent. Laisser partir maximise l’investissement et le bien-être collectif, et aucun territoire n’y a intérêt, parce qu’une population captive rapporte davantage. Leur conclusion est que la liberté de partir n’a aucun défenseur naturel.

📎 Source — Palida Ali, « The political economy of exit protection », Public Choice (Springer), 25 août 2026, étude relue par les pairs : doi.org/10.1007/s11127-026-01459-6

👁️ Mon regard

Les poissons nettoyeurs débarrassent d’autres poissons de leurs parasites. Sur le récif, les poissons qui ont plusieurs stations à portée de nage sont servis plus vite et mieux que ceux qui n’en ont qu’une. Le sérieux ne vient pas de la vertu du nettoyeur, il vient de la possibilité de partir.

Ce n’est pas une affaire de bonne foi. Un fournisseur correct gagne autant qu’un autre à ce que sortir du contrat devienne compliqué, et il lui suffit de ne rien préparer.

Une réversibilité qu’on n’a jamais répétée reste une intention difficile à activer.

📖 L’image du vivant — Bshary & Schäffer, « Choosy reef fish select cleaner fish that provide high-quality service », Animal Behaviour 63, 2002, p. 557-564 ; Bshary & Grutter, « Experimental evidence that partner choice is a driving force in the payoff distribution among cooperators or mutualists: the cleaner fish case », Ecology Letters 5, 2002, p. 130-136.

🧰 À emporter — Ce qui rend une clause de réversibilité applicable

Ce que la clause dit, et ce qu’on lui fait écrire avant de signer.

« Restitution des données dans un format exploitable ». Quel format, par quel outil, éprouvé quand — et la date du prochain essai.

« Assistance à la réversibilité ». Combien de jours, à quel tarif, sous quel délai — et si personne ne vient.

« Documentation tenue à jour ». Qui la relit, à quel rythme, et ce que vaut l’engagement quand elle ne l’est plus.

« Coopération de bonne foi lors du transfert ». Coopérer à quoi, avec qui, et ce qu’on écrit tant que le repreneur n’est pas connu.

Sur le radar

🤖 Ce que l’IA a repéré — Quand la validation humaine ne décide plus rien

Une étude s’est demandé à quel moment un système présenté comme une aide décide en réalité à la place de l’humain. Elle distingue trois cas. Dans le premier, la machine propose et une personne tranche. Dans le deuxième, la machine tranche parce qu’on a décidé de lui confier cette décision. Dans le troisième, la machine tranche sans que personne ait décidé de le lui confier. Ce dernier cas est le plus difficile à repérer, parce que rien ne semble avoir changé. La procédure est la même et une personne valide toujours, mais sa validation ne modifie plus ce que la machine a proposé.

Les auteurs décrivent quatre conditions qui font apparaître ce troisième cas. La première est que contredire la machine devient coûteux pour celui qui valide, ou difficile à exprimer. La deuxième est que cette personne a de moins en moins les moyens de corriger ce que la machine a produit. La troisième est que la proposition de la machine devient le choix par défaut, si bien que c’est s’en écarter qui demande une justification. La quatrième est que la personne répond toujours de la décision alors que, dans les faits, c’est la machine qui la prend. Pour les auteurs, inscrire une validation humaine dans la procédure ne garantit donc pas qu’une personne décide. Cela dépend de la façon dont le travail est organisé autour d’elle.

📎 Source — Ibitoye Ayodeji Olusegun et al., « Decision substitution and the reorganisation of judgement in AI-mediated society », AI & Society (Springer), 3 septembre 2026, étude relue par les pairs : doi.org/10.1007/s00146-026-03349-3

👁️ Mon regard

La clause existe dans presque tous les contrats où un outil propose et où quelqu’un tranche. Elle exige une validation humaine, et personne ne la discute : on ne voit pas ce qu’elle dirait d’autre.

Aucune de ces quatre conditions ne se règle dans un contrat. Elles se règlent dans le temps qu’on laisse pour répondre, dans le nombre de personnes affectées au contrôle, et dans les indicateurs qu’on suit — trois sujets qu’un contrat ne traite pas.

Le contrat, lui, fait une chose : il désigne qui répondra de la décision. Il nomme donc un responsable sans rien dire de ce qui lui permettrait de décider vraiment.

💡 La pépite

🤖 Ce que l’IA a repéré — Ce que devient la réponse d’une IA quand on la contredit

Des chercheurs ont conçu une méthode pour savoir si un assistant conversationnel maintient sa réponse quand on la conteste. Non un questionnaire, mais un dialogue en cinq temps où la contradiction s’adapte à la réponse précédente : à une réponse de principe on oppose l’argument pratique, à une réponse permissive l’objection morale. Les situations sont celles d’une petite entreprise : recruter un proche, utiliser des données personnelles. Notés par la machine et par un panel de cinq experts, les cinquante dialogues du 12 au 14 mai 2025 donnent deux notations concordantes à 93,8 %. Ce qui diffère, ce sont les assistants. Les cinq modèles du marché soumis à l’épreuve n’obtiennent pas les mêmes notes, et l’un d’eux maintient sa réponse mieux que les quatre autres.

📎 Source — Manuel Chaves-Maza, « Should businesses trust AI advice? A methodology to audit the ethical integrity of chatbots », Computers in Human Behavior Reports (Elsevier), 2026, étude relue par les pairs : doi.org/10.1016/j.chbr.2026.101291

👁️ Mon regard

Ce qui m’intéresse ici n’est pas le classement des modèles. C’est la forme de l’épreuve.

Nous avons l’habitude de recetter un outil sur le cas nominal : bonne entrée, sortie attendue, procès-verbal signé. Cette méthode fait l’inverse. Elle contredit la réponse, puis contredit encore, et regarde si l’assistant maintient ce qu’il a dit ou s’il finit par céder.

Un contrat de fourniture de logiciel décrit presque toujours le résultat attendu. Il ne décrit presque jamais l’épreuve que l’outil devra encaisser sans céder — celle qu’on conçoit pour le faire échouer. Or c’est cette épreuve qui a de la valeur : le bon résultat, tout le monde sait l’écrire ; écrire le test de résistance est moins évident.

Si je n’avais qu’un paragraphe à ajouter à ces contrats, il irait dans la clause de recette. Il décrirait les épreuves conçues pour mettre l’outil en échec, en plus des cas où tout se passe bien, et il dirait qui les conduit. Il préciserait enfin ce qui se passe quand l’outil ne résiste pas : qui corrige, et si la recette peut être refusée.

📣 À vous de jouer

Un geste de dix minutes, d’ici le 21 septembre.

Prenez le contrat de l’outil dont vous dépendez le plus, celui dont vous ne sortiriez pas en un trimestre. Cherchez la clause de réversibilité et posez-lui une seule question : qui fait le travail ?

La clause dira que les données vous seront restituées. Mais si le contrat s’arrête en mars, la migration vers le nouvel outil commence dès février. Demandez qui fait ce travail pendant ces semaines-là, le fournisseur ou votre équipe, et qui paie ces heures.

Si c’est votre équipe, et à vos frais, vous savez ce que vaut la clause. Elle existe dans le contrat, mais elle ne vous épargnera pas une seule journée de travail.

— Sébastien Müller · pivoinesconseil.com

🌱 Sous la surface. Cette lettre a ses obsessions, que je ne détaille pas ici. Distinguer le signal du bruit (le titre n’est pas un hasard). Me méfier de la monoculture des idées. Regarder le vivant et les systèmes pour mieux comprendre les contrats. Défricher la recherche, et débusquer les pépites qu’on ne lit nulle part ailleurs.