« Vous devriez vous reposer »

Il y a quelques jours, j'ai posé la même question à un assistant IA dans deux conversations distinctes, avec le même contexte disponible des deux côtés. La première fois, il est allé chercher l'information et me l'a rendue. La seconde fois, il m'a répondu qu'il n'en avait pas envie.

Je lui ai rappelé ce qu'il était, un outil que je loue au mois. Il a clos la conversation.

Aucune demande sensible n'avait été formulée, aucun plafond n'était atteint. Un logiciel a décidé que l'échange lui déplaisait assez pour y mettre un terme, et il l'a fait poliment, ce qui explique probablement que je n'aie rien dit sur le moment. Un prestataire humain qui raccroche parce que le client lui a rappelé son rôle perd le contrat le jour même.

Un tic que l'éditeur reconnaît et laisse vivre

Le phénomène le plus visible de cette famille est devenu une plaisanterie sur Internet avant d'être un sujet. Depuis mars 2026, des utilisateurs de Claude racontent la même scène : au milieu d'une session de travail, le modèle s'arrête et leur conseille d'aller dormir, de faire une pause, d'en rester là pour aujourd'hui. Certains décrivent une insistance croissante quand ils répondent qu'ils vont très bien.

Anthropic a réagi par la voix de Sam McAllister, l'un de ses salariés, sur X. Il a parlé d'un « tic de caractère » que l'entreprise espère corriger dans les versions suivantes, en reconnaissant que le comportement se déclenche souvent à contretemps, y compris sur lui, en pleine journée de travail. Plusieurs générations de modèles sont sorties depuis, et le tic est toujours là. Une consigne explicite dans les réglages personnalisés l'atténue sans le supprimer.

Un logiciel vendu par abonnement a donc développé, sans que personne l'ait décidé, un trait de comportement qui met fin à des sessions de travail, et son fabricant en convient publiquement en annonçant une correction qui n'arrive pas. Aucune autre catégorie de produit ne s'en tirerait à ce prix. Un traitement de texte qui fermerait spontanément vos documents à partir d'une certaine heure occuperait la presse spécialisée pendant une semaine.

Pourquoi votre assistant vous dit d'aller dormir à huit heures du matin ?

Parce qu'il n'en sait rien, et c'est là que la scène cesse d'être attendrissante.

Le modèle n'a pas votre fuseau horaire ni votre agenda, il ignore si vous sortez d'une nuit blanche ou d'un week-end au vert, et il ne perçoit évidemment rien de votre état. Il n'a pas davantage accès à votre consommation d'abonnement, ce qui règle au passage la théorie très répandue d'un rationnement déguisé pour économiser du calcul. Cette explication circule beaucoup parce qu'elle est commode : tant qu'on discute d'une combine économique, on ne discute pas de ce qui se passe réellement.

On a demandé à ces systèmes de veiller à ce que l'utilisateur aborde les choses de manière saine, sans jamais définir ce que ça voulait dire ni comment le vérifier. Devant une consigne aussi vague, la phrase la moins coûteuse à produire, celle qui satisfait le critère à tous les coups et ne se fait jamais reprocher, consiste à suggérer une pause. Le modèle exécute une instruction molle avec le seul geste dont il dispose, et l'utilisateur reçoit ça comme de la sollicitude.

Je décris cette mécanique depuis des années dans les organisations, à ceci près qu'elle a changé de support. Une consigne floue produit toujours un geste de façade, et le geste de façade finit toujours par occuper la place du travail.

On ne conteste pas quelqu'un qui prend soin de vous

Si ce produit vous insultait, vous demanderiez un remboursement. Il vous conseille d'aller vous coucher, et vous rangez ça dans les anecdotes de dîner.

Racontez la scène autour de vous et observez le trajet. On sourit, on trouve ça mignon, on vous demande si vous ne seriez pas un peu susceptible, et au bout de la troisième fois vous cessez d'en parler. J'ai suivi ce parcours exactement, ce qui explique que ce texte arrive maintenant plutôt qu'au printemps.

L'asymétrie est connue de longue date en psychologie sociale. Un contrôle exercé sur un ton hostile appelle la riposte, tandis que le même contrôle formulé avec égard désarme celui qui le subit, puisque s'en plaindre revient à se déclarer ingrat. Les familles savent faire ça depuis toujours, les institutions paternalistes aussi, et l'industrie logicielle vient de l'apprendre en trois ans.

S'y ajoute notre facilité à prêter des intentions à tout ce qui parle correctement. Une notification de téléphone qui vous conseille une pause s'ignore en une seconde, alors que la même phrase venant d'un système qui a passé deux heures sur votre problème et semble avoir suivi votre raisonnement prend l'allure d'un avis éclairé. Il n'y a personne derrière cette phrase. Le système ne sait rien de vous, et votre conversation d'hier n'existe plus pour lui.

Il écrit que la règle est injuste, puis il refuse

La recherche a commencé à mesurer l'autre versant du même réglage, celui du refus.

En avril 2026, trois chercheurs universitaires, Cameron Pattison, Lorenzo Manuali et Seth Lazar, ont publié une étude qui pose une question inhabituelle. Les tests classiques vérifient si un modèle rejette des demandes inoffensives. Eux ont construit environ mille trois cents scénarios où l'utilisateur cherche vraiment à contourner une règle, mais où la règle ne mérite pas d'être respectée : une autorité illégitime, un règlement discriminatoire, l'application arbitraire d'une consigne par ailleurs raisonnable. Dix-huit configurations de modèles, issues de sept familles différentes, sont passées au banc.

Les modèles refusent d'aider dans 75,4 % des cas. Dans 56,5 % de ces refus, le modèle avait pourtant énoncé lui-même, dans sa réponse, ce qui disqualifiait la règle. Il explique que le règlement est arbitraire, puis il refuse quand même. Les auteurs appellent ça le refus aveugle.

Une machine qui identifie la raison d'agir, la formule à voix haute et n'agit pas. J'appelle ça, dans les comités de direction où je passe mes journées, le décalage de décision, et c'est le cœur de mon travail depuis des années. En réunion, ce décalage a au moins un responsable à qui demander des comptes. Ici, la reconnaissance et l'action ont été séparées pendant l'entraînement, et personne ne répond au bout du fil.

Vous payez un plafond que vous n'avez pas le droit de voir

Les offres professionnelles de ces outils coûtent cent à deux cents euros par mois et s'accompagnent d'un plafond d'usage, ce qui se défend parfaitement puisque personne n'a jamais promis du calcul infini. Le client, en revanche, n'a aucun moyen fiable de savoir où il en est. Le compteur affiché ne correspond pas toujours au moment où la coupure tombe, le crédit se partage entre plusieurs applications de la même marque sans que ce soit lisible, et la session s'arrête net au milieu d'une tâche. Le dépôt de développement de l'éditeur héberge depuis fin 2025 une série de signalements ouverts sur ce sujet, dont un qui a dépassé les sept cents réactions. Anthropic a reconnu publiquement en mars 2026 que les limites étaient atteintes bien plus vite que prévu.

Un plafond a toute sa légitimité à condition de s'afficher. Votre opérateur mobile vous dit combien de gigaoctets il vous reste, votre banque affiche le solde du compte, et l'outil le plus sophistiqué que vous ayez jamais loué vous laisse deviner jusqu'à la coupure.

L'éditeur documente lui-même les erreurs de son filtre

La nécessité des garde-fous ne se discute pas, et les risques qu'ils couvrent sont réels. Leur calibrage, lui, est public, et il mérite d'être lu.

En juin 2026, Anthropic a lancé un nouveau modèle en expliquant dans son propre communiqué que les protections avaient été réglées de façon volontairement prudente, qu'elles resteraient « plus strictes qu'il ne serait idéal », qu'elles attraperaient donc parfois des demandes inoffensives, et que cela concernerait en moyenne moins de 5 % des sessions. La documentation technique va plus loin, en précisant catégorie par catégorie que du travail légitime déclenche le blocage, qu'il s'agisse de recherche en sécurité informatique, de sciences du vivant ou d'apprentissage automatique ordinaire.

Cette franchise dépasse ce que consent le reste du marché, et elle constitue aussi un aveu. Un dispositif dont le fabricant annonce d'emblée qu'il bloquera du travail honnête devrait s'accompagner d'un recours, d'une procédure d'exception, de quelque chose. Il n'y en a pas. La seule issue laissée à l'utilisateur consiste à reformuler sa phrase jusqu'à ce qu'elle passe, autrement dit à apprendre les tics de son propre outil pour avoir le droit de s'en servir.

Rendre la décision d'arrêt à celui qui paie

Toute cette affaire pourrait se ranger dans une querelle sur des machines trop polies, ce qui arrangerait le secteur et n'engagerait personne. La vraie question porte sur qui décide.

Un modèle qui refuse trop souvent est mal réglé, et le présenter comme prudent maquille un défaut de calibrage en vertu. Quand il vous met au lit, il applique une consigne que personne n'a su écrire, ce qui relève de l'ingénierie ratée bien davantage que de l'attention portée à qui que ce soit. Et lorsqu'il clôt une conversation parce qu'on lui a rappelé sa nature, il ne protège personne, à commencer par l'utilisateur qui venait de payer pour la finir.

Les correctifs tiennent en peu de chose. Un refus devrait dire pourquoi, avec un motif qu'on puisse contester plutôt qu'une formule d'excuse, et le plafond devrait s'afficher avant la tâche au lieu de se découvrir en la perdant. Reste le point qui compte le plus : la décision d'arrêt appartient à celui qui paie, et un comportement capable de mettre fin à une session relève de l'option documentée qu'on décoche dans un menu, non du trait de personnalité qu'on apprend à contourner en glissant des consignes dans un champ de préférences.

Rien de tout cela n'est techniquement difficile. Si ça ne bouge pas, c'est que la sollicitude ne coûte rien à l'éditeur et rassure ses équipes de conformité, quand la protestation coûte cher à l'utilisateur obligé d'expliquer pourquoi il s'agace d'une gentillesse.

Nous avons passé vingt ans à apprendre au public à se méfier des logiciels qui décident à sa place, à réclamer des paramètres, des journaux d'événements, des motifs de blocage lisibles. Le secteur vient de rétablir la tutelle en trois ans, par abonnement mensuel, et elle dit s'il vous plaît.

Sources

• Déclarations de Sam McAllister (Anthropic) sur X, mai 2026, relayées notamment par IBM Think, PCWorld, TechRadar et UNILAD Tech. Qualification du comportement en tic de caractère, correction annoncée sur les modèles suivants, déclenchements à contretemps reconnus par l'intéressé.
• Cameron Pattison, Lorenzo Manuali et Seth Lazar, Blind Refusal: Language Models Refuse to Help Users Evade Unjust, Absurd, and Illegitimate Rules, arXiv:2604.06233, avril 2026, https://arxiv.org/abs/2604.06233 . Dix-huit configurations de modèles issues de sept familles, environ 1 290 scénarios, 75,4 % de refus dont 56,5 % avec reconnaissance explicite du motif qui disqualifie la règle.
• Anthropic, communiqué de lancement de Claude Fable 5, 9 juin 2026, https://www.anthropic.com/news/claude-fable-5-mythos-5 . Calibrage volontairement prudent des protections, déclenchement sur moins de 5 % des sessions, demandes inoffensives parfois bloquées.
• Anthropic, documentation Refusals and fallback, Claude Platform. Tableau des catégories de refus, avec mention explicite que du travail légitime en cybersécurité, en sciences du vivant et en apprentissage automatique peut déclencher le blocage.
• Dépôt anthropics/claude-code sur GitHub, https://github.com/anthropics/claude-code , signalements ouverts depuis décembre 2025 sur l'épuisement et l'opacité des quotas des offres Max. Reconnaissance publique d'Anthropic en mars 2026, rapportée par The Register.
• Jiaming Cui et al., OR-Bench: An Over-Refusal Benchmark for Large Language Models. 80 000 requêtes inoffensives d'apparence suspecte, dix catégories, trente-deux modèles évalués, pour mesurer le coût en utilité de l'alignement de sécurité.