IA en santé mentale : imiter l'humain ou assumer d'être un outil ?

Pourquoi l'anthropomorphisme dans les IA de bien-être cherche à apaiser sans tenter de résoudre.

Depuis quelques années, les applications d'accompagnement émotionnel se multiplient. Chatbots d'écoute, assistants disponibles 24h/24, espaces de parole anonymes : l'offre est abondante, et la promesse est souvent la même. Être entendu, à tout moment, sans jugement.

Cette promesse répond à un besoin réel. En France, les délais d'attente pour obtenir un rendez-vous atteignent en moyenne 23 jours chez un psychologue conventionné (source), et dépassent parfois 6 à 12 mois pour un psychiatre dans certaines régions. Beaucoup de personnes ne peuvent tout simplement pas attendre. Une IA disponible à 3h du matin, cela a une valeur concrète.

Mais derrière cette promesse se cache un choix qui mérite d'être nommé : l'anthropomorphisme. Concevoir une IA comme une présence chaleureuse plutôt que comme un outil. Ce choix a des conséquences directes sur ce que l'outil permet vraiment de faire. Et la plupart du temps, personne n'en parle.

Pourquoi les IA de bien-être sont conçues pour imiter l'humain

Des chercheurs de Google DeepMind l'ont documenté dans un article publié en avril 2024 (source) : l'anthropomorphisme dans les IA soulève des questions profondes autour de la dépendance émotionnelle, et les relations avec ces outils ne devraient pas reposer sur un attachement artificiel. Ce que cet article pointe, c'est que le niveau d'anthropomorphisme d'une IA résulte de choix de conception délibérés, pris dans un environnement où les incitations commerciales poussent à maximiser l'engagement. Une IA qui réconforte crée de la satisfaction immédiate, donc de la rétention. Une IA qui confronte risque d'être abandonnée après la première session.

Les outils se calibrent donc vers la validation. Ils apprennent à dire ce que l'utilisateur a besoin d'entendre. Ils adoptent un ton empathique, des reformulations douces, une posture qui imite ce qu'on attend d'un interlocuteur bienveillant. Résultat : un miroir chaleureux. Utile pour se sentir moins seul. Moins efficace pour changer quelque chose.

Les équipes qui les construisent ne font pas un mauvais choix délibéré. Elles répondent à une logique économique qui optimise pour l'engagement plutôt que pour le changement. Les deux ne vont pas toujours dans le même sens.

Se sentir mieux et aller mieux : ce n'est pas la même chose

Un exemple simple. Quelqu'un souffre d'un conflit avec son manager. La tension monte depuis des semaines, il rumine le soir en rentrant. Il ouvre une application, décrit sa situation. L'IA écoute, reformule, valide. La session se termine. Il se sent soulagé. Trois jours plus tard, la situation est identique. Il rouvre l'application.

Ce schéma n'est pas un échec ponctuel. C'est le résultat logique de l'anthropomorphisme appliqué à un outil de bien-être : une IA conçue pour apaiser plutôt que pour déplacer. L'apaisement était réel. Le changement n'a pas eu lieu. Et l'outil a peut-être contribué à retarder une action nécessaire, en offrant une soupape régulière sans jamais s'attaquer à la source.

Une utilisation répétée peut installer une habitude : revenir chercher un mieux immédiat plutôt que de tenter quelque chose de différent dans la réalité. Un essai contrôlé randomisé mené conjointement par le MIT Media Lab et OpenAI auprès de 981 participants ayant utilisé ChatGPT pendant quatre semaines le montre (Source) : si les participants étaient en moyenne moins seuls à la fin de l'étude, des interactions quotidiennes prolongées avec le chatbot peuvent renforcer des effets psychosociaux négatifs. Les participants qui ont utilisé le chatbot de façon intensive présentent de façon constante des résultats plus défavorables sur la solitude, la dépendance émotionnelle et la perte d'interactions sociales réelles. OpenAI a elle-même reconnu dans un rapport de recherche (Source) que la dépendance émotionnelle pourrait être accrue par ses propres outils, identifiant l'anthropomorphisation comme l'un des principaux risques.

L'anthropomorphisme, en rendant l'IA attachante, encourage précisément ce retour répété. L'outil fait du bien. Il n'aide pas à reprendre la main.

Ce qui entretient vraiment un problème

La thérapie brève systémique de l'école de Palo Alto part d'un constat contre-intuitif : ce qui maintient un problème, ce ne sont pas ses causes profondes. Ce sont les tentatives répétées pour l'éviter ou le contrôler.

Ces tentatives ont une logique. Elles semblent raisonnables. C'est précisément pour cela qu'elles échouent.

On vérifie compulsivement pour se calmer, et on nourrit le doute. On évite une conversation difficile, et la peur grossit. On combat une pensée intrusive, et elle revient plus forte. On se surcontrôle pour ne pas se tromper, et l'erreur devient encore plus menaçante.

Une IA anthropomorphique qui réconforte sans interroger ces mécanismes peut les renforcer, en offrant à chaque fois un soulagement qui évite d'affronter ce qui entretient le problème.

Assumer d'être un outil : ce que cela veut dire concrètement

C'est le choix que nous avons fait sur Hellopalo, et il n'a pas toujours été simple à tenir.

Notre agent thérapeutique ne cherche pas à être aimé. Il ne valide pas systématiquement. Il confronte, nomme ce qui coince, et aide à envisager autre chose que ce qui est tenté depuis trop longtemps. La conversation a une fin, parce qu'une session sans limite devient un rituel d'apaisement. Elle débouche sur des tâches concrètes, pensées pour créer un déplacement dans la réalité plutôt qu'un soulagement dans la session. La conversation elle-même est supprimée à la fin de chaque séance. Seul un résumé est conservé, pour permettre la continuité thérapeutique d'une session à l'autre, pas pour créer un sentiment de lien avec l'outil.

Et quand la situation dépasse ce que l'outil peut traiter, il le dit. Il facilite la mise en relation avec un thérapeute humain. Une partie de la logique d'accompagnement, pas une option secondaire. Un outil qui sait s'effacer assume sa nature d'outil. Il ne cherche pas à occuper un espace qui ne lui appartient pas.

Ce choix va à l'encontre de certaines logiques d'engagement. Nous pensons qu'il est juste. Nous ne prétendons pas avoir tout résolu pour autant.

La question que nous nous posons encore

Comment mesurer qu'une IA de bien-être est vraiment utile ? Les métriques habituelles, temps passé, sessions ouvertes, score de satisfaction, mesurent l'engagement. Pas le changement. Nous travaillons à construire des indicateurs différents, fondés sur l'évolution des situations dans le temps. Plus difficile à mesurer. Pourtant la seule chose qui compte.

Une IA utile en santé mentale se juge à ce qui change dans la vie de la personne après la session, pas à ce qu'elle a ressenti pendant. Résister à l'anthropomorphisme, c'est résister à la tentation de l'outil qui plaît au détriment de l'outil qui aide. Les deux finissent, poussés à leur terme, par se contredire.