L'effet ELIZA, quand la machine semble nous écouter
En 1966, au MIT, Joseph Weizenbaum présente ELIZA, un programme qui imite un psychothérapeute en reformulant les propos de ses utilisateurs. Certains lui prêtent une compréhension que ses règles ne lui donnent pas. Cette expérience nourrit sa réflexion sur le jugement humain et éclaire encore notre tendance à nous sentir écoutés par les assistants conversationnels.
Un dialogue au MIT
En janvier 1966, Joseph Weizenbaum présente ELIZA, un programme développé au MIT qui permet de dialoguer par écrit avec un ordinateur. Son célèbre scénario DOCTOR imite certains échanges d'une psychothérapie inspirée de Carl Rogers, où le praticien invite la personne à développer ses propos. Ce choix facilite la simulation, parce qu'une question en retour peut sembler pertinente sans apporter de connaissance sur le monde.
ELIZA repère des mots clés, découpe les phrases selon des règles, puis en assemble les morceaux pour répondre. Imaginons, en français, une règle qui transforme « Je suis inquiet pour mon travail » en « Depuis quand êtes-vous inquiet pour votre travail ? ». La réponse reprend exactement le sujet qui nous occupe, alors nous pouvons y reconnaître une attention personnelle. Pourtant, la même transformation pourrait s'appliquer sans examiner les raisons de cette inquiétude.
Le programme et son scénario sont distincts, ce qui permet de changer les règles de conversation. Dans sa présentation d'origine, l'utilisateur écrit sur un terminal de type machine à écrire, et la réponse s'imprime sur le même appareil. Le spectacle tient donc d'abord à quelques lignes qui se répondent, avec assez de continuité pour donner envie de poursuivre.
Une demande de confidentialité
Weizenbaum raconte ensuite un épisode devenu célèbre. Sa secrétaire, qui l'avait vu travailler sur le programme pendant des mois, commence à converser avec ELIZA. Après quelques échanges, elle lui demande de quitter la pièce. Selon son récit, connaître la fabrication du logiciel n'empêche donc pas de vouloir un moment privé avec lui. D'autres réactions d'utilisateurs lui font également constater combien une réponse automatique peut recevoir une apparence de compréhension et d'empathie.
Il faut cependant garder la bonne distance avec cette histoire. Nous la connaissons surtout par Weizenbaum, et demander de l'intimité ne prouve pas que sa secrétaire croyait parler à une personne. On peut vouloir écrire sans témoin, même en sachant que le destinataire est un programme. Son propre point de vue manque au récit.
Des chercheurs qui ont étudié les archives et le code d'ELIZA soulignent aussi que des dialogues publiés ont été retouchés. Alors, ces exemples ne permettent pas de mesurer à quelle fréquence les utilisateurs se sentaient compris. L'anecdote ouvre une question sur notre relation au langage, mais elle ne suffit pas à décrire tous les usages ni toutes les personnes.
Prêter une intention aux mots
L'anthropomorphisme consiste à attribuer à une entité non humaine des caractéristiques humaines, par exemple une intention ou une émotion. Quand un logiciel répond à notre peine avec une formule attentionnée, nous pouvons lui prêter le souci de nous aider. L'effet ELIZA désigne plus précisément cette tendance à lire dans les réponses d'un programme davantage de compréhension qu'elles n'en établissent.
Une théorie proposée en psychologie par Nicholas Epley et ses collègues aide à comprendre ce mouvement. Nous nous appuyons sur notre connaissance des humains pour interpréter un comportement difficile à expliquer. Le désir de comprendre ce qui agit face à nous peut renforcer cette lecture ; le besoin de lien social peut aussi y contribuer. Ce sont des pistes pour expliquer des différences entre situations, sans ranger tous les utilisateurs dans une même catégorie.
Prenons une réponse comme « Je comprends que cette journée ait été difficile ». Dans une conversation entre personnes, nous pouvons chercher derrière ces mots une expérience ou une attention. Face à une machine, la même lecture reste tentante, parce que la phrase ressemble à celles que nous connaissons déjà. On peut donc remarquer cette impression sans se juger naïf, puis se demander sur quoi elle repose réellement.
La question du jugement
En 1976, Weizenbaum publie Computer Power and Human Reason, sous-titré From Judgment to Calculation. Dans sa préface, il défend l'idée que certaines tâches ne devraient pas être confiées aux ordinateurs, indépendamment de la possibilité technique de les leur faire accomplir. Les réactions à ELIZA nourrissent ainsi une réflexion plus large sur la place que nous donnons au calcul dans nos décisions.
Sa question porte sur les fins autant que sur les moyens. Si un programme peut produire une réponse convaincante, faut-il pour autant lui donner le rôle de celui qui décide ? Pour réfléchir à cette distinction, imaginons un outil qui classe des demandes d'aide. Vérifier qu'il applique bien une règle ne nous dit pas encore si cette règle convient aux personnes concernées. Nous devons aussi pouvoir discuter les critères et savoir qui répond de leur emploi.
On peut lire cette position sans adopter toutes les conclusions de son auteur sur les machines. Elle invite à préciser ce que nous attendons d'un outil avant de lui attribuer une fonction. Dans un échange personnel, par exemple, aider quelqu'un à formuler une difficulté et assumer la responsabilité d'un accompagnement engagent des attentes différentes. La qualité d'une phrase ne tranche pas à elle seule cette question.
Une comparaison à borner
Comparer ELIZA aux assistants conversationnels actuels demande de garder deux questions séparées. Comment un système produit-il ses réponses ? Et comment recevons-nous ces réponses ? L'histoire d'ELIZA éclaire surtout la seconde. Elle montre qu'un dialogue peut susciter une impression de compréhension, mais elle ne fournit pas à elle seule une description des systèmes qui lui ont succédé.
Il serait donc trop rapide de conclure que toutes les machines qui conversent possèdent les mêmes capacités. À l'inverse, une réponse plus développée ne suffit pas à établir qu'un système éprouve l'émotion qu'il exprime. Pour examiner un assistant, mieux vaut partir d'une tâche précise et regarder les résultats que nous pouvons contrôler. Une formule chaleureuse ne vérifie pas une date ; une erreur sur une date ne dit pas tout de l'utilité d'une reformulation.
Cette distinction évite aussi de confondre l'effet produit et l'intention supposée. Si un échange nous aide à mettre nos idées en ordre, cette aide peut compter pour nous sans résoudre la question de l'expérience intérieure de la machine. L'effet ELIZA ne constitue donc ni un diagnostic sur l'utilisateur ni une preuve sur la conscience d'un système. Il signale un écart possible entre notre impression et les conclusions qu'elle autorise.
Converser avec un peu de recul
On peut prolonger cette histoire par une petite expérience de lecture. Devant une réponse qui semble particulièrement bienveillante, demandons-nous quels mots produisent cette impression. Est-ce la reprise d'un détail personnel ? Est-ce une question qui nous invite à continuer ? En observant la phrase, nous distinguons mieux ce que nous avons confié au système de ce que nous lui prêtons en retour.
Ensuite, changeons une attente concrète. Pour préparer un message délicat, par exemple, nous pouvons demander plusieurs formulations, puis choisir celle qui correspond à notre relation avec le destinataire. Si nous cherchons plutôt un renseignement, nous pouvons vérifier l'affirmation dans un document consultable. L'évaluation suit alors le besoin, au lieu de dépendre seulement de l'aisance du dialogue.
Rien n'oblige à bannir la politesse ou le plaisir de converser. Dire merci peut simplement appartenir à notre manière de parler, sans déclarer que la machine possède des sentiments. Mais lorsqu'une réponse nous paraît attentionnée, nous pouvons conserver cette impression tout en examinant son contenu. La curiosité de Weizenbaum reste utile à cet endroit précis, lorsque quelques mots sur un terminal nous conduisent à imaginer quelqu'un derrière eux et que nous cherchons à comprendre pourquoi.
Sources et crédits
- ELIZA — A Computer Program For the Study of Natural Language Communication Between Man and Machine (1966), Communications of the ACM ; transcription hébergée par UMBC
- Computer Power and Human Reason (1976), préface, W. H. Freeman ; extrait hébergé par les archives René Berger
- On seeing human: a three-factor theory of anthropomorphism (2007), Psychological Review ; notice PubMed
- Conversations about conversational code: on the collaborative critical code studies reading of ELIZA (2026), AI & Society, Springer Nature
Visuel : Illustration générée par IA (Codex, outil image_gen) pour Les petits détours, Usage éditorial — Les petits détours.