Les questions auxquelles un chatbot ne peut encore répondre

Ils répondent en quelques secondes, résument un rapport en trois lignes, écrivent un mail « comme vous » et donnent l’illusion d’une conversation sans fin, pourtant la promesse des chatbots bute encore sur des zones grises, celles où le langage ne suffit pas. À l’heure où entreprises, écoles et administrations testent ces outils à grande échelle, une question revient, très concrète : sur quoi ne faut-il pas leur demander de trancher, et pourquoi ces limites persistent-elles malgré les progrès rapides ?

Quand l’intuition humaine fait défaut au modèle

Peut-on vraiment « sentir » une situation derrière un écran ? C’est là que les chatbots montrent leur première fragilité, parce qu’ils excellent à reconnaître des régularités dans des milliards de mots, mais peinent à reproduire l’intuition, ce mélange d’expérience, d’émotions et de contexte implicite qui guide tant de décisions. Un modèle de langage calcule la suite la plus probable d’une phrase, il n’observe pas votre visage, n’entend pas la fatigue dans une voix et ne perçoit pas le non-dit d’une réunion tendue, il s’appuie sur des indices textuels, ce qui le rend redoutable pour synthétiser, mais fragile dès qu’il faut « lire la pièce ».

La recherche en linguistique et en sciences cognitives rappelle depuis longtemps que comprendre ne se limite pas à manipuler des symboles. Les échanges humains sont pleins d’ambiguïtés utiles, d’allusions, de références partagées, et même de silences qui valent réponse. Un chatbot peut produire une réplique plausible à « Tu vois ce que je veux dire ? », mais il n’a pas l’ancrage social qui permet d’estimer si, derrière la formule, il y a un désaccord, une gêne ou un appel à l’aide. C’est aussi pour cela que, dans le monde du travail, les usages les plus robustes restent ceux où la machine assiste sans décider, par exemple reformuler une note interne, proposer des variantes d’un argumentaire, ou dégrossir une FAQ, alors que les situations sensibles, elles, demandent une présence humaine capable d’interpréter des signaux faibles et d’assumer un arbitrage.

Cette limite se voit particulièrement dans les sujets où l’on attend une prise de position « juste » plutôt qu’une réponse « plausible ». Un manager qui demande comment annoncer une restructuration, un enseignant confronté à un élève en décrochage, un proche inquiet face à des signes de dépression, tous cherchent plus qu’une liste de conseils génériques. Même lorsque le chatbot propose des recommandations prudentes, il ne sait pas ce qu’il ignore, et cette incapacité à mesurer l’épaisseur du contexte peut conduire à des réponses trop sûres d’elles, ou au contraire trop vagues pour être utiles, ce qui est un paradoxe fréquent : plus l’outil paraît fluide, plus il est tentant de lui prêter une compréhension qu’il n’a pas.

Les faits frais, un talon d’Achille

La question qui fâche : est-ce à jour ? Pour beaucoup d’utilisateurs, le chatbot ressemble à un moteur de recherche bavard, mais la comparaison est trompeuse. Un modèle peut avoir été entraîné sur de très grandes masses de textes, sans accès direct et systématique à l’actualité minute par minute, et même lorsqu’il peut consulter des sources, il n’a pas, par nature, la rigueur d’un protocole journalistique de vérification. Résultat : sur les informations récentes, locales ou très spécialisées, il peut hésiter, mélanger des éléments, ou produire une réponse cohérente en apparence mais fausse dans les détails.

Dans les rédactions, l’écart entre une formulation convaincante et un fait établi est précisément ce que l’on traque. Or un chatbot peut « halluciner », c’est-à-dire inventer des références, des chiffres ou des citations, non pas par malveillance, mais parce que son objectif statistique est de générer un texte qui se tient. C’est problématique dès que l’utilisateur attend une information vérifiable, comme le montant exact d’une aide publique, la date d’entrée en vigueur d’un décret, les conditions précises d’un rappel produit, ou la chronologie d’un conflit social. Dans ces cas-là, l’outil peut servir à cadrer des questions, à lister des pistes, à reformuler un sujet, mais il ne remplace pas une consultation de sources primaires, ni un recoupement.

Un autre point aveugle tient au « terrain ». Les chatbots n’ont pas d’expérience directe des événements, ils ne se déplacent pas, ne rencontrent pas les acteurs, ne confrontent pas les versions, ne voient pas les documents originaux, et cette absence d’accès au réel se paie lorsque la vérité dépend d’éléments concrets, comme une nuance dans une décision de justice, un alinéa dans un contrat, un échange mail, ou une déclaration prononcée dans un contexte particulier. Pour explorer les usages possibles et comprendre le fonctionnement général de ces assistants, certains utilisateurs choisissent de visiter ce site, mais la règle reste la même : dès que l’enjeu devient factuel, récent ou engageant, la vérification ne se délègue pas.

Le droit, la santé, et l’argent exigent mieux

À qui confier une décision à risque ? En matière de santé, de droit ou de finances, la réponse est rarement « à un chatbot », non parce qu’il serait inutile, mais parce que les conséquences d’une erreur sont trop lourdes. Un conseil médical approximatif, une interprétation juridique mal cadrée, un montage fiscal mal compris, et ce sont des mois perdus, des procédures, parfois des drames. Les modèles peuvent expliquer un concept, clarifier un vocabulaire, aider à préparer des questions à poser à un professionnel, mais ils ne disposent ni de l’examen clinique, ni de l’accès complet au dossier, ni de la responsabilité légale, et surtout pas d’une garantie de conformité aux règles locales qui changent sans cesse.

Le problème n’est pas seulement l’exactitude, c’est la traçabilité. Un avocat ou un médecin justifie une décision, cite des sources, pose un diagnostic différentiel, documente un choix, et peut être contredit dans un cadre clair. Le chatbot, lui, délivre un texte, parfois sans références, parfois avec des références discutables, et sans assumer la charge de la preuve. Dans le monde de l’entreprise, cela se traduit déjà par des règles internes : les équipes conformité et cybersécurité encadrent les usages, limitent les données sensibles partagées, imposent des validations humaines, et rappellent que l’outil ne doit pas devenir un oracle, notamment sur les questions de licenciement, de discrimination, de litige contractuel ou de recouvrement.

Sur l’argent, la tentation est forte de demander « où investir », « quelle crypto acheter », « comment optimiser mes impôts ». Là encore, les modèles peuvent vulgariser, décrire des mécanismes, ou proposer un tableau de questions, mais ils ne connaissent ni votre situation complète, ni votre tolérance au risque, ni les contraintes légales exactes de votre pays, et peuvent donner une impression de précision qui dépasse leur capacité réelle. Le bon usage consiste à s’en servir comme d’un assistant de compréhension, pas comme d’un décideur, en gardant la main sur les chiffres, les sources, et l’arbitrage final.

Éthique et valeurs : la réponse n’existe pas

Et si la question était mal posée ? Beaucoup d’interrogations adressées aux chatbots ne relèvent pas d’un manque d’information, mais d’un conflit de valeurs. « Dois-je dénoncer un collègue ? », « Faut-il publier cette photo ? », « Est-ce acceptable d’utiliser l’IA pour trier des candidatures ? » Dans ces cas-là, la meilleure réponse n’est pas un paragraphe bien tourné, c’est une délibération, un échange contradictoire, une prise en compte des personnes concernées, et parfois un cadre collectif, juridique ou déontologique. Un modèle peut exposer des arguments pour et contre, rappeler des principes, proposer une grille d’analyse, mais il ne peut pas trancher à votre place, parce qu’il n’a ni légitimité, ni responsabilité, ni ancrage dans la réalité sociale de la décision.

Cette limite est visible dans les sujets politiques et les débats publics. Un chatbot peut résumer des programmes, reformuler des positions, rappeler des éléments historiques, mais il ne vote pas, ne subit pas les conséquences d’une politique, ne vit pas dans un territoire donné. Surtout, il peut refléter des biais présents dans ses données d’entraînement, même si des garde-fous existent, et ses réponses peuvent varier selon la formulation de la question, ce qui fragilise l’idée d’une neutralité stable. Dans une société où l’information se polarise, demander à un chatbot « qui a raison » revient souvent à confondre argumentation et arbitrage, logique et justice, cohérence et vérité.

Il reste enfin un domaine où les chatbots sont structurellement démunis : l’expérience vécue. On peut leur demander « comment ça fait », ils répondront avec des descriptions empruntées à des textes, mais ils ne ressentent pas, ils ne traversent pas un deuil, n’éprouvent pas la honte, n’ont pas la mémoire d’un quartier, et ne portent pas les cicatrices d’un parcours. Dans les échanges intimes, cette différence compte, parce qu’une partie de la réponse attendue n’est pas dans les mots, elle est dans la présence, l’écoute, la capacité à se taire, et le fait d’être là, tout simplement.

Mode d’emploi avant de cliquer

Pour utiliser un chatbot sans se piéger, fixez un cadre clair, un objectif précis, et une vérification systématique des faits sensibles. Prévoyez un budget si vous passez à une offre payante, comparez les options, et gardez un rendez-vous humain pour la santé, le droit ou la finance. Certaines formations peuvent être prises en charge : renseignez-vous sur les aides locales avant de réserver.