La fatigue de l'IA est bien réelle

L’e-mail que je n’ai pas demandé

Il est arrivé dans ma boîte de réception comme n’importe quelle autre communication d’entreprise : une annonce enjouée de ma banque m’informant qu’elle déployait un nouvel assistant alimenté par l’IA. Disponible 24 h/24, plus rapide que n’importe quel agent humain, prêt à répondre à toutes les questions que je pourrais jamais me poser. Le ton était d’un enthousiasme à couper le souffle, comme si la banque venait de découvrir le feu.

J’ai fixé l’e-mail un instant. Puis j’ai ressenti quelque chose que je ressens de plus en plus souvent ces derniers temps : un épuisement sourd et insidieux. Pas envers la technologie elle-même, pas nécessairement, mais envers le rythme effréné auquel elle est imposée dans chaque recoin de la vie quotidienne, qu’on le veuille ou non. Il existe un mot pour ce sentiment qui commence à circuler dans les conversations sur la technologie : la fatigue de l’IA. Il décrit la lassitude qui s’installe quand un outil autrefois enthousiasmant commence à sembler omniprésent, inévitable et, parfois, profondément indésirable.

Une banque qui semblait autrefois différente

J’ai choisi cette banque en 2019. C’était l’une de ces institutions modernes, pensées avant tout pour le numérique, qui semblaient vraiment comprendre ce que les gens recherchaient. Pas de files d’attente bureaucratiques. Pas de rendez-vous obligatoires avec un directeur d’agence. Pas de piles de papiers à signer et à renvoyer. Elle était conçue pour les gens toujours en mouvement, qui valorisaient l’efficacité et la clarté, et qui aimaient peut-être l’idée d’une banque qui ressemblait un peu moins à une banque traditionnelle.

À l’époque, elle se développait aussi sérieusement dans plusieurs pays européens, se positionnant comme la banque des gens qui voyagent, qui vivent au-delà des frontières, qui ne veulent pas être liés à l’infrastructure financière d’un seul pays. Elle offrait des fonctionnalités réellement utiles, beaucoup d’entre elles gratuites, et le faisait via une application épurée et intuitive. Pour quelqu’un qui s’était lassé de la lenteur et du formalisme de la banque conventionnelle, c’était une bouffée d’air frais.

Mais cet e-mail m’a fait marquer une pause. Car en y repensant aujourd’hui, je me demande si nous ne sommes pas allés trop loin. Les qualités mêmes qui rendaient cette banque attrayante au départ — son sens de la réactivité, ce sentiment qu’une vraie personne était à l’autre bout du fil — semblent discrètement disparaître. À leur place se trouve un assistant qui change de nom et de photo de profil à chaque fois que vous ouvrez une conversation, comme si l’illusion d’une présence humaine était d’une certaine manière préférable à une honnêteté simple sur ce qu’est réellement le système.

Le chatbot qui refusait de s’effacer

J’ai eu plus d’une fois des raisons de contacter le service client de cette banque. Un bug dans l’application qui empêchait une transaction d’aboutir. Un paiement débité deux fois de mon compte. Des situations pas catastrophiques, mais qui exigeaient une réponse claire et une résolution concrète. À chaque fois, le chemin vers cette résolution passait par le même obstacle : l’agent IA.

Ce que j’ai découvert, c’est que cet agent n’est pas simplement un filtre conçu pour orienter les questions simples et transmettre les complexes à un humain. Il a été conçu pour agir comme un gardien, qui s’est érigé en seul juge de savoir si votre problème est assez sérieux pour mériter l’attention d’une vraie personne. À plusieurs reprises, je me suis retrouvé totalement incapable d’être transféré à un agent humain parce que le système avait décidé, sans aucun moyen apparent de recours, que mon problème ne nécessitait pas d’intervention humaine.

C’est là que le problème devient véritablement sérieux. Les agents IA fonctionnent bien comme première ligne de réponse pour des questions simples et répétitives. Si quelqu’un veut connaître le solde de son compte, comment changer son code PIN ou les horaires d’ouverture de la banque, une IA bien entraînée peut s’en charger de façon efficace et précise, en s’appuyant sur une base de connaissances structurée pour produire une réponse fiable. C’est ce que les équipes de support appellent les demandes de niveau 1, et les automatiser a du sens. Cela réduit les temps d’attente, libère les agents humains pour des tâches plus complexes et fournit aux utilisateurs des réponses instantanées à des questions simples.

Mais dès qu’une situation sort de ce territoire structuré et prévisible, les limites de l’IA deviennent très vite évidentes. Un paiement débité deux fois implique de vérifier les relevés de transactions, de recouper avec un commerçant, d’éventuellement lancer une procédure de litige et de communiquer avec l’utilisateur sur ce qui va se passer et quand. Un bug dans l’application peut exiger qu’un agent de support signale le problème à une équipe technique, ouvre un ticket et assure un suivi. Ce ne sont pas des tâches qui s’intègrent proprement dans un arbre de décision. Elles requièrent du jugement, de la souplesse et de la responsabilité. Et pourtant, le système avait été conçu d’une manière qui m’empêchait d’accéder aux agents humains qui auraient pu fournir exactement cela.

Le problème de la transparence

Il y a quelque chose de particulièrement troublant dans les agents IA conçus pour se faire passer pour des humains. Donner à un chatbot un nom humain et une photo de profil sympathique n’est pas une fioriture de conception. C’est un choix délibéré pour masquer la nature de l’interaction, et cela a de l’importance.

Quand les gens communiquent avec un agent de support, ils prennent des décisions constantes, souvent inconscientes, fondées sur leur compréhension de la personne à qui ils s’adressent. Ils décident de la quantité de détails à fournir, du degré de formalité de leur demande, du degré de confiance à accorder à la réponse reçue. S’ils croient parler à une personne, ces décisions reposent sur un ensemble d’hypothèses. S’ils savent qu’ils parlent à une machine, ils les prennent sur un autre. Brouiller délibérément cette distinction ne sert pas l’utilisateur. Cela sert l’institution, en réduisant les frictions qui pourraient surgir si les utilisateurs comprenaient que leur demande était traitée par un algorithme.

Au-delà de la dimension éthique, il y a la question pratique des données. Chaque message envoyé à un agent IA est traité, stocké et, dans de nombreux cas, utilisé pour améliorer les performances futures du modèle. Dans le contexte d’une banque, où les conversations impliquent couramment des numéros de compte, des détails de transactions, des situations personnelles et des préoccupations financières, cela soulève d’importantes questions de confidentialité. Combien de temps ces données sont-elles conservées ? Qui y a accès ? Dans quelles conditions peuvent-elles être utilisées pour l’entraînement ? Ce ne sont pas des préoccupations hypothétiques. Ce sont le genre de questions qui devraient figurer dans les e-mails d’annonce enthousiastes que les banques envoient lorsqu’elles déploient ces systèmes. Elles n’y figurent que rarement.

Des résumés au lieu de récits

La banque n’est pas le seul endroit où la fatigue de l’IA s’installe. Les moteurs de recherche affichent de plus en plus des résumés générés par IA tout en haut des pages de résultats. L’idée est qu’au lieu de cliquer pour accéder à une source, vous pouvez simplement lire quelques phrases en haut de la page et passer à autre chose.

En apparence, cela ressemble à une commodité. En pratique, c’est plus proche d’un raccourci intellectuel, et cela comporte de vrais risques dont on parle rarement ouvertement.

La façon dont un auteur structure un argument n’est pas accessoire. Elle fait partie de l’argument. L’ordre dans lequel l’information est présentée, les nuances introduites à des moments précis, le contexte qui se construit au fil d’un texte — ce sont ces éléments qui permettent au lecteur de comprendre véritablement un sujet plutôt que de simplement en collecter une donnée. Quand cette structure est réduite à trois phrases générées par un algorithme, ce qui reste est un squelette. Il peut être exact dans ses faits bruts, mais il est dépouillé de la texture qui rend ces faits significatifs.

Plus concrètement, les résumés générés par IA ne sont pas toujours corrects. Ces systèmes peuvent déformer les conclusions d’une étude, omettre des réserves cruciales ou confondre les positions de différentes sources. Comme le résumé apparaît en haut de la page dans un format propre et autoritaire, beaucoup de lecteurs l’acceptent sans se poser de questions et n’ouvrent jamais l’article original. L’erreur n’est jamais détectée. Le malentendu se propage.

Il y a aussi une conséquence structurelle pour le web lui-même. Quand les utilisateurs cessent de cliquer vers les sources originales, ces sources perdent du trafic, et avec lui les revenus publicitaires ou les abonnements qui les font vivre. Si les résumés d’IA deviennent la principale manière dont les gens consomment l’information, l’incitation à produire le reportage et l’analyse approfondis dont ces résumés se nourrissent commence à s’éroder. Nous risquons de créer un système qui se nourrit de la profondeur et de la rigueur du contenu écrit par des humains tout en sapant simultanément les conditions qui rendent un tel contenu économiquement viable à produire.

Devenons-nous intellectuellement paresseux ?

Il y a une question plus inconfortable qui se cache sous tout cela, et qui mérite d’être prise au sérieux : laissons-nous ces outils affaiblir progressivement notre capacité de pensée indépendante ?

Quand chaque article peut être résumé avant qu’on le lise, quand chaque interaction avec le service client est préfiltrée par un algorithme, quand chaque décision peut être éclairée par un assistant IA avant qu’on ait eu la chance d’y réfléchir par soi-même, qu’advient-il des habitudes cognitives que nous exercerions autrement ? Lire un long article en entier, rester avec la complexité, se forger un avis avant de recevoir un verdict — ce ne sont pas des compétences anodines. Elles demandent de la pratique. Et comme toute compétence qu’on ne pratique pas, elles peuvent s’atrophier.

Nous semblons perpétuellement occupés. Trop occupés, apparemment, pour lire un article en entier, pour naviguer dans le système de support d’une banque, pour aborder un problème sans l’aide de l’IA. Mais occupés à faire quoi, au juste ? Cela vaut la peine de se le demander honnêtement. Car si la réponse est que nous utilisons l’IA pour gagner du temps, il vaut la peine de se demander ce que nous faisons de ce temps et si ce compromis nous sert vraiment.

L’inquiétude n’est pas que l’aide de l’IA facilite les tâches individuelles. Cela, c’est vraiment très bien. L’inquiétude, c’est ce qui se passe quand l’aide de l’IA devient le mode par défaut de presque toute interaction avec l’information et les services, au point qu’agir sans elle commence à sembler étrange. Ce basculement, s’il se produit assez progressivement, pourrait ne pas être vécu comme une perte du tout. Il pourrait simplement être vécu comme un progrès.

Un outil, pas un remplacement

Rien de tout cela n’est un argument contre l’intelligence artificielle. Ces technologies, appliquées avec réflexion et une véritable transparence, peuvent faire beaucoup de bien. Automatiser des tâches répétitives, rendre l’information plus accessible, réduire les frictions dans des processus inutilement lents : ce sont des objectifs légitimes et louables. Le problème n’est pas la technologie elle-même. Le problème est l’hypothèse non examinée selon laquelle plus d’IA, déployée partout, est intrinsèquement meilleure que moins d’IA.

Quand je pense à ma banque, je ne veux pas qu’elle revienne sur ses ambitions numériques. Je veux qu’elle soit honnête avec moi sur ce avec quoi j’interagis. Je veux pouvoir joindre un être humain quand la situation l’exige, sans avoir à déjouer un chatbot pour y parvenir. Je veux que les institutions qui gèrent ma vie financière traitent mes données et mon temps avec le même soin et le même sérieux que ceux que j’apporte à la relation.

La fatigue de l’IA n’est pas de la technophobie. Ce n’est pas un rejet du progrès. C’est une réponse raisonnable au fait de voir un ensemble d’outils puissants déployé sans suffisamment de soin pour les personnes que ces outils sont censés servir. Nous ne demandons pas moins d’innovation. Nous demandons plus d’honnêteté, plus de transparence et plus de réflexion sincère sur la place de ces systèmes — et sur les endroits où, tout simplement, ils n’ont pas leur place.