image Extraite du film WALL-E © Walt Disney Pictures.
Une étude publiée par des chercheurs de l’université Carnegie Mellon (Pennsylvanie) et de Microsoft démontre que déléguer aux IA génératives des tâches d’analyse détériore l’esprit critique dans le cadre professionnel.
WALL-E aurait-il anticipé ce que deviendra bientôt l’espèce humaine ? Dans le célèbre film d’animation des studios Pixar, ce qu’il reste de l’humanité mène, au début du XXIIème siècle, une vie assistée en permanence par la technologie. Complètement dépendants envers les machines, les êtres humains ont même perdu l’usage de leurs jambes atrophiées et ne se déplacent désormais que sur des fauteuils volants. Pire : leur libre-arbitre, ainsi que leur esprit critique, ont complètement disparu. Un tableau apocalyptique saisissant, auquel on pense forcément à la lecture d’une récente étude qui fait ces jours-ci les gros titres de la presse internationale.
« Travailleurs du savoir »
Intitulée « L’impact de l’IA générative sur la pensée critique » (The Impact of Generative AI on Critical Thinking en anglais) et accessible gratuitement en ligne depuis janvier (en attendant sa version définitive et relue par les pairs dans le cadre d’un colloque prévu au printemps), l’étude en question a été réalisée par un groupe de sept universitaires affiliés au centre de recherche Microsoft de l’université Cambridge, au Royaume-Uni, et à l’université Carnegie Mellon, en Pennsylvanie. Ces derniers ont interrogé 319 « travailleurs du savoir » (knowledge workers), autrement dit des personnes dont le travail implique de manipuler des données ou des informations, en leur demandant de décrire en détail la manière dont ils ont recours aux outils d’IA générative au quotidien – par exemple pour générer des idées ou effectuer des synthèses de textes.
Résultat ? Comme le résume le média spécialisé Gizmodo, il en ressort que « plus ces personnes s’appuient sur des outils d’IA pour accomplir leurs tâches, moins elles font preuve d’esprit critique ».
Un constat dont témoigne notamment ce « schéma récurrent » observé chez les participants les plus « confiants » envers les IA : plus la tâche est jugée facile, plus elle est facilement déléguée à la machine, et plus l’esprit critique vis-à-vis du résultat final diminue.
Cercle vicieux
Un cercle vicieux se met alors en place, car ce qui est jugé « facile » ou pas dépend de la subjectivité propre à chaque individu, et non de la difficulté de la tâche elle-même. Or des erreurs de jugement ou d’inattention sont vite arrivées… et peuvent alors en générer d’autres en cascade. « Plus le niveau de confiance dans la qualité de ce que fournit l’IA croît, moins sa contribution est sujette à une remise en question. Ce qui contribue à éroder le principe même d’esprit critique quand il s’agit de reconsidérer ces publications », synthétise le chroniqueur Nicolas Arpagian au micro de la radio France Info.
Les travailleurs ayant recours à l’IA générative ont tendance à produire « un ensemble de résultats moins diversifié »
De quoi laisser entrevoir « une dépendance à long terme et une diminution de la capacité à résoudre les problèmes de manière indépendante », écrivent les chercheurs. D’autant que l’étude montre par ailleurs que les travailleurs ayant accès à des outils d’IA générative ont visiblement tendance à produire « un ensemble de résultats moins diversifié pour la même tâche » que les travailleurs n’ayant pas recours à ces outils. Encore une fois, les chercheurs relient ce manque de diversité à une « détérioration de la pensée critique » des travailleurs concernés.
Plus rassurant en revanche, lorsque les travailleurs affichent une confiance moindre envers les IA, ils sont généralement plus enclins à « avoir davantage confiance envers leur propre capacité à évaluer ce que l’IA produit et à l’améliorer par eux-mêmes ». L’esprit critique est alors continuellement entretenu, un peu à la manière d’un muscle du corps humain fréquemment mis à contribution à travers à des petits exercices sportifs. Retenez bien la leçon : si vous voulez tirer le meilleur bénéfice possible des IA dans le cadre de votre travail, mieux vaut que vous vous en méfiiez.
FUTUR Usbek&Rica – 18 février 2025
