Ceux qui s’appuient trop fréquemment sur ChatGPT pour prendre en charge les tâches rédactionnelles perdent à long terme des capacités cognitives, avec un impact négatif sur la pensée indépendante et critique.
Des chercheurs du prestigieux Massachusetts Institute of Technology (MIT) aux États-Unis ont étudié l’impact de ChatGPT sur les capacités cognitives de l’utilisateur. Bien que les chercheurs eux-mêmes indiquent que les résultats de leur recherche sont conditionnels, étant donné le groupe d’étude quelque peu limité (54 personnes), principalement composé d’étudiants, ils parviennent néanmoins à des conclusions préoccupantes. Ceux qui se fient trop à ChatGPT perdraient en effet des capacités cognitives.
Trois groupes
Les scientifiques sont parvenus à cette conclusion après une expérience dans laquelle ils ont divisé les participants en trois groupes et leur ont demandé de rédiger une dissertation :
- Le groupe LLM : a utilisé exclusivement ChatGPT pour la rédaction.
- Le groupe Search Engine : a utilisé uniquement Google (sans IA).
- Le groupe Brain-only : a rédigé sans aucune aide numérique.
Pendant la rédaction, les chercheurs ont surveillé l’activité cérébrale via un EEG. Sans surprise, ils ont constaté la plus grande activation cérébrale chez les participants sans outils d’assistance. Le groupe Search Engine se situait quelque part entre les deux, avec l’activité cérébrale la plus faible mesurée pour le groupe travaillant avec un LLM.
Après trois sessions d’écriture, les groupes ont échangé leurs rôles. Lors de la quatrième session, l’équipe qui s’était uniquement fiée à son propre cerveau devait travailler avec un LLM. Inversement, le groupe qui venait de rédiger trois dissertations avec un LLM devait travailler sans outils d’aide externes.
L’utilisation de LLM résonne dans le cerveau
Cette expérience a produit les résultats les plus inquiétants. En effet, l’EEG a montré une activité cérébrale plus importante chez le groupe Brain-only lors de l’utilisation du LLM. Inversement, l’activité du groupe LLM n’a pas augmenté proportionnellement lorsqu’ils devaient se fier exclusivement à leur cerveau. L’impact des trois tâches d’écriture précédentes avec le LLM résonnait clairement.
lire aussi
OpenAI met o3-pro à disposition des utilisateurs ChatGPT Pro
Les chercheurs ont interviewé les participants après les expériences et ont constaté que le groupe LLM était, entre autres, beaucoup moins capable de citer ce qu’ils venaient d’écrire que les autres participants. Le groupe qui travaillait avec un moteur de recherche a montré une activation cérébrale moyenne tout au long de l’expérience, qui est restée plus élevée que celle de l’équipe LLM.
À partir des résultats, les chercheurs concluent que l’utilisation des LLM a un impact négatif sur la capacité d’apprentissage et la capacité à penser de manière critique par soi-même.
Capacité perdue
Les scientifiques craignent que les gens ne perdent la capacité d’aborder les sujets de manière critique. Bien que l’utilisation des LLM allège initialement la charge mentale d’une tâche, il y a un coût à long terme.
Concrètement, ils soupçonnent que les utilisateurs sont non seulement confrontés à une diminution de leur capacité de réflexion critique, mais qu’ils deviennent également plus vulnérables à la manipulation et perdent en créativité. L’étude souligne que ces soupçons doivent faire l’objet de recherches plus approfondies.
Les résultats montrent que les LLM comme ChatGPT présentent un risque important. Selon l’étude, celui qui utilise un LLM devient moins critique, ce qui à son tour fait que l’utilisateur ne peut pas analyser suffisamment la véracité des nouvelles réponses du LLM. Seuls quelques participants à l’expérience se sont écartés du raisonnement d’un LLM pour suivre leur propre idée.
Pas de satisfaction
Enfin, les chercheurs ont constaté que travailler avec un LLM n’apporte pas de satisfaction. Le groupe Brain Only accordait de l’importance aux dissertations et aux idées qu’il avait lui-même rédigées et y adhérait. Le groupe LLM se sentait moins responsable du contenu, ne le connaissait pas bien comme mentionné, et accordait moins de valeur aux textes.
L’étude suggère que l’utilisation croissante de l’IA rend en fait les utilisateurs fréquents moins capables d’utiliser l’IA de manière critique et de penser par eux-mêmes. Alors que ChatGPT et des outils similaires gagnent en importance tant dans le monde des affaires que dans l’éducation, cette réflexion est d’une grande importance.