L’utilisation de ChatGPT aurait des conséquences sur le fonctionnement cérébral, selon une étude du MIT

La planète compte 800 millions d’utilisateurs hebdomadaires de ChatGPT, le double d’il y a quatre mois. Mais sait-on si l’utilisation de cette intelligence artificielle (IA) aura des conséquences sur le fonctionnement cérébral ? Oui, répondent en substance des spécialistes en neurotechnologie du MIT Media Lab de Cambridge (Massachusetts).

Sous la houlette de la chercheuse française Nataliya Kosmyna, cette équipe a mené une recherche inédite sur cinquante-quatre volontaires de 18 à 39 ans d’une dizaine de nationalités. Munis de casques qui lisaient leurs activités cérébrales – et plus précisément les flux d’informations circulant dans différentes zones du cerveau, observés par le Dynamic Direct Transfer Function, plus complet qu’une mesure d’encéphalogramme classique, ces étudiants et postdoctorants des universités du MIT, de Harvard et de Wellesley, toutes dans la région de Boston, ont dû à trois reprises écrire des rédactions en utilisant ou non ChatGPT, puis se souvenir de leurs écrits. Quatre mois plus tard, les dix-huit qui ont accepté de revenir ont poursuivi l’expérience en inversant leur position. Ceux qui étaient aidés par l’IA ne l’étaient plus et vice-versa.

Les résultats de l’expérience, mis en ligne sur Arxiv, le 10 juin, et non encore révisés par les pairs, soulignent que ceux qui n’ont utilisé que ChatGPT pour rédiger ont, quatre mois plus tard, baissé en performance « au niveau neuronal, linguistique et comportemental ». Avec les précautions d’usage, liées à la très faible taille de l’échantillon et sa non-représentativité statistique, les scientifiques notent que les résultats obtenus « soulèvent des inquiétudes quant aux conséquences éducatives à long terme d’une dépendance » à ces IA, sans que soit menée une réflexion globale préalable.

La publication de cette étude de 206 pages a enflammé le monde de l’IA. La plateforme Evolving AI (3 millions de followers) a ainsi posté la semaine du 20 juin ce message sensationnaliste : « Dernières nouvelles : le MIT vient de terminer la première étude par imagerie cérébrale sur les utilisateurs de ChatGPT et les résultats sont terrifiants. » Un message illustré d’un cerveau sombre et d’un autre éclairé par des circuits multicolores « avec et sans ChatGPT » des clichés n’étant pas issus de l’étude. En France, l’entrepreneur Etienne de Saint-Martin, fondateur associé chez Bot Resources, a déclaré via son attachée de presse, le 20 juin, que « (…) l’étude comporte de nombreux biais méthodologiques. (…) Ce n’est pas de la science, c’est un billet d’opinion (…)  ».

« Lisez l’article en entier »

En écho cependant, des voix minoritaires d’une tout autre tonalité ont commencé à se faire entendre, notamment sur le réseau LinkedIn. Ainsi le consultant en IA Joseph D. Stec a souligné qu’il vivait « l’un des moments les plus ironiques de la recherche récente sur l’IA », précisant que « juste après la publication du MIT (…) sur la façon dont ChatGPT pourrait affaiblir la pensée critique, les gens se sont empressés de résumer l’étude… en utilisant ChatGPT ».

« Environ 90 % de la couverture médiatique est venue de résumés générés automatiquement », confirme Nataliya Kosmyna. Avec, regrette-t-elle « un très fort biais de confirmation ». Autrement dit, même si un document scientifique est nuancé, l’IA confirme l’idée dominante car elle l’a souvent vue dans ses données d’entraînement. Les travaux du MIT Media Lab font le buzz en ayant été « mal compris, mal interprétés et déformés », renchérit l’épidémiologiste néerlandais Jan van den Brand. « Ce serait mon pire cauchemar en tant que scientifique. S’il vous plaît, lisez l’article en entier ou au moins la section sur les limites. Tout scientifique sait que c’est là que se trouve le véritable cœur du travail. »

Quels messages délivre donc l’étude ? Lorsque les participants ont utilisé ChatGPT, leur activité cérébrale, notamment les zones liées à l’attention, la planification et la mémoire, a considérablement diminué. Quelques minutes plus tard, ils ont d’ailleurs eu du mal à se souvenir de ce qu’ils ont rendu. Côté évaluation, même si les rédactions générées par ChatGPT ont obtenu de bonnes notes, elles s’avèrent plus stéréotypées et lisses que celles de l’autre groupe.

« Cela vous parle-t-il ? », a lancé sur LinkedIn, mardi 24 juin, le professeur Daniel Russo du département informatique de l’université Aalborg (Danemark). Cette étude pose « la question qui dérange », estime-t-il : les intelligences artificielles génératives sont efficaces, certes, mais avons-nous l’impression avec elles d’avoir réellement réfléchi ? « Les professionnels du logiciel reconnaîtront peut-être cette sensation poursuit-il. Vous copiez un extrait de code, vous le collez, vous modifiez une variable et vous passez à autre chose. Mais avez-vous vraiment résolu le problème ? »

L’équipe du MIT Media Lab a ouvert un site pour faciliter les échanges. « Nous avons reçu des propositions de collaborations scientifiques d’Australie, du Royaume-Uni, de Lettonie, de Lituanie, du Brésil… », énumère Nataliya Kosmyna. « Il s’agit de nos cerveaux et de nouveaux outils à maîtriser. C’est une bonne nouvelle qu’un grand nombre de personnes se sentent concernés ! »

[Source: Le Monde]