Jadis réservée aux spécialistes, l’intelligence artificielle est entrée dans le quotidien de la population depuis l’émergence de l’IAG (intelligence artificielle générative) à la fin 2022. Ses apports pour des gains de productivité ne sont pas contestés. Mais son coût financier peut être important et la rendre non-rentable. Son impact environnemental peut devenir insoutenable comme l’a signalé l’association Green-IT. Les hallucinations peuvent nuire à des professionnels naïfs ne vérifiant pas les informations ou à des entreprises, comme un musée considéré comme fermé par Gemini alors que la fermeture concernait un musée voisin. Et si tout cela n’était pas le pire ? Et si l’usage (abusif) d’IA nuisait sérieusement à la santé mentale ? Pour répondre à cette interrogation, le professeur Stéphane Andrieux a réalisé une communication auprès de l’Académie des Technologies sur le thème « IA Génératives : un danger pour la cognition humaine ? ».
Stéphane Andrieux est professeur à l’École des Ponts ParisTech et Professeur chargé de cours à l’École Polytechnique. Il est l’auteur de plus de 45 publications scientifiques. Et il est membre de l’Académie des Technologies. Un autre membre de cette Académie, Yves Caseau, Group CDIO de Michelin, interviendra d’ailleurs sur un Club Disruptor le 24 Novembre 2027 consacré aux conséquences sociales de l’IA. L’IA est donc, bien entendu, un sujet technologique mais aussi un sujet d’organisation et un sujet social voire psychosociologique.
Un danger majeur car massif
La communication du professeur Stéphane Andrieux repose sur un grand nombre d’études antérieures, notées dans la bibliographie finale, et vise donc à réaliser une sorte d’état des lieux de la recherche sur les conséquences cognitives de l’usage (voire du mésusage ou de l’abus d’usage) de l’IAG. Beaucoup des problèmes soulevés ne sont pas nouveaux et ont été identifiés dans d’autres contextes bien avant 2022. C’est par exemple le cas de la « délégation cognitive » (je fais penser quelqu’un d’autre à ma place). Ces problèmes deviennent particulièrement gênant à cause de « l’ampleur et la généralisation du phénomène, sans parler de l’extrême concentration de l’offre, [qui] doit nous pousser à nous pencher sur ce qui pourrait bien représenter un risque majeur car massif. »
Il y a là une rupture par rapport aux âges précédents des technologies de l’information qui servaient précédemment à renforcer le cerveau, lui donner davantage de capacités, à créer un « esprit étendu », notamment pour mieux communiquer. La pratique du scrolling avait, cela dit, déjà été pointée. Si des gains de 43 % sur 90 % d’une population de référence ont pu être constatés expérimentalement par l’usage de l’IAG sur des tâches appropriées, à l’inverse des pertes de performance de 23 % ont été constatées en cas de mésusage. L’un des problèmes est la surconfiance dans les résultats fournis par les IAG. Celle-ci renforce également l’effet Dunning-Kruger et l’ultracrépidarianisme. Bien évidemment, l’un des risques les plus graves concerne l’éducation puisque l’apprenant cesse d’apprendre en se reposant sur l’IAG. La communication du professeur Stéphane Andrieux s’achève par des explications des phénomènes observés par les neurosciences. L’auteur regrette notamment que « si des communautés réagissent déjà sur les dangers d’une utilisation immodérée des IA génératives (scientifiques, éducateurs, artistes, entreprises…), bien peu de voix s’élèvent sur les risques pour notre cognition individuelle et pour notre intellect. »
En savoir plus
- Sur le site de l’Académie des Technologies, télécharger « IA Génératives : un danger pour la cognition humaine ? ».
