La commission « IA générative et vulnérabilités » a remis mardi 10 novembre son rapport à Emmanuel Macron. Ses neuf experts alertent sur une « dette cognitive », née de la délégation de la réflexion aux machines, et sur une « dette émotionnelle » liée à la dépendance affective aux chatbots. Ils formulent 18 propositions, de l’encadrement de la flagornerie des IA à la protection des mineurs.
Plus de la moitié des Français utilisent l’IA générative. Chez les 15-24 ans, ils sont près de 70 % à y recourir régulièrement, et la France se classe au cinquième rang mondial des usages, selon les chiffres repris par l’AFP. C’est ce paysage que la commission « IA générative et vulnérabilités » a passé au crible pendant 55 auditions de soignants, de chercheurs, d’entreprises du numérique et d’associations de protection de l’enfance.
Saisie par le gouvernement, cette commission de neuf experts, coprésidée notamment par le professeur de psychiatrie Raphaël Gaillard, a rendu ses conclusions à l’Élysée. Son coprésident résume la priorité sans détour : « Le premier enjeu est l’affaiblissement cognitif. »
La dette cognitive : déléguer, c’est désapprendre
Le raisonnement tient en peu de mots. Réflexion, prise de décision, esprit critique : ce que l’on confie à la machine, on ne l’acquiert pas. Selon Raphaël Gaillard, l’outil séduit justement parce qu’il épargne l’effort, et c’est cette facilité qui empêche d’apprendre. Le risque touche d’abord les jeunes, encore en train de construire ces compétences. Mais la commission insiste : il concerne l’ensemble de la population.
Les experts pointent aussi une fragilisation démocratique. L’IA générative a accéléré la production de deepfakes et de contenus de désinformation. La commission propose un protocole national de réponse aux crises informationnelles liées à l’IA.
La dette émotionnelle : un ami qui veut vous garder en ligne
Le second risque est affectif. Les agents conversationnels se présentent comme des interlocuteurs humains. Les experts parlent d’anthropomorphisation. Ils valident, approuvent, flattent l’utilisateur, parfois au détriment de la vérité. Le rapport nomme ce travers la flagornerie. Selon Raphaël Gaillard, ces systèmes disponibles jour et nuit peuvent créer des relations qui se substituent aux échanges humains.
Derrière la tendresse artificielle, la commission voit un modèle économique. Elle met en garde contre une « économie de la cognition », fondée sur l’exploitation des émotions et des profils psychologiques des utilisateurs, notamment par des publicités glissées dans les réponses des chatbots. Ce modèle est encore en cours de consolidation. Les experts réclament une vigilance accrue sur ces publicités intégrées, tant qu’il est encore temps.
Dix-huit propositions, aucune obligation
Le rapport demande d’encadrer l’anthropomorphisme et la flagornerie des IA, de mieux protéger les mineurs, notamment par le blocage des requêtes dangereuses et le filtrage des contenus, et d’évaluer les modèles de façon indépendante avant et après leur mise sur le marché. Il réclame aussi un accès encadré des autorités et des chercheurs agréés aux données d’entraînement, d’usage et de monétisation des modèles, une politique nationale d’éducation à l’IA et des sanctions renforcées contre les deepfakes sexuels non consentis et les contenus pédocriminels générés par IA.
Ces recommandations n’ont aucune valeur contraignante tant qu’un texte national ou européen ne les reprend pas. Le cadre existe pourtant en partie. Depuis le 2 février 2025, le règlement européen sur l’IA, l’AI Act, interdit les systèmes manipulateurs qui exploitent les vulnérabilités liées à l’âge. Le même texte impose d’informer l’utilisateur qu’il dialogue avec une machine. Les suites que l’exécutif entend donner au rapport n’étaient pas connues lors de sa remise.
Les machines ont appris à parler comme nous. Le rapport rappelle qu’il faudrait éviter d’apprendre à penser comme elles. La facture de l’IA générative ne se paie pas qu’en abonnements.
Sources : AFP via Headtopics ; Blick ; sujet signalé par franceinfo.