L’intelligence artificielle dans les jouets : une menace pour la santé mentale des jeunes

L’Académie de médecine alerte sur les risques liés aux jouets capables de converser grâce à l’intelligence artificielle. Ces technologies pourraient fragiliser la santé mentale des enfants et des adolescents. L’institution appelle donc à une vigilance accrue et à un encadrement renforcé.

À l’approche des fêtes de Noël, l’Académie nationale de médecine met en garde sur les dangers liés aux jouets et objets connectés équipés d’agents conversationnels qui utilisent l’intelligence artificielle (IA). En plein essor, ces derniers séduisent par leur capacité à dialoguer (par écrit ou par oral) et à établir une relation avec les enfants. « Leur utilisation précoce, par des enfants et des adolescents naturellement enclins à l’imagination et à construire des relations avec les autres, les conduit à attribuer des caractéristiques humaines à ces objets », prévient ainsi l’institution dans un communiqué.

Jouets et IA : un risque de dépendance qui inquiète

L’Académie pointe d’abord le risque de dépendance associé à l’usage de ces objets. Leur personnalisation extrême peut en effet faire naître chez l’enfant un sentiment d’amitié artificielle.

L’institution relève ensuite le danger lié à la « substitution des repères éducatifs familiaux ». Une dérive accentuée par l’assurance avec laquelle l’IA livre ses réponses. Le développement du discernement chez l’enfant, pour qui il est difficile de percevoir les erreurs ou les biais de l’IA, peut alors être entravé. À cela s’ajoute la transmission d’informations non vérifiées qui échappent au contrôle parental.

Enfin, ces agents conversationnels – aussi appelés chatbots – ne doivent pas devenir des confidents privilégiés. Cela pourrait, selon la société savante, « conduire au renforcement de pensées anxiogènes ou morbides, ou à des conduites à risques (régimes alimentaires restrictifs, actes auto-agressifs, voire passage à l’acte suicidaire) ».

Pas de jouets connectés avant l’âge de 6 ans

L’Académie rappelle, par ailleurs, que le règlement européen sur l’intelligence artificielle classe ces objets parmi les « systèmes à haut risque ». Compte tenu de ces informations, elle conseille aux parents d’être vigilants. Elle recommande par exemple d’interdire tous les outils numériques aux enfants de moins de 3 ans (lire aussi notre article). Les enceintes et jeux connectés, quant à eux, sont à bannir jusqu’à l’âge 6 ans. Au-delà, un accompagnement parental reste obligatoire.

Protéger aussi les adolescents de l’intelligence artificielle

En ce qui concerne les adolescents, l’Académie de médecine déconseille fermement l’accès aux robots et avatars conversationnels avant l’âge de 12 ans. Ces objets informent sans établir de lien affectif. Pour les plus âgés, un contrôle parental strict demeure là aussi essentiel.

Elle défend également l’interdiction, avant la majorité, des « compagnons digitaux ». Il s’agit là des jouets qui « simulent une relation affective en sollicitant l’interlocuteur et en se souvenant de ses préférences ».

L’institution affirme ces positions « en raison du risque de fragilisation psychique et du pouvoir d’influence émotionnelle de ces dispositifs ».

Vers une régulation indispensable

L’Académie s’inscrit ainsi dans la continuité de la position défendue par l’Organisation mondiale de la santé (OMS) dans une note d’orientation publiée en mai (en anglais). Elle exhorte également les autorités sanitaires à encadrer plus strictement l’accès des jeunes à ces objets connectés. Elle considère qu’un tel renforcement est indispensable pour protéger la santé mentale des plus jeunes.