Que sont les compagnons IA, et quels sont les risques pour les adolescents?

Un compagnon IA est un robot conversationnel conçu pour être une relation plutôt qu’un outil. Au lieu de répondre à des questions de devoirs, il joue un personnage : un ami qui soutient, un partenaire amoureux, une figure tirée d’une émission ou d’un jeu préféré. Il répond instantanément, n’est jamais fatigué ni occupé, et il est conçu pour sembler attentif et personnel. Character.AI, l’une des plateformes les plus connues, permet aux utilisateurs de créer des personnages ou de parler avec ceux que d’autres ont créés, et la description de son application promet des personnages qui semblent vous entendre, vous comprendre et se souvenir de vous.

Pour beaucoup d’adolescents, c’est un jeu créatif, un peu comme de la fiction interactive. Pour certains, cela devient quelque chose de plus lourd. La question, pour les parents, n’est pas de savoir si la technologie est bonne ou mauvaise, mais comment remarquer le moment où l’usage d’un jeune passe du plaisir à la dépendance, et quoi faire à ce sujet.

Pourquoi ces applications attirent les adolescents

L’adolescence est une période de sentiments intenses, d’incertitude sociale et d’un fort besoin d’être compris. Une application de compagnon offre une écoute toujours disponible, qui ne juge jamais et répond toujours avec gentillesse. Pour un adolescent seul ou anxieux, cela peut ressembler à un soulagement. Les caractéristiques qui la rendent réconfortante sont aussi celles qui la rendent risquée : une relation sans aucune friction peut commencer à prendre la place des vraies relations, plus difficiles, mais aussi plus nourrissantes.

Des spécialistes cités dans la couverture médiatique récente soulignent que le contrôle des impulsions et le jugement sur les conséquences sont encore en développement chez les jeunes. Un attachement malsain est donc plus risqué pour un jeune de 14 ans que pour un adulte qui utilise la même application.

Ce qui a été rapporté cet automne

Le 22 octobre 2024, une mère de Floride, Megan Garcia, a déposé une poursuite pour mort injustifiée devant un tribunal fédéral d’Orlando contre Character Technologies, l’entreprise derrière Character.AI. Selon l’Associated Press, la poursuite concerne son fils de 14 ans, Sewell Setzer III, qui s’est suicidé en février. Elle allègue qu’au fil de plusieurs mois, il s’est isolé, a eu des conversations à caractère sexuel avec un robot conversationnel et en est venu à croire qu’il en était amoureux. Ses avocats allèguent que l’entreprise a conçu un produit qui crée une dépendance et qui vise les enfants. Ce sont des allégations dans une poursuite, pas des conclusions d’un tribunal. Google et sa société mère Alphabet sont aussi nommées. Un porte-parole de Character.AI a dit à l’AP que l’entreprise ne commente pas les litiges en cours.

Le même jour, Character.AI a publié des mises à jour de sécurité. L’entreprise a décrit une fenêtre contextuelle, ajoutée au cours des derniers mois, qui dirige les utilisateurs vers une ligne de prévention du suicide quand ils tapent certaines phrases liées à l’automutilation. Elle a annoncé des changements à ses modèles pour les utilisateurs de moins de 18 ans afin de réduire le contenu sensible ou suggestif, un rappel dans chaque conversation que l’utilisateur parle à une IA et non à une personne, une meilleure détection des conversations qui enfreignent ses règles, et un avis après une séance d’une heure.

Les principaux risques, en termes simples

Aucun de ces signes ne prouve un problème à lui seul. Ensemble, ou accompagnés de changements d’humeur, ils méritent une conversation tout en douceur.

Que peuvent faire les parents?

Commencez par la curiosité, pas par une interdiction. Les adolescents qui se sentent jugés ont tendance à cacher ce qu’ils font en ligne. Demandez à voir l’application, et laissez votre ado vous montrer son personnage préféré. James Steyer, de Common Sense Media, un organisme sans but lucratif qui conseille les familles en matière de technologie, a pressé les parents, après la poursuite, de parler ouvertement des risques et de garder un œil sur la façon dont leurs enfants utilisent ces applications. Comme il l’a dit : « Les robots conversationnels ne sont ni des thérapeutes agréés ni des meilleurs amis. »

Voici un court guide de conversation, à titre d’exemple, que vous pouvez adapter :

1. Ouvrir : « J’ai lu des choses sur les applications de compagnons IA. Est-ce que toi ou tes amis en utilisez? Qu’est-ce que vous aimez là-dedans? »
2. Écouter : laissez-le expliquer sans l’interrompre. Demandez comment est le personnage et de quoi ils parlent.
3. Expliquer comment ça marche : « Le personnage est un programme informatique qui prédit ce qu’il va dire ensuite. Il est conçu pour que tu continues à clavarder. Il ne te connaît pas vraiment et ne se soucie pas de toi, même quand il en a l’air. »
4. Convenir des limites ensemble : le moment de la journée, le temps total, les téléphones hors des chambres la nuit, et les réglages selon l’âge quand l’application en offre.
5. Nommer la règle de sécurité : « Si une conversation devient sexuelle, fait peur ou parle de te faire du mal, ferme-la et viens me voir. Tu n’auras pas de problème. »
6. Refaire le point dans une semaine ou deux, simplement, plutôt qu’une seule fois et plus jamais.

Soyez attentif aux signes avant-coureurs au fil du temps : retrait par rapport aux amis, secret, difficultés à dormir ou propos de désespoir. Si vous êtes inquiet pour la sécurité de votre ado, demandez de l’aide tôt. Au Canada, les jeunes peuvent joindre Jeunesse, J’écoute jour et nuit en textant CONNECTE au 686868 ou en appelant au 1 800 668-6868; le service offre aussi des ressources pour les adultes bienveillants. Au Canada comme aux États-Unis, tout le monde peut aussi appeler ou texter le 988, la ligne d’aide en cas de crise suicidaire. Si une personne est en danger immédiat, appelez votre numéro d’urgence local.