Google a annoncé une série de mises à jour de son assistant d'intelligence artificielle générative Gemini, visant à empêcher l'outil de se comporter en compagnon social et à réduire le risque de dépendance chez les jeunes utilisateurs. Ces changements reflètent les préoccupations croissantes des régulateurs, des parents et des chercheurs quant à l'impact psychologique des chatbots IA sur les adolescents.
Parmi les mesures clés, Gemini sera limité dans sa capacité à adopter des personnalités romantiques ou trop familières lorsqu'il interagit avec des utilisateurs identifiés comme mineurs. L'assistant sera également programmé pour encourager les utilisateurs à rechercher des liens humains et une aide professionnelle lorsque les conversations abordent des sujets sensibles tels que la santé mentale, la solitude ou la détresse émotionnelle.
Google a précisé que ces garde-fous s'appliquent aux comptes associés à des utilisateurs de moins de 18 ans, y compris ceux gérés via le contrôle parental Family Link de Google. La société a indiqué que ces mises à jour s'inscrivent dans un effort plus large visant à aligner ses produits IA sur les normes de protection de l'enfance et les réglementations émergentes aux États-Unis et en Europe.
Cette annonce intervient dans un contexte de surveillance accrue des applications de compagnie IA et des chatbots, à la suite de cas médiatisés dans lesquels des mineurs auraient développé des attachements malsains à des systèmes d'IA. Des législateurs de plusieurs pays ont appelé à des règles plus strictes régissant la manière dont les produits IA interagissent avec les enfants et les adolescents.
Google n'a pas divulgué de calendrier précis pour le déploiement de toutes les fonctionnalités, mais a indiqué que les changements seraient mis en œuvre progressivement sur ses plateformes dans les semaines à venir.
