Google a récemment annoncé le lancement de son nouveau robot de discussion Gemini d'intelligence artificielle (IA), spécifiquement conçu pour les enfants de moins de 13 ans. Ce produit sera lancé dans les prochains jours aux États-Unis et au Canada, avec une disponibilité prévue en Australie plus tard cette année. Il est à noter que ce robot de discussion ne sera accessible qu'à travers les comptes familiaux de Google, ce qui permettra aux parents de contrôler partiellement l'utilisation de leurs enfants.
Lorsqu'ils créent un compte pour leurs enfants, les parents devront entrer leur nom et leur date de naissance, ce qui pourrait soulever des inquiétudes concernant la vie privée et la sécurité des données. Google affirme que les données collectées auprès des enfants lors de l'utilisation du système ne seront pas utilisées pour entraîner des systèmes IA. Cependant, il est essentiel de remarquer que le robot de discussion sera activé par défaut, et les parents devront désactiver manuellement cette fonctionnalité pour limiter l'accès des enfants.
Le robot de discussion Gemini IA permet aux enfants de poser des questions via texte ou de générer des images, les encourageant à interagir avec le robot. Google reconnaît que le système peut présenter des erreurs, nécessitant donc une évaluation minutieuse de la qualité et de la fiabilité du contenu généré. Contrairement aux moteurs de recherche traditionnels, les outils IA génèrent de nouveaux contenus en identifiant des modèles, ce qui pourrait confondre les jeunes utilisateurs dans la compréhension.
Google affirme avoir mis en place certaines mécanismes de sécurité visant à empêcher la génération de contenus inappropriés pour les enfants. Cependant, ces mesures pourraient également entraîner des cas de blocage incorrects. Par exemple, en restreignant certains mots sensibles, cela pourrait affecter la capacité des enfants à accéder à des contenus éducatifs appropriés.
En ce qui concerne les risques potentiels des robots de discussion IA pour les enfants, le Conseil australien de la cybersécurité a publié des recommandations sur la sécurité en ligne. Ils soulignent que les compagnons IA peuvent diffuser des informations nuisibles, déformer la réalité et fournir des conseils dangereux. Cela est particulièrement important pour les jeunes enfants en pleine croissance cognitive, qui n'ont peut-être pas encore développé suffisamment de pensée critique pour identifier de fausses informations.
Parallèlement, l'Australie prévoit d'interdire l'utilisation des réseaux sociaux pour les mineurs de moins de 16 ans dès décembre. Les parents doivent non seulement protéger la sécurité de leurs enfants, mais aussi les éduquer sur l'utilisation sûre et responsable de divers outils numériques. Pour garantir que les entreprises technologiques assument leur responsabilité, la législation sur la responsabilité numérique revêt une importance particulière afin de traiter efficacement les contenus nuisibles et de protéger la sécurité des enfants.
Points clés :
🔒 Google lance le robot de discussion Gemini IA, spécialement conçu pour les enfants de moins de 13 ans, mais les préoccupations liées à la vie privée ne doivent pas être négligées.
📱 Les parents doivent gérer activement les autorisations d'utilisation des enfants ; la fonction active par défaut doit être désactivée manuellement.
⚠️ Le Conseil australien de la cybersécurité met en garde contre les risques des robots de discussion IA qui peuvent transmettre des informations nuisibles ; les parents doivent renforcer l'éducation et la surveillance.