La Californie a adopté une nouvelle loi le 13 octobre, dans le contexte de l'industrie croissante de l'intelligence artificielle, visant à protéger les droits des utilisateurs lorsqu'ils interagissent avec des chatbots. Le projet de loi, intitulé « SB243 », a été signé par le gouverneur de la Californie Gavin Newsom et est devenu la première réglementation nationale de sécurité ciblant les chatbots. Ce projet de loi a été introduit par le sénateur de l'État Anthony Padilla, soulignant la nécessité de transparence et de sécurité pour les utilisateurs.
Note sur la source de l'image : L'image est générée par l'intelligence artificielle, et le service de licence d'image est Midjourney
Selon la nouvelle loi, les développeurs de chatbots doivent prendre une série de mesures de sécurité, dont la plus importante est que si les utilisateurs pourraient mal comprendre qu'ils communiquent avec un humain lorsqu'ils interagissent avec un chatbot, les développeurs doivent fournir une « notification claire et visible » pour informer les utilisateurs qu'ils interagissent en réalité avec une intelligence artificielle plutôt qu'avec un humain. En outre, à partir de l'année prochaine, certains opérateurs de chatbots devront également soumettre des rapports annuels au Bureau de prévention du suicide de la Californie, détaillant les mesures qu'ils ont prises pour identifier, supprimer et répondre aux pensées liées au suicide qui pourraient surgir chez les utilisateurs. Le bureau rendra également ces données publiques sur son site internet pour accès public.
Le gouverneur de la Californie Newsom a déclaré lors de la signature du projet de loi que le développement rapide de la technologie peut inspirer, éduquer et connecter les gens, mais sans une régulation efficace, la technologie pourrait aussi exploiter, tromper et nuire aux enfants. Pour garantir la sécurité des enfants, le gouvernement de l'État doit mettre en œuvre des responsabilités et des mesures de protection appropriées tout en avançant le développement de l'intelligence artificielle et de la technologie. Il a insisté sur le fait que « La sécurité de nos enfants n’est pas négociable ».
Cette actualité intervient alors que la Californie a également adopté un autre projet de loi historique, « SB53 », qui porte sur la transparence de l'intelligence artificielle, bien que ce projet de loi ait suscité des débats et discussions larges au sein de l'industrie.
L'application de cette nouvelle loi marque une étape importante dans la régulation de l'intelligence artificielle en Californie, visant à assurer que le développement technologique et la sécurité des utilisateurs avancent en parallèle, notamment concernant la sécurité en ligne des enfants.
Points clés :
📜 La nouvelle loi exige que les développeurs de chatbots informent les utilisateurs qu'ils interagissent avec une IA, et non avec un humain.
🔍 Les opérateurs de chatbots doivent présenter des rapports annuels au bureau de prévention du suicide, axés sur la santé mentale des utilisateurs.
👶 Le gouvernement de la Californie insiste sur le fait qu'au moment où il promeut le développement technologique, il doit protéger la sécurité des enfants.
