O Google recentemente anunciou o lançamento de seu novo chatbot de inteligência artificial (IA) chamado Gemini, especificamente direcionado a crianças com menos de 13 anos. Este novo produto estará disponível nos próximos sete dias nos Estados Unidos e no Canadá, e também está previsto para ser lançado na Austrália mais tarde este ano. Vale ressaltar que esse chatbot só estará disponível através da conta Familiar do Google, o que permitirá que os pais tenham algum controle sobre o uso das crianças.
No momento de configurar a conta da criança, os pais precisarão inserir o nome e a data de nascimento da criança, o que pode gerar preocupações sobre privacidade e segurança dos dados. O Google afirmou que os dados coletados ao usar esse sistema não serão usados para treinar sistemas de IA. No entanto, é importante notar que o chatbot estará ativado por padrão, e os pais precisam desativá-lo manualmente para limitar o acesso das crianças.
O chatbot de IA Gemini permite que as crianças façam perguntas por texto ou gerem imagens, incentivando-as a interagir com o robô. O Google reconhece que o sistema pode apresentar erros, portanto, será necessário avaliar cuidadosamente a qualidade e a confiabilidade do conteúdo gerado. Diferente dos mecanismos de busca tradicionais, as ferramentas de IA geram novos conteúdos identificando padrões, o que pode confundir usuários jovens.
O Google disse que desenvolveu alguns mecanismos de segurança para evitar a geração de conteúdo inadequado para crianças. No entanto, essas medidas também podem levar a algumas situações de bloqueio indevido. Por exemplo, ao restringir certas palavras sensíveis, isso pode impactar a capacidade das crianças de acessar conteúdo educacional adequado.
Diante dos possíveis riscos que os chatbots de IA podem causar às crianças, a Comissão de Segurança Eletrônica da Austrália emitiu conselhos de segurança online. Eles destacaram que os companheiros de IA podem propagar conteúdo prejudicial, distorcer a realidade e fornecer sugestões perigosas. Isso é particularmente importante para crianças em desenvolvimento cognitivo, pois elas podem não ter capacidade suficiente de pensamento crítico para identificar informações falsas.
Por outro lado, a Austrália planeja banir o uso de redes sociais para menores de 16 anos até dezembro deste ano. Enquanto os pais protegem a segurança das crianças, eles precisam educá-las sobre como usar corretamente e de forma segura várias ferramentas digitais. Para garantir que as empresas tecnológicas assumam suas responsabilidades, a legislação sobre a responsabilidade digital torna-se essencial para lidar eficientemente com conteúdo prejudicial e proteger a segurança das crianças.
Principais pontos:
🔐 O Google lançou o chatbot de IA Gemini, voltado para crianças com menos de 13 anos, mas questões de privacidade não devem ser negligenciadas.
📱 Os pais precisam gerenciar ativamente os direitos de uso das crianças, pois o recurso padrão está ativado e deve ser desligado manualmente.
⚠️ A Comissão de Segurança Eletrônica da Austrália alerta que os chatbots de IA podem trazer conteúdo prejudicial, e os pais precisam fortalecer a educação e supervisão.