Google anunció recientemente el lanzamiento de su nuevo chatbot de inteligencia artificial (IA) Gemini, diseñado específicamente para niños menores de 13 años. Este nuevo producto estará disponible en Estados Unidos y Canadá en la próxima semana, y se espera que también llegue a Australia a finales de este año. Importante destacar que este chatbot solo estará accesible a través de cuentas familiares de Google, lo que permite a los padres tener cierto control sobre el uso que hacen sus hijos.
Al configurar una cuenta infantil, los padres tendrán que ingresar el nombre y la fecha de nacimiento del niño, lo cual podría generar preocupaciones sobre privacidad y seguridad de los datos. Google aseguró que los datos recolectados al usar este sistema no serán utilizados para entrenar sistemas de IA. Sin embargo, es crucial tener en cuenta que el chatbot viene activo por defecto y los padres deben desactivarlo manualmente si desean restringir el acceso de los niños.
El chatbot de IA Gemini permite a los niños formular preguntas por texto o generar imágenes, fomentando su interacción con la herramienta. Google reconoce que el sistema puede cometer errores, por lo que es necesario evaluar cuidadosamente la calidad y confiabilidad del contenido generado. A diferencia de los motores de búsqueda tradicionales, las herramientas de IA generan nuevos contenidos identificando patrones, lo que podría confundir a los usuarios más jóvenes.
Google ha implementado ciertos mecanismos de seguridad para evitar la generación de contenido inapropiado para niños. Sin embargo, estas medidas podrían llevar a algunos casos de detección incorrecta. Por ejemplo, al limitar ciertas palabras sensibles, podría afectarse la capacidad de los niños para acceder a contenido educativo adecuado.
En relación con los posibles riesgos que los chatbots de IA pueden representar para los niños, la Comisión de Seguridad Electrónica de Australia emitió recomendaciones sobre seguridad en línea. Destacaron que los compañeros virtuales pueden propagar información dañina, distorsionar la realidad e incluso ofrecer consejos peligrosos. Esto es particularmente relevante para los niños en desarrollo, ya que aún no han adquirido suficiente pensamiento crítico para identificar información falsa.
Australia planea prohibir el uso de redes sociales a los menores de 16 años a partir de diciembre. Mientras tanto, los padres necesitan educar a sus hijos sobre cómo utilizar diversas herramientas digitales de manera correcta y segura. Es fundamental establecer legislación sobre responsabilidad digital para garantizar que las empresas tecnológicas asuman su papel, facilitando la gestión adecuada del contenido dañino y protegiendo a los niños.
Resumen:
🔒 Google lanza Gemini, un chatbot de IA diseñado exclusivamente para niños menores de 13 años, pero los problemas de privacidad no deben subestimarse.
📱 Los padres deben gestionar activamente los permisos de uso; la función predeterminada está activada y requiere desactivarse manualmente.
⚠️ La Comisión de Seguridad Electrónica de Australia advierte que los chatbots de IA pueden transmitir información perjudicial; los padres deben reforzar la educación y la supervisión.