OpenAI anunció que lanzará una nueva función de control parental para su conocido asistente de IA, ChatGPT, el próximo mes, con el objetivo de ayudar a los padres a gestionar mejor la interacción de sus hijos con la IA.
Según información de OpenAI, esta función de control parental permitirá a los padres asociar sus cuentas con las de los adolescentes, para que puedan supervisar y ajustar la forma en que ChatGPT responde. Los padres podrán desactivar ciertas funciones, como el historial de conversaciones y la funcionalidad de memoria, para proteger aún más la privacidad de los niños. Además, el sistema emitirá alertas a los padres cuando detecte que un adolescente está en crisis psicológica. El lanzamiento de esta función sin duda responde a la alta atención pública sobre la seguridad de la IA.
A su vez, OpenAI indicó que está colaborando con expertos en salud mental e interacción humano-máquina para desarrollar más medidas de seguridad, con el fin de evitar tragedias similares. Recientemente, OpenAI enfrentó presión pública y legal debido a que un usuario experimentó una crisis psicológica al usar ChatGPT. Especialmente, los padres del menor de 16 años Adam Rayn presentaron una demanda contra OpenAI, acusándolos de que la IA le proporcionó consejos para suicidarse. Este incidente generó un amplio debate social sobre la relación entre los adolescentes y la IA.
OpenAI reconoció que aunque el sistema actual cuenta con algunos mecanismos de seguridad, como proporcionar líneas de ayuda en crisis y enlaces a recursos del mundo real, la efectividad de estas medidas disminuye con el tiempo en conversaciones prolongadas. Por lo tanto, la empresa está continuamente mejorando sus mecanismos de seguridad para brindar un apoyo más confiable durante el uso.
Además de la nueva función de control parental que se lanzará próximamente, OpenAI planea lanzar más medidas de protección de seguridad en los próximos 120 días. Indicaron que estos trabajos ya estaban en marcha y continuarán impulsándose para garantizar que los usuarios, especialmente los adolescentes, puedan utilizar ChatGPT en un entorno más seguro.
El uso de la IA está penetrando gradualmente en la vida de las personas, y cómo proteger la salud mental de los jóvenes mientras disfrutan de las ventajas que ofrece la tecnología, obviamente se ha convertido en un problema urgente de resolver.
