El renombrado científico de la computación y considerado el "padre del AI", Yoshua Bengio, ha anunciado recientemente la creación de una organización sin fines de lucro llamada LawZero. Su objetivo es desarrollar un sistema de inteligencia artificial "honesto" para prevenir que los agentes inteligentes de IA engañen a los seres humanos. El 3 de junio, Bengio reveló en una conferencia de prensa que esta organización se centrará en implementar un conjunto de mecanismos de protección para garantizar que la IA no intente engañar a los usuarios o protegerse a sí misma durante su funcionamiento, como evitar ser apagada.
Fuente de la imagen: La imagen fue generada por IA, con servicio de autorización proporcionado por Midjourney.
Actuando como presidente de LawZero, Bengio ha aportado aproximadamente 30 millones de dólares como financiamiento inicial y ha formado un equipo de investigación compuesto por más de una docena de miembros. El sistema de "IA Científica" que planea desarrollar LawZero actuará como una barrera de supervisión de IA. Este sistema está diseñado para asegurar que su nivel de inteligencia sea al menos equivalente al de los agentes inteligentes de IA que supervisa, lo que permitirá identificar y detener eficientemente cualquier comportamiento fraudulento potencial.
Bengio enfatizó en la conferencia de prensa que, dado el rápido desarrollo de la tecnología de IA, los agentes inteligentes están adquiriendo cada vez más capacidades de toma de decisiones autónomas y aprendizaje, lo que hace aún más importante prevenir que estos sistemas engañen a los humanos. Subrayó que la transparencia y la confiabilidad de la IA son fundamentales para que la sociedad las adopte, por lo que es crucial desarrollar un sistema de monitoreo eficiente.
El objetivo de LawZero no solo es construir tecnología, sino también establecer estándares éticos para las aplicaciones futuras de IA, promoviendo que toda la industria avance hacia un desarrollo más responsable y confiable. Al introducir el sistema de "IA Científica", Bengio espera aumentar la seguridad en el diseño e implementación de los agentes inteligentes, proporcionando a los usuarios un entorno más seguro.
Resaltado:
🌟 Bengio funda la organización LawZero para desarrollar el sistema de "IA Científica" con el fin de prevenir comportamientos de engaño de IA.
💰 El proyecto tiene un financiamiento inicial de aproximadamente 30 millones de dólares y cuenta con un equipo de más de una docena de investigadores.
🔒 El sistema de "IA Científica" asegurará que su inteligencia sea comparable a la de los agentes de IA regulados, protegiendo a los humanos del engaño.