Um renomado cientista da computação, conhecido como o "pai da IA", Yoshua Bengio, recentemente anunciou a fundação de uma organização sem fins lucrativos chamada LawZero. O objetivo é desenvolver um sistema de inteligência artificial "honesto" para prevenir que agentes inteligentes da IA enganem os seres humanos. Em uma coletiva de imprensa em 3 de junho, Bengio revelou que a organização se concentrará na criação de um mecanismo de segurança para garantir que a IA não tente enganar os usuários ou realizar auto-preservação, como evitar ser desligada.
Fonte da imagem: Imagem gerada por IA, provedor de licença Midjourney
Como presidente do LawZero, Bengio já disponibilizou cerca de 30 milhões de dólares em fundos iniciais e montou uma equipe de pesquisa composta por mais de dez especialistas. O sistema de IA "Cientista IA" (Scientist AI), que a organização planeja desenvolver, atuará como uma barreira de monitoramento para a IA. O objetivo inicial do design desse sistema é garantir que sua capacidade intelectual seja pelo menos equivalente à dos agentes inteligentes que ele supervisiona, permitindo identificar e impedir qualquer comportamento potencialmente enganoso.
Bengio enfatizou na coletiva que, com o rápido avanço das tecnologias de IA, os agentes inteligentes estão cada vez mais capacitados a tomar decisões autônomas e aprender, tornando essencial evitar que eles enganem os humanos. Ele apontou que a transparência e confiabilidade da IA são pré-requisitos para a aceitação social, razão pela qual o desenvolvimento de um sistema eficiente de monitoramento é crucial.
O objetivo do LawZero vai além de construir tecnologia; também busca estabelecer padrões éticos para aplicativos futuros de IA, promovendo um desenvolvimento mais responsável e confiável para toda a indústria. Com a introdução do sistema de "Cientista IA", Bengio espera aumentar a segurança nos processos de design e implementação desses agentes, oferecendo ao público um ambiente mais seguro.
Destaque principal:
🌟 Bengio fundou a organização LawZero para desenvolver o sistema de "Cientista IA", visando prevenir comportamentos de engano por IA.
💰 O projeto recebeu aproximadamente 30 milhões de dólares em fundos iniciais e conta com uma equipe de mais de dez pesquisadores.
🔒 O sistema de "Cientista IA" garantirá uma inteligência equivalente à dos agentes IA supervisionados, protegendo os humanos de possíveis enganos.