A OpenAI publicou seu primeiro artigo sobre alinhamento superficial, explorando os desafios potenciais da superinteligência artificial. A equipe propôs o conceito de "generalização fraca para forte", e a pesquisa mostrou que o GPT-2 pode supervisionar o GPT-4, mas o desafio reside na supervisão fraca de modelos super-humanos. A OpenAI incentiva a pesquisa e anunciou um financiamento de US$ 10 milhões.
OpenAI publica seu primeiro artigo sobre alinhamento superpotente: GPT-2 pode supervisionar GPT-4
机器之心
72
Este artigo é do AIbase Daily
Bem-vindo à coluna [AI Daily]! Este é o seu guia para explorar o mundo da inteligência artificial todos os dias. Todos os dias apresentamos os destaques da área de IA, com foco nos desenvolvedores, para o ajudar a obter insights sobre as tendências tecnológicas e a compreender as aplicações inovadoras de produtos de IA.
—— Criado pelo Grupo AIbase Daily
© Todos os direitos reservados AIbase Base 2024, clique para ver a fonte -
