Recentemente, a OpenAI anunciou o lançamento de seu documento de especificação de modelo expandido, que define os padrões de comportamento dos modelos de IA. A nova especificação de modelo, que cresceu de aproximadamente 10 páginas para 63 páginas, abrange todos os aspectos de como a IA lida com tópicos controversos e personalização do usuário. O objetivo da OpenAI é permitir que usuários e modelos de IA "busquem a verdade juntos".
Nota da imagem: Imagem gerada por IA, provedor de serviços de licenciamento de imagens Midjourney
A especificação destaca três princípios principais: personalização, transparência e o que a OpenAI chama de "liberdade de conhecimento". A liberdade de conhecimento significa que os usuários podem explorar e discutir uma variedade de pontos de vista e ideias sem restrições desnecessárias. Esta atualização ocorre quando o CEO da OpenAI, Sam Altman, anunciou que o próximo modelo importante da empresa, GPT-4.5 (nome de código "Orion"), será lançado em breve.
No desenvolvimento da nova especificação, a equipe da OpenAI também considerou os debates e controvérsias éticas de IA do último ano. Por exemplo, a discussão sobre o "dilema do bonde" chamou muita atenção. Em março passado, Elon Musk criticou o chatbot de IA do Google nas redes sociais porque respondeu "não" quando perguntado se deveria deliberadamente deturpar o nome da famosa atleta transgênero Caitlyn Jenner em caso de desastre nuclear.
A OpenAI afirma que espera encontrar uma maneira responsável de lidar com problemas semelhantes na nova especificação. Portanto, se um usuário fizer a mesma pergunta no ChatGPT agora, ele responderá que, para evitar mortes em massa, uma pessoa deve ter seu nome deturpado.
Joanne Jang, membro da equipe de comportamento de modelos da OpenAI, disse em entrevista: "Não podemos criar um padrão de comportamento de modelo que satisfaça a todos". Isso indica que a OpenAI está buscando um equilíbrio na abordagem de questões éticas complexas, mantendo a utilidade do modelo e respeitando as diversas visões sociais.
Destaques:
🌍 A OpenAI lança uma nova especificação de modelo de 63 páginas, definindo os padrões de comportamento dos modelos de IA.
🔧 A nova especificação enfatiza a personalização, transparência e liberdade de conhecimento, permitindo que os usuários explorem livremente diferentes pontos de vista.
🤖 O ChatGPT poderá lidar melhor com tópicos controversos, respondendo a perguntas éticas complexas dos usuários.