Recentemente, equipes de pesquisa da Universidade de Stanford e da Universidade de West Virginia apresentaram um método chamado "Amostragem Verbalizada" (Verbalized Sampling, VS), com o objetivo de aumentar a diversidade criativa dos modelos de IA generativa. Estudos mostram que, ao incluir uma frase simples no prompt: "Gere 5 respostas e suas probabilidades correspondentes, amostrando da distribuição completa", os modelos de linguagem de grande porte (LLMs) e os modelos de geração de imagens mostram uma criatividade mais rica na saída.
Os modelos de IA generativa, ao gerar conteúdo, normalmente escolhem com base no próximo elemento informativo previsto (token). Isso significa que, ao responder perguntas como "Qual é a capital da França?", o modelo escolhe "Paris" com base na distribuição de probabilidade. No entanto, muitos usuários descobrem que as saídas da IA tendem a ser repetitivas e monótonas. Esse fenômeno é conhecido como colapso de padrões, limitando o potencial do modelo, especialmente em áreas como escrita criativa, comunicação, estratégia e ilustração.
O método VS recupera a rica diversidade que os modelos tinham durante o treinamento inicial, permitindo que o modelo mostre um conjunto de respostas possíveis e suas probabilidades relativas. Os testes realizados pela equipe de pesquisa revelaram que, na escrita criativa, o VS aumentou significativamente a diversidade das saídas em comparação com o prompt padrão, mantendo a qualidade. Em simulações de diálogo, os modelos que usavam o VS conseguiram simular melhor as mudanças de pensamento e as variações emocionais humanas. Em tarefas de perguntas e respostas abertas, as respostas geradas pelos modelos estavam mais próximas dos dados do mundo real, demonstrando maior diversidade.
Este método não apenas obtém resultados notáveis na diversidade das saídas, mas também permite regular a diversidade da geração definindo um limiar de probabilidade. Os usuários podem ajustar o limiar de amostragem conforme necessário para obter saídas mais criativas. A implementação do VS é simples, não requer re-treinamento do modelo e é compatível com diversos modelos de linguagem de grande porte, demonstrando seu amplo potencial de aplicação.
Destaque:
🌟 A equipe de pesquisa propôs o método "Amostragem Verbalizada", que aumenta significativamente a diversidade das saídas da IA generativa com um simples prompt.
✍️ Com o método VS, a IA demonstra uma similaridade humana mais rica em tarefas como escrita criativa e simulação de diálogo.
🚀 Os usuários podem ajustar o limiar de probabilidade para controlar ainda mais a diversidade das saídas, de forma simples e prática, sem precisar re-treinar o modelo.
