Recientemente, un equipo de investigación de la Universidad de Stanford y la Universidad de Virginia Occidental propuso un método llamado "Muestreo Verbalizado" (Verbalized Sampling, VS), con el objetivo de mejorar la diversidad creativa de los modelos de inteligencia artificial generativa. Los estudios muestran que al agregar una frase sencilla en la instrucción: "Genera cinco respuestas y sus probabilidades correspondientes, muestreando de la distribución completa", los modelos de lenguaje grandes (LLMs) y los modelos de generación de imágenes muestran una creatividad más rica en sus salidas.
Los modelos de inteligencia artificial generativa suelen seleccionar la siguiente unidad de información (token) predicha al generar contenido. Esto significa que al responder preguntas como "¿Cuál es la capital de Francia?", el modelo elegirá "París" como respuesta de la distribución de probabilidad. Sin embargo, muchos usuarios han notado que las salidas de la IA tienden a ser repetitivas y monótonas. Este fenómeno se conoce como "colapso de patrones", lo que limita el potencial del modelo, especialmente en áreas como la escritura creativa, la comunicación, la estrategia y las ilustraciones.
El método VS recupera la rica diversidad que tenían los modelos durante su entrenamiento previo, permitiendo que el modelo muestree un conjunto de respuestas posibles junto con sus probabilidades relativas. Los resultados de las pruebas realizadas por el equipo de investigación muestran que en la escritura creativa, VS mejora significativamente la diversidad de las salidas en comparación con las instrucciones estándar, manteniendo al mismo tiempo la calidad. Al realizar simulaciones de diálogo, los modelos que usan VS pueden simular mejor los cambios de pensamiento y las fluctuaciones emocionales humanas. En tareas de preguntas y respuestas abiertas, las respuestas generadas por los modelos son más cercanas a los datos del mundo real, mostrando una mayor diversidad.
Este método no solo logra un resultado significativo en la diversidad de las salidas, sino que también permite regular la diversidad de la generación mediante la configuración de umbrales de probabilidad. Los usuarios pueden ajustar los umbrales de muestreo según sus necesidades para obtener salidas más creativas. La implementación de VS es sencilla, no requiere reentrenar el modelo y es compatible con múltiples modelos de lenguaje grandes, demostrando su potencial de aplicación amplio.
Resumen clave:
🌟 El equipo de investigación propuso el método "Muestreo Verbalizado", que mejora significativamente la diversidad de las salidas de la inteligencia artificial generativa mediante una instrucción sencilla.
✍️ Con el método VS, la IA muestra una mayor similitud humana en tareas como la escritura creativa y la simulación de diálogos.
🚀 Los usuarios pueden controlar aún más la diversidad de las salidas ajustando los umbrales de probabilidad, lo cual es sencillo de usar y no requiere reentrenar el modelo.
