Karpathy de OpenAI ha publicado un vídeo de una hora de duración titulado "Introducción a los Grandes Modelos de Lenguaje" (LLM), que profundiza en la inferencia, el entrenamiento, el ajuste fino y los nuevos sistemas operativos de LLM. El vídeo se divide en tres partes y trata sobre el modelo Llama 2-70b (con 70 mil millones de parámetros), las futuras tendencias de los LLM y la seguridad de los LLM.
En el vídeo, Karpathy explica el funcionamiento de los LLM, la ley de escalamiento, las aplicaciones multimodales y las tendencias de personalización. También se discuten los aspectos de seguridad de los LLM, incluyendo ataques como la evasión ("jailbreak"), la inyección de indicaciones y el envenenamiento de datos.
