Recientemente, el equipo hi lab de Xiaohongshu lanzó oficialmente su primer modelo de lenguaje grande de texto de código abierto llamado dots.llm1. Este nuevo modelo ha capturado la atención de la industria por sus excepcionales capacidades y su gran cantidad de parámetros.

dots.llm1 es un modelo de lenguaje grande que utiliza un sistema avanzado de expertos mixtos (MoE), con 142 mil millones de parámetros, incluidos 14 mil millones de parámetros activos. Entrenado con 11,2 TB de datos de alta calidad, este modelo puede rivalizar con Qwen2.5-72B de Alibaba en términos de rendimiento. Esto significa que dots.llm1 no solo tiene una alta precisión y fluidez en la generación de texto, sino que también puede manejar tareas de procesamiento del lenguaje natural más complejas.

Es importante destacar que el proceso de preentrenamiento de este modelo no utilizó datos sintéticos; todos los datos provienen de textos de alta calidad en escenarios reales. Esto le da a dots.llm1 una ventaja significativa en la comprensión de sutilezas y naturalidad del lenguaje humano, proporcionando una experiencia de interacción más realista para los usuarios.

La decisión de Xiaohongshu de abrir el código de esta herramienta marca un paso más hacia la expansión de la empresa en el campo de la inteligencia artificial, demostrando su ambición en innovación tecnológica. El código abierto no solo fomenta la participación y contribución de la comunidad, sino que también ofrece a los desarrolladores más oportunidades para explorar y aplicar esta potente herramienta.

Como plataforma centrada en la compartición de contenido y las redes sociales, Xiaohongshu siempre ha estado comprometida con mejorar la experiencia del usuario y sus capacidades técnicas. Al lanzar dots.llm1, Xiaohongshu busca ofrecer servicios más inteligentes a sus usuarios y también inspirar a más desarrolladores a participar en la investigación y práctica de la inteligencia artificial.

En el futuro, esperamos que dots.llm1 demuestre su potencial en más áreas, como la creación de contenido, los asistentes inteligentes o sistemas de diálogo más complejos. Xiaohongshu está sin duda impulsando el progreso de la inteligencia artificial a su manera.