ModernBERT-base

Modelo codificador bidireccional eficiente para el procesamiento de textos largos

Producto ComúnProgramaciónBERTProcesamiento de textos largos

Abrir sitio web

ModernBERT-base es un modelo Transformer codificador bidireccional moderno, preentrenado con 2 billones de datos de texto inglés y código, que admite de forma nativa contextos de hasta 8192 tokens. Este modelo incorpora las últimas mejoras arquitectónicas, como incrustaciones posicionales rotatorias (RoPE), atención alterna local-global y eliminación de relleno (Unpadding), lo que le permite destacar en tareas de procesamiento de textos largos. ModernBERT-base es adecuado para tareas que requieren el procesamiento de documentos largos, como recuperación de información, clasificación y búsqueda semántica en grandes corpus. Los datos de entrenamiento del modelo son principalmente inglés y código, por lo que su rendimiento puede disminuir en otros idiomas.

Product Finder

Product Submit

AI Models Finder

MCP Servers

MCP Client

MCP Inspector

Case Tutorials

Latest AI News

AI Daily Brief

ModernBERT-base

ModernBERT-base Situación del tráfico más reciente

ModernBERT-base Tendencia de visitas

ModernBERT-base Distribución geográfica de las visitas

ModernBERT-base Fuentes de tráfico

ModernBERT-base Alternativas

ModernBERT-base — Modelo codificador bidireccional eficiente para el procesamiento de textos largos

Familia de Modelos Abiertos Jamba 1.5 — Modelo de IA de alto rendimiento para el procesamiento de textos largos

Qwen2.5-Turbo — Modelo de lenguaje avanzado para el procesamiento eficiente de textos largos

AI21-Jamba-1.5-Mini — Modelo de IA de alta eficiencia para el procesamiento de textos largos

EXAONE 3.5 — Modelo de IA de vanguardia que ofrece un cumplimiento de instrucciones y una capacidad de procesamiento de textos largos de primer nivel.

Google Vision Transformer — Modelo de reconocimiento de imágenes basado en Transformer

Gemini 2.0 Flash-Lite — Gemini 2.0 Flash-Lite es un modelo de lenguaje eficiente, optimizado para el procesamiento de textos largos y diversas aplicaciones.

LongWriter — Modelo LLM que libera la capacidad de generar textos largos

LongLLaMA — Modelo de lenguaje grande para el procesamiento de textos largos

GLM-4-9B-Chat — Modelo de preentrenamiento multilingüe de nueva generación, compatible con textos largos y ejecución de código.

Explicador de Transformadores — Herramienta de visualización para comprender a fondo el modelo Transformer

GPT-4.1 — GPT-4.1 es un modelo con mejoras significativas en programación, seguimiento de instrucciones y comprensión de textos largos.

Llama-3 70B Instruct Gradient 1048k — Modelo lingüístico de alto rendimiento desarrollado por el equipo de Gradient AI, que admite la generación de textos largos y la conversación.

ollama-ebook-summary — Herramienta de resumen de textos largos que convierte automáticamente libros y documentos en notas clave.

GLM-4-Plus — Modelo líder mundial en comprensión del lenguaje y procesamiento de textos largos.

ModernBERT — ModernBERT es un modelo de codificador de última generación con un rendimiento excepcional.

Modelo de lenguaje extenso Cao Zhi — Especializado en textos largos, múltiples idiomas y verticalización

QwQ-32B — QwQ-32B es un potente modelo de inferencia, diseñado para la resolución de problemas complejos y la generación de texto, con un rendimiento excepcional.

LUAR — Modelo de aprendizaje de representación de autores basado en Transformer

LongCite — Permite que los modelos lingüísticos grandes generen citas de grano fino en preguntas y respuestas de textos largos.

CogView — Modelo Transformer para generación de imágenes a partir de texto en dominios generales

Qwen1.5-32B — Serie de modelos de lenguaje preentrenados basados en la arquitectura Transformer

Mistral — Mistral es un modelo de procesamiento del lenguaje natural (PLN) de código abierto.

InternLM2.5-7B-Chat-1M — Modelo de diálogo de contexto extra largo de 7 mil millones de parámetros

AiShare Escritura — Software gratuito para escribir textos largos (más de 10.000 palabras) compatible con ordenadores convencionales.

Qwen2 — Modelo de preentrenamiento multilingüe de última generación con un rendimiento excepcional.

MusiConGen — Modelo de generación de música a partir de texto basado en Transformer

Jamba-1.5 — Modelo base avanzado de seguimiento de instrucciones híbrido SSM-Transformer

RWKV v6 Finch 14B — RWKV v6 Finch 14B, un modelo de lenguaje grande de código abierto, eficiente en el procesamiento de textos largos.

Megatron-LM — Investigación continua sobre el entrenamiento a gran escala de modelos Transformer