YaFSDP
Marco de paralelismo de datos distribuido eficiente, diseñado específicamente para modelos de lenguaje a gran escala.
Producto ComúnProgramaciónComputación distribuidaParalelismo de datos
YaFSDP es un framework de paralelismo de datos distribuido, diseñado para una excelente colaboración con arquitecturas de redes neuronales tipo Transformer. Es un 20% más rápido que FSDP tradicional al preentrenar modelos de lenguaje a gran escala (LLMs), y ofrece un mejor rendimiento bajo alta presión de memoria. YaFSDP está diseñado para reducir los costos de comunicación y operaciones de memoria.
YaFSDP Situación del tráfico más reciente
Total de visitas mensuales
492133528
Tasa de rebote
36.20%
Páginas promedio por visita
6.1
Duración promedio de la visita
00:06:33
