硅基流动上线蚂蚁百灵团队 Ling-flash-2.0,推理速度再创新高
近日,硅基流动大模型服务平台正式上线了蚂蚁集团百灵团队最新开源的 Ling-flash-2.0,这是该平台上线的第130个模型。Ling-flash-2.0是一款基于 MoE 架构的大型语言模型,拥有100亿参数,并且在激活时仅使用6.1亿参数(非嵌入激活4.8亿)。经过20TB 以上高质量语料的预训练、监督微调和多阶段强化学习,该模型在激活6亿以上参数的情况下,展现出了媲美40亿参数 Dense 模型的卓越性能。Ling-flash-2.0在复杂推理、代码生成和前端研发等领域表现出色,能够支持最大128K 的上下文长度,给用户提供更