摩尔线程宣布已为月之暗面开源的2.8万亿参数Kimi K3模型完成适配,基于自研MTT S5000训推一体卡与MUSA软件栈,实现极速稳定运行,为国产算力支撑万亿大模型再添底气。
海光DCU完成万亿参数大模型Kimi K3全栈适配与验证,标志着国产算力首次稳稳支撑此类超大模型。通过底层算子到推理引擎的深度优化,模型无需任何代码改动,迁移成本近乎零,开发者拿到算力即可部署。同时针对KDA注意力与896专家MoE架构实现从容兼容,打破海外旗舰芯片垄断,提供开箱即用的国产方案。
“异算方舟”国产全栈软件生态平台在京发布,由中科院网络中心、中科大等联合打造,旨在破解国产GPU异构算力在科学计算中的应用难题,提供高效软件解决方案。该平台集成编译、算法、框架等工具,助力科研创新与自主计算生态建设。
字节跳动计划与国内高性能计算厂商天数智芯洽谈,大规模采购约5万颗AI芯片,主要用于部署推理任务场景,以支持其AI聊天机器人“豆包”的迭代和用户增长。此举反映AI大模型用户规模扩张下,算力基础设施自主可控成为科技企业战略重心。
Openai
$2.8
Input tokens/M
$11.2
Output tokens/M
1k
Context Length
-
Bytedance
$0.8
$2
128
Alibaba
$0.4
$8.75
$70
400
$1.75
$14
$0.35
64
$0.63
$3.15
131
Iflytek
$1.8
$5.4
16
Tencent
32
$17.5
$56
$0.7
$2.4
$9.6