“异算方舟”国产全栈软件生态平台在京发布,由中科院网络中心、中科大等联合打造,旨在破解国产GPU异构算力在科学计算中的应用难题,提供高效软件解决方案。该平台集成编译、算法、框架等工具,助力科研创新与自主计算生态建设。
字节跳动计划与国内高性能计算厂商天数智芯洽谈,大规模采购约5万颗AI芯片,主要用于部署推理任务场景,以支持其AI聊天机器人“豆包”的迭代和用户增长。此举反映AI大模型用户规模扩张下,算力基础设施自主可控成为科技企业战略重心。
国产人工智能算力领域取得重要突破,摩尔线程近日发布并开源了业内首个基于国产全功能GPU底座的代码大模型MusaCoder。该模型专门用于GPU底层算子生成,其完整后训练流程在“夸娥”智算集群上完成,依托MTT S5000 GPU实现,标志着国产算力生态迈出关键一步。
AMD发布vLLM-ATOM插件,专为大语言模型部署优化,在不改变现有工作流下,显著提升DeepSeek-R1、Kimi-K2等国产大模型在AMD硬件上的推理性能。该插件针对Instinct系列GPU定制,利用vLLM框架的高显存利用率优势,让开发者以低学习成本实现技术迁移,获得性能平滑升级。
Openai
$2.8
Input tokens/M
$11.2
Output tokens/M
1k
Context Length
-
Bytedance
$0.8
$2
128
Alibaba
$0.4
$8.75
$70
400
$1.75
$14
$0.35
64
$0.63
$3.15
131
Iflytek
$1.8
$5.4
16
Tencent
32
$17.5
$56
$0.7
$2.4
$9.6