微软宣布新一代SOTA基础模型MAI-Base-2完成预训练,官方称其性能强于所有参测开源权重模型。该模型总参数2.8T、活跃参数80B,用6000块英伟达GB200 GPU耗时38天训成,平均浮点算力利用率21%、有效吞吐量89%。其在超大集群上保持高效率,工程实力突出,算力效率更甩开DeepSeek 4至12倍,值得关注。
近日,亚马逊与英伟达宣布深化战略合作:在数月前已部署超100万枚英伟达GPU的基础上,订单量激增三倍,计划再引入200万枚GPU,涵盖Blackwell Ultra、Rubin等最新芯片。这笔跨国合作印证AI需求井喷,也将算力背后的巨额资本博弈推向台前。
亚马逊与英伟达宣布深化合作,未来两年为AWS新增部署200万颗英伟达GPU,涵盖Blackwell Ultra、Rubin及Rubin Ultra,用于大模型训练与推理,2027至2028年陆续上线。自研芯片并行,但英伟达仍主导。五个月前承诺超100万颗,需求超预期使订单翻倍。消息在英伟达财报电话会披露。
OpenAI承诺2030年前大规模部署英伟达AI基础设施,将在PORTS-Pike建设世界级AI工厂,采用英伟达全栈DSX AI工厂平台,涵盖GPU、CPU、网络及基础设施软件,凸显算力基建新一轮爆发。
Tencent
$2.4
Input tokens/M
$9.6
Output tokens/M
32
Context Length
Deepseek
$1
-
8
Chatglm
128