腾讯混元新研究聚焦在线大模型强化学习的批大小设置:当模型自生成训练数据、rollout生成与训练缩放节奏不一致时,经典临界批大小理论需在新场景重推。研究覆盖GRPO与PPO等主流算法并给出务实结论,为大规模GPU集群下提升训练效率提供参考。
AI云服务商Together AI完成8亿美元C轮融资,估值达83亿美元。本轮由沙特阿美创投领投,英伟达、Vista Equity Partners等跟投。该公司成立于2022年,专注提供英伟达GPU集群等AI基础设施租赁服务。
国产人工智能算力领域取得重要突破,摩尔线程近日发布并开源了业内首个基于国产全功能GPU底座的代码大模型MusaCoder。该模型专门用于GPU底层算子生成,其完整后训练流程在“夸娥”智算集群上完成,依托MTT S5000 GPU实现,标志着国产算力生态迈出关键一步。
Meta AI开源GCM工具包,旨在解决万亿参数AI模型训练中GPU集群的硬件不稳定问题。该工具为高性能计算领域提供了硬件管理方案,与传统Web开发中通过扩容解决延迟的方式不同。
首款实时生成式AI开放世界模型
免费开源AI模型推理服务
Openai
$2.8
Input tokens/M
$11.2
Output tokens/M
1k
Context Length
-
Bytedance
$0.8
$2
128
Alibaba
$0.4
$8.75
$70
400
$1.75
$14
$0.35
64
$0.63
$3.15
131
$1.8
$5.4
16
Tencent
32
$17.5
$56
$0.7
$2.4
$9.6
Google
$0.14
$0.28
用于Kubernetes集群中NVIDIA GPU硬件诊断的即时SRE诊断代理,通过MCP协议提供实时GPU硬件检测和故障排查功能。