AIBase
首頁
AI資訊
AI產品庫
模型廣場
MCP服务
AI服務
算力市場
AI應用指南
TW

AI資訊

查看更多

微軟 Azure ND GB300 再創記錄:每秒推理速度達 110 萬token

微軟Azure ND GB300v6虛擬機在Llama270B模型上創下每秒110萬token推理速度新紀錄。該成就基於與英偉達的深度合作,採用配備72個Blackwell Ultra GPU和36個Grace CPU的NVIDIA GB300NVL72系統,突顯微軟在規模化AI運算領域的專業實力。

9.6k 1 天前
微軟 Azure ND GB300 再創記錄:每秒推理速度達 110 萬token

​英偉達Blackwell平臺發佈:AI訓練性能暴增2.2倍,GPU需求大幅減少!

近日,英偉達發佈了其全新的 Blackwell 平臺,並在 MLPerf Training4.1基準測試中展示了初步的性能表現。根據測試結果,Blackwell 在某些方面的性能相比於前一代 Hopper 平臺實現了翻倍的提升,這一成果引起了業界的廣泛關注。在 MLPerf Training4.1基準測試中,Blackwell 平臺在 LLM(大語言模型)基準的 Llama270B 微調任務中,每個 GPU 的性能達到了 Hopper 的2.2倍,而在 GPT-3175B 的預訓練中則達到了2倍的提升。此外,在 Stable Diffusion v2訓練等其他基準測試中,新一代的 Blackwell 也以1.7倍的優勢超過了前代產品

13.7k 4 天前
​英偉達Blackwell平臺發佈:AI訓練性能暴增2.2倍,GPU需求大幅減少!

模型

查看更多

Yi-34B-200K

01-ai

Yi-34B-200K

-

輸入tokens/百萬

-

輸出tokens/百萬

200

上下文長度

AIBase
智啟未來,您的人工智能解決方案智庫
English简体中文繁體中文にほんご
友情链接:
AI Newsletters AI ToolsMCP ServersAI NewsAIBaseLLM LeaderboardAI Ranking
© 2026AIBase
商務合作網站地圖