在2025世界大會上,百度執行副總裁沈抖發佈新一代崑崙芯片M100、M300及天池256、512超節點,並公佈未來五年產品戰略:每年推新品,強化高性能計算雲基礎設施,助力企業客戶。
近日,MLX-LM現已直接集成到Hugging Face平臺。這一里程碑式的更新爲Apple Silicon設備(包括M1、M2、M3和M4芯片)用戶提供了前所未有的便利,使其能夠以最高速度在本地運行超過4400種大型語言模型(LLM),無需依賴雲服務或等待模型轉換。這一集成進一步推動了本地化AI開發的普及,爲開發者和研究人員提供了更高效、靈活的工具。MLX-LM與Hugging Face的深度融合MLX是Apple機器學習研究團隊開發的一個專爲Apple Silicon優化的機器學習框架,旨在充分利用M系列芯片的神經引擎(ANE)和Metal GPU的強大性能。MLX
中國人工智能初創公司DeepSeek悄然發佈了大型語言模型DeepSeek-V3-0324,在人工智能行業引發了震動。該模型以641GB的體量現身於AI資源庫Hugging Face,此次發佈延續了DeepSeek低調卻極具影響力的風格,沒有大肆宣傳,僅附帶空的README文件和模型權重。這款模型採用MIT許可,可免費用於商業用途,且能在消費級硬件——配備M3Ultra芯片的蘋果Mac Studio上直接運行。AI研究人員Awni Hannun在社交媒體透露,4位量化版本的DeepSeek-V3-0324在512GB的M3Ultra芯片上,運行速度超20令牌/秒。儘管Mac Studio價格高昂,但能在
["蘋果發佈搭載了M3芯片的MacBook Air系列產品","M3芯片性能提升明顯,支持大內存容量和AI功能","蘋果的AI落地應用能力仍在謹慎探索階段","AIPC成爲PC市場的熱點,各大廠商紛紛推出AI電腦","趨勢包括Arm架構的提升、異構計算的主流化、端側AI的需求增加"]
Tencent
$3
輸入tokens/百萬
$9
輸出tokens/百萬
16
上下文長度
Baidu
-
32
$0.1
$0.4
128
Chatglm
$100