在2025世界大会上,百度执行副总裁沈抖发布新一代昆仑芯片M100、M300及天池256、512超节点,并公布未来五年产品战略:每年推新品,强化高性能计算云基础设施,助力企业客户。
近日,MLX-LM现已直接集成到Hugging Face平台。这一里程碑式的更新为Apple Silicon设备(包括M1、M2、M3和M4芯片)用户提供了前所未有的便利,使其能够以最高速度在本地运行超过4400种大型语言模型(LLM),无需依赖云服务或等待模型转换。这一集成进一步推动了本地化AI开发的普及,为开发者和研究人员提供了更高效、灵活的工具。MLX-LM与Hugging Face的深度融合MLX是Apple机器学习研究团队开发的一个专为Apple Silicon优化的机器学习框架,旨在充分利用M系列芯片的神经引擎(ANE)和Metal GPU的强大性能。MLX
中国人工智能初创公司DeepSeek悄然发布了大型语言模型DeepSeek-V3-0324,在人工智能行业引发了震动。该模型以641GB的体量现身于AI资源库Hugging Face,此次发布延续了DeepSeek低调却极具影响力的风格,没有大肆宣传,仅附带空的README文件和模型权重。这款模型采用MIT许可,可免费用于商业用途,且能在消费级硬件——配备M3Ultra芯片的苹果Mac Studio上直接运行。AI研究人员Awni Hannun在社交媒体透露,4位量化版本的DeepSeek-V3-0324在512GB的M3Ultra芯片上,运行速度超20令牌/秒。尽管Mac Studio价格高昂,但能在
["苹果发布搭载了M3芯片的MacBook Air系列产品","M3芯片性能提升明显,支持大内存容量和AI功能","苹果的AI落地应用能力仍在谨慎探索阶段","AIPC成为PC市场的热点,各大厂商纷纷推出AI电脑","趋势包括Arm架构的提升、异构计算的主流化、端侧AI的需求增加"]
Tencent
$3
Input tokens/M
$9
Output tokens/M
16
Context Length
Baidu
-
32
$0.1
$0.4
128
Chatglm
$100