AIBase
首页
AI 资讯
AI 产品库
GEO 平台
MCP 服务
模型算力广场
ZH

AI资讯

查看更多

Swiftlet 把 80B 量级 Qwen 巨兽塞进 Mac:峰值内存仅 4.3GB,iPhone 17 还能原生机跑 35B

Swiftlet 项目利用 Swift + Metal,让 Qwen3-Next 等 MoE 模型在 Mac 上极致瘦身运行:仅常驻小型稠密核心,专家权重存于 SSD 按需流式加载。在 M5 Mac 上,Qwen3.6-35B-A3B 的 4-bit 版仅占 18GB 磁盘,峰值内存 2.6GB,解码速度达 7–11 tok/s。

24.1k 6 分钟前
Swiftlet 把 80B 量级 Qwen 巨兽塞进 Mac:峰值内存仅 4.3GB,iPhone 17 还能原生机跑 35B
AIBase
智启未来,您的人工智能解决方案智库
English简体中文繁體中文にほんご
友情链接:
AI Newsletters AI ToolsMCP ServersAI NewsAI MarketingLLM LeaderboardAI Ranking
© 2026AIBase
商务合作网站地图