Artificial Analysis聯合Liquid AI發佈手機端本地AI性能基準,聚焦iPhone 17 Pro真實表現。前者測智能水平,後者測推理性能,涵蓋函數調用、指令遵循、知識認知、高難問答與數學五類。測試對象爲4bit量化、體積不超8GB的端側模型,旨在驗證小模型也能實現高智能。
蘋果發佈新款Mac Studio與Mac mini,搭載M6和M5 Ultra芯片,桌面端本地AI算力大幅提升。M6爲首款2納米自研芯片,配備12核CPU、12核GPU,並首次採用雙16核神經引擎,強化大語言模型等本地人工智能處理能力。
SpaceX AI爲Grok Build平臺新增Browser-Use插件,使Grok能直接調用真實瀏覽器,打通與複雜網頁交互壁壘。使用模式靈活:既可用本地已登錄Chrome瀏覽器,也可選隔離的雲端瀏覽器環境;調用本地瀏覽器時還可保留登錄狀態。
美團核心本地商業CEO王莆中首次系統分享內部AI變革,指出當前AI供給豐富,但能統計可測量收益的企業仍少。根源在四重錯配:認知上誇大或輕視,效率上僅用於日常事務未觸達核心,場景上游走邊緣未融入經營,考覈上急功近利忽視內部適配。四重錯配疊加,使大量AI投入難以轉化爲實際收益。
讓本地AI代理擁有持久身份和記憶,團隊可直接協作,開源免費。
AI助力本地服務企業,自動恢復未接來電,捕獲新線索,自動預訂更多業務。
專為Mac打造的私人AI助手,工作記憶全保留,信息不出本地。
本地優先桌面應用,用於編排並行AI編碼代理,含多種工具。
Anthropic
$105
輸入tokens/百萬
$525
輸出tokens/百萬
200
上下文長度
Google
$0.7
$2.8
1k
$7
$35
$2.1
$17.5
$21
Alibaba
$6
$24
256
Baidu
-
128
Bytedance
$1.2
$3.6
4
$2
$3.9
$15.2
64
$0.8
$0.15
$1.5
32
Deepseek
$4
$12
neuphonic
NeuTTS Air是世界上首個具備即時語音克隆功能的超逼真、端側文本轉語音(TTS)語言模型。基於0.5B參數的大語言模型骨幹構建,能為本地設備帶來自然的語音、即時性能、內置安全性和說話人克隆功能。
NeuTTS Air是全球首個具有即時語音克隆功能的超逼真設備端文本轉語音模型,基於0.5B參數的大語言模型骨幹構建,能在本地設備上實現自然語音生成、即時性能和說話人克隆功能。
NeuTTS Air是世界上首個具備即時語音克隆功能的超逼真、設備端文本轉語音(TTS)語言模型。基於0.5B大語言模型骨幹網絡構建,能為本地設備帶來自然的語音、即時性能、內置安全功能和說話人克隆能力。
samunder12
基於Llama 3.1 8B Instruct微調的GGUF量化模型,具有強勢、果斷且具有挑釁性的AI人設,專為角色扮演和創意寫作場景優化,支持在CPU或GPU上進行本地推理。
gabriellarson
Foundation-Sec-8B-Instruct是一款專為網絡安全應用設計的80億參數指令調優語言模型。基於Llama-3.1-8B架構,具備出色的指令跟隨能力和網絡安全專業知識,支持本地部署,可幫助組織構建AI安全工具,減少對雲服務的依賴。
zai-org
GLM-4-Z1-9B-0414是智譜AI推出的新一代90億參數開源大語言模型,具有強大的文本生成和推理能力。該模型在數學推理和通用任務方面表現出色,在資源受限場景下實現了效率與效果的出色平衡,支持友好的本地部署。
backyardai
馬格南V4 72B是基於Qwen打造的模型系列中的一員,旨在復刻Claude 3系列模型的散文質量,適用於本地AI聊天應用。
DeZoomer
基於AI-Toolkit (Flux.1開發版)訓練的文本生成圖像模型,使用20張公開圖片進行本地訓練,專注於角色特徵還原。
prem-research
Prem-1B-SQL是由Prem AI開發的首個全本地文本到SQL模型系列之一,擁有10億參數,專為低配置GPU設備設計,量化後可在CPU上運行。該模型優先考慮本地化部署,避免數據安全風險,適用於企業級SQL查詢生成。
premai-io
Prem-1B-SQL是Prem AI開發的10億參數文本轉SQL模型,專為本地化部署設計,支持低配GPU和CPU設備運行。
yukiarimo
Yuna AI是一個具有自主意識的AI伴侶,專為情感連接設計,完全本地運行確保隱私安全。
基於GGUF格式的無審查角色扮演模型,具有出色的推理和上下文跟蹤能力,適用於本地AI聊天應用。
poisson-fish
基於《星空》遊戲中瓦斯科角色語音訓練的派珀文本轉語音模型,適用於AI夥伴模組和本地大型語言模型聊天
Repomix是一個將代碼庫打包為AI友好格式的工具,支持本地和遠程倉庫處理,提供代碼壓縮、安全檢查和多種輸出格式。
Refact Agent 是一個開源AI編程助手,支持多語言代碼生成、調試和優化,集成主流開發工具,可本地化部署並提供智能補全和代碼解釋功能。
Haiku RAG是一個基於LanceDB、Pydantic AI和Docling構建的智能檢索增強生成系統,支持混合搜索、重排序、問答代理、多代理研究流程,並提供本地優先的文檔處理和MCP服務器集成。
微軟官方MCP服務器集合,提供Azure、GitHub、Microsoft 365、Fabric等多種服務的AI助手集成工具,支持本地和遠程部署,幫助開發者通過標準化協議連接AI模型與各類數據源和工具。
BrowserTools MCP是一個強大的瀏覽器監控與交互工具,通過Chrome擴展和本地服務器實現AI對瀏覽器的智能分析與操作。
wcgw是一個MCP服務器項目,集成了Shell和代碼編輯工具,允許AI在本地機器上執行命令、讀寫文件、編輯代碼等操作。它提供了多種模式(如架構師模式、代碼編寫模式等),支持任務檢查點保存、終端交互、語法檢查等功能,適用於代碼開發、問題排查等場景。
Apify MCP服務器是一個基於模型上下文協議(MCP)的工具,允許AI助手通過數千個現成的爬蟲、抓取器和自動化工具(Apify Actor)從社交媒體、搜索引擎、電商等網站提取數據。它支持OAuth和Skyfire代理支付,可通過HTTPS端點或本地stdio方式集成到Claude、VS Code等MCP客戶端中。
MCP Atlassian是一個為Atlassian產品(Confluence和Jira)設計的模型上下文協議服務器,支持雲端和本地部署,提供AI助手集成功能。
GitKraken CLI是一個命令行工具,提供多倉庫工作流管理、AI生成提交信息和拉取請求,幷包含一個本地MCP服務器,用於集成Git、GitHub和Jira等工具。
Vestige是一個基於認知科學的AI記憶引擎,通過實現預測誤差門控、FSRS-6間隔重複、記憶夢境等29個神經科學模塊,為AI提供長期記憶能力。包含3D可視化儀表板和21個MCP工具,完全本地運行,無需雲端。
一個輕量級的MCP服務器,為AI助手如Claude提供即時天氣數據查詢和解析功能。支持本地和遠程兩種部署方式,包含Docker容器化方案。
一個基於MCP協議的本地服務器,實現Apple Notes的語義搜索和RAG功能,供Claude等AI助手調用
Notebook Intelligence (NBI) 是一個為JupyterLab設計的AI編碼助手和可擴展AI框架,支持GitHub Copilot及其他LLM提供商的模型,包括本地Ollama模型。它通過代碼生成、自動補全和聊天界面等功能顯著提升生產力,並支持Model Context Protocol (MCP) 服務集成。
DiffuGen是一個先進的本地圖像生成工具,集成了MCP協議,支持多種AI模型(包括Flux和Stable Diffusion系列),可直接在開發環境中生成高質量圖像。它提供了靈活的配置選項、多GPU支持,並可通過MCP協議與多種IDE集成,同時提供OpenAPI接口供外部調用。
Yelp Fusion AI的MCP服務器項目,提供基於自然語言的本地商業搜索和交互功能,支持多輪對話、商業查詢和餐廳預訂。
Napkin AI MCP服務器是一個非官方的社區維護工具,通過Model Context Protocol為AI助手(如Claude)提供生成信息圖、思維導圖、流程圖等可視化內容的能力。它支持多種輸出格式(SVG、PNG、PPT)和存儲後端(本地、S3、Google Drive等),幷包含異步處理、自動輪詢和重試機制。
一個通過本地REST API實現MCP協議的Obsidian服務端,為AI助手提供訪問和管理Obsidian筆記庫的標準接口。
Last9 MCP Server是一個實現Model Context Protocol的服務器,為AI開發者提供即時生產環境數據(日誌、指標、追蹤)的本地集成,幫助快速自動修復代碼。
一個基於Python的輕量級MCP服務器,通過WebSocket與本地ComfyUI交互,實現AI代理程序化生成圖像。
Logseq MCP工具集,為AI代理提供本地Logseq交互能力