開源本地AI工具Strata發佈0.2.10版,專爲消費級顯卡優化。本次更新聚焦降低顯存門檻、提升推理速度和優化多顯卡協同,使普通電腦運行千億參數大模型更輕鬆。亮點是顯存大幅瘦身,8GB顯卡也能支持128K超長上下文,而以往8GB顯存開啓64K以上上下文常受限制。整體讓本地大模型部署更低門檻、更高效。
開源本地AI大模型運行工具Strata發佈0.2.0測試版,新增獨立圖形界面,繼續降低本地部署硬件門檻。新版本深度優化內存與顯存綜合佔用,RAM+VRAM合計最低僅需27.6GB即可流暢運行Qwen3.8-Flash-Next、Qwen3.6-35B-A3B等大語言模型,讓普通家用電腦也能更輕鬆地本地運行大模型。