這是ArliAI的GLM-4.5-Air-Derestricted模型的GGUF量化版本，使用llama.cpp和imatrix技術進行優化量化處理，提供多種量化級別選擇，適用於不同硬件配置和性能需求。

自然語言處理Gguf

這是一個實驗性的量化大語言模型，採用Deckard（qx）量化方法，嵌入層為3位量化。該模型通過範數保持雙投影消除（NPBA）技術重構，不僅移除了安全限制機制，還增強了模型的認知深度和推理能力。

自然語言處理Mlx

GLM-4.5-Air-REAP-82B-A12B-mxfp4-mlx是基於GLM-4.5-Air模型通過REAP方法壓縮的82B參數大語言模型，採用MXFP4量化格式，專為Mac設備優化，在保持核心任務性能的同時顯著減少內存佔用。

自然語言處理Mlx英語

GLM-4.5-Iceblink-v2-106B-A12B-FP8是基於GLM-4.5-Iceblink-v2-106B-A12B模型，採用最先進的混合專家量化方法進行FP8量化的版本。該模型專門針對支持硬件FP8的Ada、Hopper或Blackwell系列GPU優化，在保持高質量輸出的同時顯著提升推理效率。

自然語言處理Safetensors

GLM-4.6 AWQ - INT4是GLM-4.6模型的4位量化版本，採用AWQ量化方法，在保持模型性能的同時顯著減少了存儲和計算資源需求。該模型支持200K上下文長度，在編碼、推理和智能體任務方面相比GLM-4.5有顯著提升。

自然語言處理Transformers多語言

這是GLM-4.5-Air-REAP-82B-A12B模型的MXFP4_MOE量化版本，專門針對文本生成任務進行了優化。該模型基於cerebras的GLM-4.5-Air-REAP-82B-A12B基礎模型，通過MXFP4混合專家量化技術實現，在保持性能的同時顯著減小模型體積和推理成本。

自然語言處理Gguf

該模型是基於GLM-4.5-Air使用REAP方法進行25%均勻剪枝後的專家混合模型，已轉換為MLX格式的4位量化版本，適用於蘋果芯片設備的高效推理。

自然語言處理Transformers英語

Zirel-3是基於GLM-4.5-Air-REAP-82B-A12B的特定微調模型，採用REAP（路由加權專家激活剪枝）技術壓縮的820億參數混合專家模型，在保持高性能的同時顯著減少模型體積。

自然語言處理Transformers英語

基於GLM-4.5-Air模型使用REAP方法進行25%專家剪枝的優化版本，轉換為MLX格式以便在Apple Silicon設備上高效運行

自然語言處理Mlx英語

GLM-4.5-Air-REAP-82B-A12B 是 GLM-4.5-Air 的高效壓縮版本，通過 REAP 剪枝技術將參數規模從 106B 壓縮到 82B，減少 25% 內存需求，同時保持近乎無損的性能表現。

自然語言處理Transformers英語

GLM-4.6-AWQ是基於zai-org/GLM-4.6基礎模型的量化版本，具備高效的文本生成能力。相比GLM-4.5，該模型在上下文窗口、編碼性能、推理能力和智能體功能等方面都有顯著提升。

自然語言處理Transformers

GLM-4.6是智譜AI推出的新一代文本生成模型，相比GLM-4.5在多個方面有顯著改進，包括更長的上下文窗口、更優的編碼性能和更強的推理能力。該模型在多個公開基準測試中表現出色，與國內外領先模型相比具有競爭優勢。

自然語言處理Transformers多語言

GLM-4.6是智譜AI開發的新一代大語言模型，相比GLM-4.5在上下文處理、編碼能力和推理性能方面有顯著提升。該模型支持200K上下文長度，在多個公開基準測試中表現出色，特別在代碼生成、推理和代理任務方面具有競爭優勢。

自然語言處理Transformers多語言

GLM-4.6是智譜AI推出的新一代文本生成模型，相比GLM-4.5在上下文處理、編碼性能、推理能力等方面實現顯著提升，支持200K上下文長度，具備更強的智能體能力和精緻的寫作能力。

自然語言處理Transformers多語言

GLM-4.6-FP8是智譜AI推出的新一代文本生成模型，相比GLM-4.5在多個關鍵方面有顯著改進。該模型具有更長的上下文窗口、卓越的編碼性能、高級推理能力和更強大的智能體功能，能夠處理更復雜的任務。

自然語言處理Transformers多語言

GLM-4.5-Air-mxfp4 是智源研究院 GLM-4.5-Air 模型的 MLX 格式轉換版本，專門為 Apple Silicon 設備優化，支持高效的本地推理。

自然語言處理Mlx多語言

這是一個基於GLM-4.5-Air的文本生成模型，專門針對MLX框架進行了mxfp4量化優化。該模型提供了多種量化版本（mxfp4、qx64和qx5-hi）的性能對比分析，為不同任務場景下的模型選擇提供依據。

自然語言處理Mlx多語言

GLM-4.5-Base是一款經過量化處理的文本生成模型，基於zai-org/GLM-4.5-Base模型進行優化，專門為128GB內存搭配小型GPU的設備設計。採用ik_llama.cpp的新型IQ2_KL量化方法，在保持性能的同時顯著降低資源需求，適合文本生成任務。

自然語言處理Gguf多語言

這是一個實驗性的量化公式模型，將原始GLM-4.5-Air模型轉換為MLX格式，採用混合精度量化策略（4-8位），專為文本生成任務優化，目前仍在評估階段。

自然語言處理Mlx多語言

GLM-4.5-Air是智譜AI推出的適用於智能體的基礎模型，採用緊湊設計，統一了推理、編碼和智能體能力，能滿足智能體應用的複雜需求。該模型參數量適中且效率優越，已開源多種版本，可用於商業和二次開發。

自然語言處理Transformers多語言