這是GLM-4.5-Air-REAP-82B-A12B模型的MXFP4_MOE量化版本，專門針對文本生成任務進行了優化。該模型基於cerebras的GLM-4.5-Air-REAP-82B-A12B基礎模型，通過MXFP4混合專家量化技術實現，在保持性能的同時顯著減小模型體積和推理成本。

自然語言處理Gguf

Zirel-3是基於GLM-4.5-Air-REAP-82B-A12B的特定微調模型，採用REAP（路由加權專家激活剪枝）技術壓縮的820億參數混合專家模型，在保持高性能的同時顯著減少模型體積。

自然語言處理Transformers英語

GLM-4.5-Air-REAP-82B-A12B 是 GLM-4.5-Air 的高效壓縮版本，通過 REAP 剪枝技術將參數規模從 106B 壓縮到 82B，減少 25% 內存需求，同時保持近乎無損的性能表現。

自然語言處理Transformers英語

本項目為 GLM-4.6 模型提供了創意寫作控制向量，通過控制向量技術調節模型在特定維度上的表現，如誠實度與馬基雅維利主義傾向、溝通風格等。

自然語言處理Transformers英語

GLM-4.6的高質量量化版本，採用先進的量化技術在不使用imatrix的情況下實現，保持了良好的模型性能和兼容性，適用於對話等多種應用場景。

自然語言處理Gguf

GLM-4.6-AWQ是對智譜AI的GLM-4.6（357B MoE）進行高性能AWQ量化的模型，專為vLLM推理進行了優化，能有效提升生產部署的吞吐量。該模型採用4位量化技術，在保持高精度的同時顯著減少顯存佔用。

自然語言處理Transformers多語言

GLM-4.6-GPTQ-Int4-Int8Mix是基於zai-org/GLM-4.6基礎模型的量化版本，在文本生成任務上表現出色。該模型通過GPTQ量化技術實現了模型大小的優化，同時保持了良好的性能表現。

自然語言處理Transformers

基於ik_llama.cpp分支優化的GLM-4.6量化版本，採用先進的IQ量化技術，在保持高質量輸出的同時顯著減少內存佔用。該系列包含多種量化級別，從IQ5_K到IQ1_KT，滿足不同硬件環境下的推理需求。

自然語言處理Gguf

GLM-4.6是基於MLX框架的高效文本生成模型，採用6.5bit量化技術，在保持高質量文本生成能力的同時顯著降低計算資源需求。該模型在單臺M3 Ultra設備上即可運行，支持高效的文本生成任務。

自然語言處理Mlx多語言

GLM-4.5V-AWQ-4bit是基於智譜AI下一代旗艦文本基礎模型構建的量化版本多模態模型，通過AWQ-4bit量化技術優化，在保持優異性能的同時顯著降低計算資源需求。該模型在42個公開視覺語言基準測試中達到同規模模型的SOTA性能，具備強大的視覺推理能力。

多模態Transformers多語言

這是zai-org/GLM-4.5模型的ik_llama.cpp imatrix量化版本，採用先進的量化技術減少模型存儲空間的同時保持較高的預測精度，專為特定場景下的性能和效率優化而設計。

自然語言處理Gguf

這是zai-org GLM-4.5模型的量化版本，通過llama.cpp的量化技術實現，能在不同硬件條件下高效運行。提供從Q8_0到IQ1_S等多種量化級別選擇，支持文本生成任務，模型文件大小從77GB到380GB不等。

自然語言處理Gguf

這是一個基於ik_llama.cpp的GLM-4.5-Air模型的實驗性量化版本，採用imatrix技術進行優化，目前處於測試階段，不適合廣泛使用。該版本通過先進的量化技術實現了更高的推理效率，在保持模型性能的同時顯著減少了內存佔用。

自然語言處理Gguf

GLM-4.5-Air-AWQ-FP16Mix是基於GLM-4.5-Air模型進行量化處理後的高效文本生成模型，採用AWQ和FP16混合量化技術，適用於多GPU環境的大規模語言模型推理場景。

自然語言處理Transformers

GLM-4.5-Air-AWQ是GLM-4.5-Air模型的量化版本，通過AWQ量化技術提升推理效率，同時保持較高性能。該模型擁有106億參數，其中12億為活躍參數，專為智能代理設計，支持複雜推理和即時響應兩種模式。

自然語言處理Transformers多語言

GLM-4.5-Air-8bit是基於智譜AI的GLM-4.5-Air模型轉換而來的8位量化版本，專門為MLX框架優化。該模型保持了原版強大的自然語言處理能力，同時通過量化技術減少了內存佔用和計算需求，適合在Apple Silicon設備上高效運行。

自然語言處理Mlx多語言