这是使用华为SINQ（Sinkhorn归一化量化）方法对Qwen3-Next-80B大语言模型进行4位量化后的版本。SINQ是一种新颖、快速且高质量的量化方法，旨在显著压缩模型体积（约减少75%），同时保持与原始模型几乎不变的准确性，使其更易于部署。

自然语言处理Safetensors英语

GLM-4.5-Air-REAP-82B-A12B-mxfp4-mlx是基于GLM-4.5-Air模型通过REAP方法压缩的82B参数大语言模型，采用MXFP4量化格式，专为Mac设备优化，在保持核心任务性能的同时显著减少内存占用。

自然语言处理Mlx英语

这是ai-sage/GigaChat3-10B-A1.8B-bf16模型的GGUF量化版本，提供了多种量化选项，从高精度的Q8_0到极度压缩的smol-IQ1_KT，满足不同硬件条件下的部署需求。该模型支持32K上下文长度，采用MLA架构，专为对话场景优化。

自然语言处理Gguf其他

这是MiniMax-M2-REAP-172B-A10B模型的MXFP4_MOE量化版本，是一个内存高效的压缩模型。通过REAP（路由加权专家激活剪枝）方法，在保持性能的同时将模型从230B参数压缩到172B参数，体积缩小25%，适用于资源受限的环境、本地部署和学术研究。

自然语言处理Gguf

MiniMax-M2-REAP-162B-A10B是MiniMax-M2的高效压缩版本，采用REAP（路由加权专家激活剪枝）方法，在保持性能几乎不变的情况下将模型大小减少30%，从230B参数压缩到162B参数，显著降低了内存需求。

自然语言处理Transformers英语

MiniMax-M2-REAP-172B-A10B是MiniMax-M2的内存高效压缩变体，采用REAP专家剪枝方法，在保持性能几乎不变的情况下，模型大小减轻了25%，从230B参数压缩至172B参数。

自然语言处理Transformers英语

这是MiniMax-M2-THRIFT模型的MXFP4_MOE量化版本，在原模型基础上进行了压缩处理，包括25%的专家剪枝（从256到192）并设置top_k=8，同时保留了编码模型的特性，可用于文本生成任务。

自然语言处理Gguf

这是 gravitee-io/very-small-prompt-compression 模型的静态量化版本，专门用于提示压缩和文本摘要任务。该模型基于 Dolly-15k 提示压缩数据集训练，支持英语语言处理，提供多种量化级别选择。

自然语言处理Transformers英语

这是一个高效的文本摘要模型，专门设计用于压缩大语言模型提示中的文本内容，能够实现7倍以上的压缩率，显著降低API调用成本。

自然语言处理Transformers英语

这是Qwen3-30B-A3B-CoderThinking-YOYO-linear模型的MXFP4_MOE量化版本，专门针对文本生成任务进行了优化。该模型通过MXFP4量化技术实现了模型压缩，同时保持了良好的性能表现。

自然语言处理Gguf

Zirel-3是基于GLM-4.5-Air-REAP-82B-A12B的特定微调模型，采用REAP（路由加权专家激活剪枝）技术压缩的820亿参数混合专家模型，在保持高性能的同时显著减少模型体积。

自然语言处理Transformers英语

DeepSeek-OCR是DeepSeek AI开发的一款先进的光学字符识别模型，专注于探索视觉文本压缩的边界，能够高效地从图像中提取和转换文本内容。

多模态Safetensors其他

这是Kwaipilot的KAT-Dev模型的量化版本，使用llama.cpp的imatrix量化技术处理，旨在提升模型在不同硬件环境下的运行效率和性能。该版本提供多种量化级别，从高质量到极致压缩，适应不同的内存和计算资源需求。

自然语言处理Gguf

这是微软UserLM-8b模型的量化版本，使用llama.cpp的imatrix量化技术，可在保持模型性能的同时显著减少内存占用和提升推理速度。支持多种量化级别，从高质量到极致压缩，适用于不同硬件环境。

自然语言处理Gguf

人工海马网络（AHN）是一种创新的长上下文建模方法，通过将无损记忆转换为固定大小的压缩表示，结合了无损记忆的精确性和压缩记忆的高效性。该模型能够有效处理长序列，计算成本固定，适用于各种类似RNN的架构。

自然语言处理Transformers英语

本项目提供腾讯混元-MT-7B大语言模型的量化版本，通过模型压缩技术降低计算和存储需求，致力于让知识为每个人所用，使高性能AI模型更加普及和易用。

自然语言处理Gguf

这是ByteDance-Seed/cudaLLM-8B的量化版本，致力于通过模型压缩技术让大语言模型更易于部署和使用，实现'让知识为每个人所用'的理念。

自然语言处理Gguf

这是使用llm-compressor对Qwen/Qwen3-Embedding-0.6B进行压缩后的版本，采用W8A8量化方案。该模型在保持性能的同时显著减少了存储和计算资源需求，适用于资源受限环境下的特征提取任务。

自然语言处理Safetensors支持多种语言

这是一个基于GPT架构的大型语言模型，拥有1200亿参数并使用4位量化技术压缩，通过MLX框架优化在Apple芯片上运行，支持高效的文本生成任务。

自然语言处理Transformers

这是原始Wan-AI/Wan2.2-T2V-A14B模型的DFloat11无损压缩版本，通过先进的压缩技术将模型大小缩小32%，同时保持位级相同的输出质量，支持高效GPU推理。

多模态Diffusers