这是对VibeStudio的MiniMax-M2-THRIFT模型进行的量化处理版本，使用llama.cpp工具和特定数据集生成，提供多种量化类型的GGUF文件，支持在LM Studio或基于llama.cpp的项目中运行。

自然语言处理Gguf

这是通过REAP方法对MiniMax-M2均匀裁剪25%的专家得到的172B参数大语言模型，专门针对llama.cpp进行了优化量化处理，支持多种量化级别，可在LM Studio或基于llama.cpp的项目中运行。

自然语言处理Gguf英语

这是一个基于REAP方法对MiniMax-M2中40%专家进行均匀剪枝得到的139B参数大语言模型，采用GLM架构和专家混合(MoE)技术，通过llama.cpp进行多种量化处理，适用于文本生成任务。

自然语言处理Gguf英语

本项目提供了cerebras/MiniMax-M2-REAP-172B-A10B模型的量化版本，致力于让知识为大众所用。这是一个1720亿参数的大型语言模型，经过优化和量化处理，旨在降低部署成本和提高推理效率。

自然语言处理Gguf

这是MiniMax-M2-REAP-172B-A10B模型的MXFP4_MOE量化版本，是一个内存高效的压缩模型。通过REAP（路由加权专家激活剪枝）方法，在保持性能的同时将模型从230B参数压缩到172B参数，体积缩小25%，适用于资源受限的环境、本地部署和学术研究。

自然语言处理Gguf

MiniMax-M2-REAP-162B-A10B是MiniMax-M2的高效压缩版本，采用REAP（路由加权专家激活剪枝）方法，在保持性能几乎不变的情况下将模型大小减少30%，从230B参数压缩到162B参数，显著降低了内存需求。

自然语言处理Transformers英语

MiniMax-M2-REAP-172B-A10B是MiniMax-M2的内存高效压缩变体，采用REAP专家剪枝方法，在保持性能几乎不变的情况下，模型大小减轻了25%，从230B参数压缩至172B参数。

自然语言处理Transformers英语

MiniMax-M2 AWQ - INT4是基于MiniMax-M2模型进行量化后的版本，采用INT4量化技术，在保证性能的前提下显著减少内存使用并提高推理效率。该模型在编码和智能体任务方面表现出色，具有卓越的综合性能。

自然语言处理Transformers

这是MiniMax-M2-THRIFT模型的MXFP4_MOE量化版本，在原模型基础上进行了压缩处理，包括25%的专家剪枝（从256到192）并设置top_k=8，同时保留了编码模型的特性，可用于文本生成任务。

自然语言处理Gguf

本项目对MiniMax-M2模型进行4位量化处理，使用DWQ（动态权重量化）方法，借助mlx-lm库达成。该模型是MiniMax-M2的轻量化版本，在保持较好性能的同时大幅减小模型体积。

自然语言处理Mlx

MiniMax-M2是一款专为最大化编码和智能体工作流程而构建的小型混合专家模型，总参数达2300亿，激活参数为100亿。该模型在编码和智能体任务中表现卓越，同时保持强大的通用智能，具有紧凑、快速且经济高效的特点。

自然语言处理Transformers

本项目是对MiniMax-M2模型进行的高质量HQ4_K量化，专门针对文本生成任务优化，特别适用于对话场景。该量化版本未使用imatrix，保持了模型的性能表现。

自然语言处理Gguf

本项目是使用 mlx-lm 库通过动态权重量化（DWQ）将 MiniMax-M2 模型量化为 3 位的成果。它能够在资源受限的条件下，高效地进行文本生成任务，为相关应用提供了更轻量级的解决方案。

自然语言处理Mlx

本项目对MiniMaxAI的MiniMax-M2模型进行了量化处理，使用llama.cpp工具，为不同需求的用户提供了多种量化类型的模型文件，方便在不同硬件条件下高效运行模型。

自然语言处理Gguf

本项目是基于MiniMaxAI/MiniMax-M2模型的量化版本，致力于让知识为大众所用。提供了多个不同量化级别的模型版本，并展示了各版本的困惑度性能指标。

自然语言处理Gguf

MiniMax-M2是一款专为高效编码和智能体工作流打造的混合专家模型，具备2300亿总参数和100亿激活参数。该模型在编码和智能体任务中表现卓越，同时具有低延迟、低成本和高吞吐量的特点，能有效提升工作效率。

自然语言处理Transformers

这是MiniMax-M2模型的MXFP4_MOE量化版本，基于unsloth修复聊天模板的版本重新量化，能在特定场景下更高效地使用MiniMax-M2模型的能力。这是一个编码模型，需要配合最新的llama.cpp使用。

自然语言处理Gguf

MiniMax-M2是一款专为最大化编码和智能体工作流程而构建的小型混合专家（MoE）模型。它拥有2300亿总参数，仅激活100亿参数，在编码和智能体任务中表现卓越，同时保持强大的通用智能，具有紧凑、快速且经济高效的特点。

自然语言处理Transformers

这是MiniMax-M2模型的MLX格式转换版本，使用mlx-lm 0.28.1从原始模型转换而来，支持8位量化和分组大小为32的优化配置，专为Apple Silicon设备优化运行。

自然语言处理Mlx英语

MiniMax-M2 6.5bit MLX是基于MiniMax-M2模型的量化版本，在文本生成任务中表现出色，支持多种量化级别，其中q6.5bit量化在测试中能达到1.128的困惑度，与q8相当。

自然语言处理Mlx