這是對VibeStudio的MiniMax-M2-THRIFT模型進行的量化處理版本，使用llama.cpp工具和特定數據集生成，提供多種量化類型的GGUF文件，支持在LM Studio或基於llama.cpp的項目中運行。

自然語言處理Gguf

這是通過REAP方法對MiniMax-M2均勻裁剪25%的專家得到的172B參數大語言模型，專門針對llama.cpp進行了優化量化處理，支持多種量化級別，可在LM Studio或基於llama.cpp的項目中運行。

自然語言處理Gguf英語

這是一個基於REAP方法對MiniMax-M2中40%專家進行均勻剪枝得到的139B參數大語言模型，採用GLM架構和專家混合(MoE)技術，通過llama.cpp進行多種量化處理，適用於文本生成任務。

自然語言處理Gguf英語

本項目提供了cerebras/MiniMax-M2-REAP-172B-A10B模型的量化版本，致力於讓知識為大眾所用。這是一個1720億參數的大型語言模型，經過優化和量化處理，旨在降低部署成本和提高推理效率。

自然語言處理Gguf

這是MiniMax-M2-REAP-172B-A10B模型的MXFP4_MOE量化版本，是一個內存高效的壓縮模型。通過REAP（路由加權專家激活剪枝）方法，在保持性能的同時將模型從230B參數壓縮到172B參數，體積縮小25%，適用於資源受限的環境、本地部署和學術研究。

自然語言處理Gguf

MiniMax-M2-REAP-162B-A10B是MiniMax-M2的高效壓縮版本，採用REAP（路由加權專家激活剪枝）方法，在保持性能幾乎不變的情況下將模型大小減少30%，從230B參數壓縮到162B參數，顯著降低了內存需求。

自然語言處理Transformers英語

MiniMax-M2-REAP-172B-A10B是MiniMax-M2的內存高效壓縮變體，採用REAP專家剪枝方法，在保持性能幾乎不變的情況下，模型大小減輕了25%，從230B參數壓縮至172B參數。

自然語言處理Transformers英語

MiniMax-M2 AWQ - INT4是基於MiniMax-M2模型進行量化後的版本，採用INT4量化技術，在保證性能的前提下顯著減少內存使用並提高推理效率。該模型在編碼和智能體任務方面表現出色，具有卓越的綜合性能。

自然語言處理Transformers

這是MiniMax-M2-THRIFT模型的MXFP4_MOE量化版本，在原模型基礎上進行了壓縮處理，包括25%的專家剪枝（從256到192）並設置top_k=8，同時保留了編碼模型的特性，可用於文本生成任務。

自然語言處理Gguf

本項目對MiniMax-M2模型進行4位量化處理，使用DWQ（動態權重量化）方法，藉助mlx-lm庫達成。該模型是MiniMax-M2的輕量化版本，在保持較好性能的同時大幅減小模型體積。

自然語言處理Mlx

MiniMax-M2是一款專為最大化編碼和智能體工作流程而構建的小型混合專家模型，總參數達2300億，激活參數為100億。該模型在編碼和智能體任務中表現卓越，同時保持強大的通用智能，具有緊湊、快速且經濟高效的特點。

自然語言處理Transformers

本項目是對MiniMax-M2模型進行的高質量HQ4_K量化，專門針對文本生成任務優化，特別適用於對話場景。該量化版本未使用imatrix，保持了模型的性能表現。

自然語言處理Gguf

本項目是使用 mlx-lm 庫通過動態權重量化（DWQ）將 MiniMax-M2 模型量化為 3 位的成果。它能夠在資源受限的條件下，高效地進行文本生成任務，為相關應用提供了更輕量級的解決方案。

自然語言處理Mlx

本項目對MiniMaxAI的MiniMax-M2模型進行了量化處理，使用llama.cpp工具，為不同需求的用戶提供了多種量化類型的模型文件，方便在不同硬件條件下高效運行模型。

自然語言處理Gguf

本項目是基於MiniMaxAI/MiniMax-M2模型的量化版本，致力於讓知識為大眾所用。提供了多個不同量化級別的模型版本，並展示了各版本的困惑度性能指標。

自然語言處理Gguf

MiniMax-M2是一款專為高效編碼和智能體工作流打造的混合專家模型，具備2300億總參數和100億激活參數。該模型在編碼和智能體任務中表現卓越，同時具有低延遲、低成本和高吞吐量的特點，能有效提升工作效率。

自然語言處理Transformers

這是MiniMax-M2模型的MXFP4_MOE量化版本，基於unsloth修復聊天模板的版本重新量化，能在特定場景下更高效地使用MiniMax-M2模型的能力。這是一個編碼模型，需要配合最新的llama.cpp使用。

自然語言處理Gguf

MiniMax-M2是一款專為最大化編碼和智能體工作流程而構建的小型混合專家（MoE）模型。它擁有2300億總參數，僅激活100億參數，在編碼和智能體任務中表現卓越，同時保持強大的通用智能，具有緊湊、快速且經濟高效的特點。

自然語言處理Transformers

這是MiniMax-M2模型的MLX格式轉換版本，使用mlx-lm 0.28.1從原始模型轉換而來，支持8位量化和分組大小為32的優化配置，專為Apple Silicon設備優化運行。

自然語言處理Mlx英語

MiniMax-M2 6.5bit MLX是基於MiniMax-M2模型的量化版本，在文本生成任務中表現出色，支持多種量化級別，其中q6.5bit量化在測試中能達到1.128的困惑度，與q8相當。

自然語言處理Mlx