这是对TheDrummer的Magidonia-24B-v4.3大语言模型进行量化处理后的版本。通过使用llama.cpp的imatrix量化技术，生成了从BF16到IQ2_XS等多种精度的GGUF格式文件，旨在不同硬件条件下（尤其是资源受限环境）更高效地运行模型，同时尽可能保持模型性能。

自然语言处理Gguf

这是NousResearch/Hermes-4.3-36B模型的GGUF量化格式版本，由MaziyarPanahi进行量化处理。GGUF是一种高效的模型格式，旨在优化本地部署和推理性能，支持多种量化级别（2位至8位），适用于广泛的文本生成任务。

自然语言处理Gguf

Qwen3-4B-Hivemind-Instruct-NEO-MAX-Imatrix-GGUF 是一款基于 Qwen3 架构的 4B 参数指令微调大语言模型，采用 NEO Imatrix 与 MAX 量化技术，具备 256k 的超长上下文处理能力。该模型在多个基准测试中表现出色，是一款性能强劲的通用型模型。

自然语言处理Gguf英语

该模型是 Kimi-Linear-48B-A3B-Instruct 的 MLX 格式转换版本，专为苹果 Mac Studio 等 Apple Silicon 设备优化。它是一个 480 亿参数的大型语言模型，支持指令跟随，适用于本地推理和对话任务。

自然语言处理Mlx

Gemma 3n E4B IT 是谷歌推出的轻量级多模态开放模型，基于与Gemini模型相同的研究构建。该模型支持文本、音频和视觉输入，适用于多种任务，采用MatFormer架构实现高效参数利用。

多模态Transformers

GLM-4.5-Air-REAP-82B-A12B-mxfp4-mlx是基于GLM-4.5-Air模型通过REAP方法压缩的82B参数大语言模型，采用MXFP4量化格式，专为Mac设备优化，在保持核心任务性能的同时显著减少内存占用。

自然语言处理Mlx英语

本项目提供了Qwen3-4B-Thinking-2507模型的GGUF格式文件，这是一个具有思维链推理能力的4B参数大语言模型，支持多种量化版本，便于在各种硬件上部署运行。

自然语言处理Gguf

Olmo 3 7B RL-Zero Math是Allen AI开发的专为数学推理任务优化的70亿参数语言模型，采用RL-Zero强化学习方法在数学数据集上进行训练，能有效提升数学推理能力。

自然语言处理Transformers英语

VibeThinker-1.5B-GGUF 是 WeiboAI/VibeThinker-1.5B 模型的 GGUF 量化版本，由 MaziyarPanahi 进行量化处理。该模型是一个 1.5B 参数的文本生成模型，支持多种量化级别（2位到8位），便于在各种硬件上高效运行。

自然语言处理Gguf

这是一个基于Qwen3 VL 8B模型的混合量化版本，采用MXFP4量化技术并在密集模型上使用混合权重。该模型在保持接近Q8精度的同时，实现了更小的文件大小和更高的推理速度，是效率与精度平衡的优秀解决方案。

多模态Safetensors其他

这是一个基于Qwen3 VL 8B模型的实验性混合量化版本，采用MXFP4_MOE技术结合高精度权重，在保持接近Q8精度的同时，实现更小的文件体积和更高的推理速度。该模型探索了混合量化方法，在精度损失和性能之间取得了良好平衡。

多模态Safetensors其他

这是Helsinki-NLP/opus-mt-en-ber模型的微调版本，专门用于英语到阿特拉斯塔马齐格语的翻译。模型基于MarianMT架构，使用48.6万对合成句子对进行训练，支持塔马齐格语、塔什利特语和中阿特拉斯塔马齐格语的翻译任务。

自然语言处理Safetensors支持多种语言

这是一个实验性的混合量化模型，采用MXFP4_MOE混合权重技术，在保持接近Q8精度的同时，实现了更小的文件大小和更高的推理速度。模型探索了MXFP4与高精度嵌入/输出权重的组合，在密集模型上取得了精度近乎无损的优化效果。

自然语言处理Gguf其他

这是一个基于Qwen3 4B Instruct模型的混合量化版本，采用MXFP4和混合权重技术，在保持近乎无损精度的同时实现了更小的文件大小和更高的推理速度。

自然语言处理Safetensors其他

这是一个基于Qwen3 4B模型的混合量化版本，采用MXFP4_MOE混合权重技术，在保持近乎无损精度的同时实现了更小的文件大小和更高的推理速度。该模型通过精心组合MXFP4和高精度嵌入/输出权重，达到了接近Q8量化的精度水平，同时具备Q4-Q6级别的吞吐量。

自然语言处理Safetensors其他

这是一个基于Qwen3-4B-Thinking-2507的密集模型实验性量化版本。它采用了创新的MXFP4混合量化技术，旨在探索通过组合不同精度的权重（如MXFP4与Q8_0、Q6_K等），在显著减小模型文件大小、提升推理速度（TPS）的同时，尽可能保持接近原始F16模型的精度。该项目展示了混合量化方法的潜力，但已被作者更新的版本所取代。

自然语言处理Safetensors其他

BT4模型是LeelaChessZero引擎背后的神经网络模型，专门用于国际象棋对弈。该模型基于Transformer架构设计，能够根据历史走法预测最佳下一步走法、评估棋局形势并生成走法概率。

科学计算Transformers

本模型是Falcon-H1-34B-Instruct指令微调版本的MLX格式转换版，专为Apple Silicon（M系列芯片）优化。它基于原始的Falcon-H1-34B-Instruct模型，通过mlx-lm工具转换为MLX框架兼容的8位量化格式，旨在在macOS设备上实现高效的本地推理。

自然语言处理Transformers支持多种语言

这是 Manoghn/voicecraft-mistral-7b 模型的静态量化GGUF版本，基于Mistral-7B架构，专门用于内容生成和文本生成任务。该版本提供了多种量化级别，从2.8GB到14.6GB不等，用户可以根据硬件条件和性能需求选择合适的版本。

自然语言处理Transformers英语

FastVideo团队推出的图像转视频模型，属于CausalWan2.2 I2V A14B系列，支持8步推理，能适配从H100到4090等多种GPU，也支持Mac用户使用。

计算机视觉Diffusers