Qwen3-VL-2B-Instruct-FP8是Qwen系列中最强大的视觉语言模型的FP8量化版本，采用块大小为128的细粒度fp8量化，性能与原始BF16模型几乎相同。该模型具备卓越的文本理解和生成能力、深入的视觉感知与推理能力、长上下文支持以及增强的空间和视频动态理解能力。

多模态Transformers

Qwen3-VL-32B-Instruct-FP8是Qwen系列中最强大的视觉语言模型的FP8量化版本，采用块大小为128的细粒度fp8量化，性能指标与原始BF16模型几乎相同。该模型具备卓越的文本理解与生成能力、深入的视觉感知与推理能力、长上下文支持以及强大的空间和视频动态理解能力。

多模态Transformers

Qwen3-VL-32B-Thinking-FP8是Qwen系列中最强大的视觉语言模型的FP8量化版本，采用块大小为128的细粒度fp8量化技术，性能指标与原始BF16模型几乎相同。该模型具备出色的文本理解与生成能力、深入的视觉感知与推理能力、长上下文支持以及强大的智能体交互能力。

多模态Safetensors

这是Meta Llama-3.1-8B-Instruct模型的FP8量化版本，通过对权重和激活值进行FP8量化，显著减少了磁盘大小和GPU内存需求，同时保持了良好的模型性能。

自然语言处理Safetensors

olmOCR-2-7B-1025的FP8量化版本，基于Qwen2.5-VL-7B-Instruct微调而来，专门用于处理数学方程、表格等复杂OCR场景的视觉语言模型。

多模态Transformers英语

Qwen3-VL-30B-A3B-Thinking-FP8是通义系列中最强大的视觉语言模型的FP8量化版本，采用块大小为128的细粒度fp8量化，性能指标与原始BF16模型几乎相同。该模型具备卓越的文本理解与生成能力、深入的视觉感知与推理能力，支持长上下文和视频理解。

多模态Safetensors

Qwen3-VL-30B-A3B-Instruct-FP8是通义系列中最强大的视觉语言模型的FP8量化版本，采用块大小为128的细粒度FP8量化，性能与原始BF16模型几乎相同。该模型具备卓越的文本理解和生成能力、深入的视觉感知和推理能力、长上下文支持以及强大的智能体交互能力。

多模态Safetensors

Qwen3-VL-235B-A22B-Thinking-FP8是通义系列中最强大的视觉语言模型的FP8量化版本，采用块大小为128的细粒度fp8量化，性能指标与原始BF16模型几乎相同。该模型具备卓越的文本理解与生成能力、深入的视觉感知与推理能力、长上下文支持以及强大的智能体交互能力。

多模态Safetensors

Qwen3-VL-235B-A22B-Instruct-FP8是通义系列中最强大的视觉语言模型的FP8量化版本，采用块大小为128的细粒度fp8量化，性能与原始BF16模型几乎相同。该模型具备卓越的文本理解与生成能力、深入的视觉感知与推理能力、长上下文支持以及强大的空间和视频动态理解能力。

多模态Safetensors

Granite 4.0 H-Small (FP8) 是IBM开发的Granite系列语言模型的小型FP8量化版本，专为提供专业、准确和安全的回复而设计。该模型采用FP8精度格式，在保持性能的同时优化了推理效率。

自然语言处理Transformers

这是NVIDIA-Nemotron-Nano-9B-v2模型的FP8动态量化版本，通过将权重和激活量化为FP8数据类型实现优化，显著减少磁盘大小和GPU内存需求约50%，同时保持出色的文本生成性能。

自然语言处理Transformers支持多种语言

这是Qwen3-VL-235B-A22B-Instruct的量化版本，通过将权重和激活值量化为FP8数据类型，有效减少了磁盘大小和GPU内存需求约50%。支持文本、图像和视频输入，输出文本，适用于多种自然语言处理和多模态任务。

多模态Safetensors

Qwen3-VL-235B-A22B-Instruct-FP8-dynamic 是 Qwen3-VL-235B-A22B-Instruct 的量化版本，通过将权重和激活量化为 FP8 数据类型，显著减少了磁盘大小和 GPU 内存需求，同时保持了较高的模型性能。

多模态Safetensors

这是Qwen3-Next-80B-A3B-Instruct模型的FP8量化版本，通过vLLM框架支持，在保持模型质量的同时显著减小了模型体积，提升了推理效率。

自然语言处理Safetensors

基于FP8版本量化而来的文本到图像生成模型，提供GGUF格式文件，适用于ComfyUI框架的图像生成任务

多模态Gguf支持多种语言

Devstral-Small-2507-FP8-Dynamic是通过将Devstral-Small-2507的权重和激活量化为FP8数据类型而获得的优化模型，能够有效减少GPU内存和磁盘大小需求约50%，同时保持接近原始模型的性能表现。

自然语言处理Safetensors英语

这是由PyTorch团队开发的FP8量化版本Gemma-3-27B模型，基于google/gemma-3-27b-it进行FP8量化处理。该模型通过vLLM和Transformers两种方式支持高效推理，在保持模型质量的同时显著降低了内存使用并提升了推理速度。

自然语言处理Transformers英语

这是OpenGVLab/InternVL3_5-8B的fp8动态(w8a8)量化版本，针对vLLM高性能推理进行了优化。采用FP8动态量化技术，在保持视觉理解能力的同时显著减少内存占用并提升推理速度。

多模态Safetensors支持多种语言

这是InternVL3_5-GPT-OSS-20B-A4B-Preview模型的FP8动态量化版本，采用w8a8技术优化，专门针对vLLM进行高性能推理部署。该模型在保持视觉语言理解能力的同时，显著提升了推理速度和内存效率。

多模态Safetensors支持多种语言

这是OpenGVLab/InternVL3_5-30B-A3B的fp8动态(w8a8)量化版本，针对vLLM高性能推理优化，采用FP8动态量化技术，内存占用减少约50%，推理速度显著提升

多模态Safetensors其他