NVIDIA Qwen2.5-VL-7B-Instruct-FP4是阿里巴巴Qwen2.5-VL-7B-Instruct模型的量化版本，采用优化的Transformer架构，支持多模态输入（文本和图像），适用于多种AI应用场景。该模型通过TensorRT Model Optimizer进行FP4量化，在NVIDIA GPU上提供高效的推理性能。

多模态Safetensors

NVIDIA Qwen3-14B FP4 模型是阿里云 Qwen3-14B 模型的量化版本，采用优化的 Transformer 架构，是一个自回归语言模型。该模型使用 TensorRT Model Optimizer 进行量化，将权重和激活量化为 FP4 数据类型，可在 NVIDIA GPU 加速系统上实现高效推理。

自然语言处理Safetensors

NVIDIA DeepSeek R1 FP4 v2是基于DeepSeek AI的DeepSeek R1模型进行FP4量化的文本生成模型，采用优化的Transformer架构，可用于商业和非商业用途。该模型通过TensorRT Model Optimizer进行量化，相比FP8版本显著减少了磁盘大小和GPU内存需求。

自然语言处理Safetensors

NVIDIA Qwen3-30B-A3B FP4模型是阿里云Qwen3-30B-A3B模型的量化版本，采用优化的Transformer架构，是自回归语言模型。该模型使用TensorRT Model Optimizer进行FP4量化，将每个参数的比特数从16位减少到4位，使磁盘大小和GPU内存需求减少约3.3倍，同时保持较高的性能表现。

自然语言处理Safetensors

NVIDIA Qwen3-235B-A22B FP4 模型是阿里云 Qwen3-235B-A22B 模型的量化版本，基于优化的 Transformer 架构，是一个自回归语言模型。该模型使用 TensorRT Model Optimizer 进行量化，将权重和激活值量化为 FP4 数据类型，显著减少了存储和计算需求。

自然语言处理Safetensors

这是Artetxe等人论文《Efficient Large Scale Language Modeling with Mixtures of Experts》中原生密集67亿参数模型的Hugging Face transformers适配版本。

自然语言处理Transformers英语