NVIDIA Qwen2.5-VL-7B-Instruct-FP4は、アリババのQwen2.5-VL-7B-Instructモデルの量子化バージョンで、最適化されたTransformerアーキテクチャを採用し、マルチモーダル入力（テキストと画像）をサポートし、さまざまなAIアプリケーションシナリオに適しています。このモデルはTensorRT Model Optimizerを使用してFP4量子化され、NVIDIA GPU上で効率的な推論性能を提供します。

マルチモーダルSafetensors

NVIDIA Qwen3-14B FP4モデルは、アリババクラウドのQwen3-14Bモデルの量子化バージョンで、最適化されたTransformerアーキテクチャを採用した自己回帰型言語モデルです。このモデルはTensorRT Model Optimizerを使用して量子化され、重みと活性化をFP4データ型に量子化することで、NVIDIA GPU加速システム上で高効率な推論を実現します。

自然言語処理Safetensors

NVIDIA DeepSeek R1 FP4 v2は、DeepSeek AIのDeepSeek R1モデルに基づいてFP4量子化を行ったテキスト生成モデルで、最適化されたTransformerアーキテクチャを採用しており、商用および非商用用途に使用できます。このモデルはTensorRT Model Optimizerを通じて量子化され、FP8バージョンと比較してディスク容量とGPUメモリの要件が大幅に削減されています。

自然言語処理Safetensors

NVIDIA Qwen3-30B-A3B FP4モデルは、アリババクラウドのQwen3-30B-A3Bモデルの量子化バージョンで、最適化されたTransformerアーキテクチャを採用し、自己回帰型言語モデルです。このモデルはTensorRT Model Optimizerを使用してFP4量子化を行い、各パラメータのビット数を16ビットから4ビットに減らし、ディスクサイズとGPUメモリ要件を約3.3倍削減しながら、高いパフォーマンスを維持します。

自然言語処理Safetensors

NVIDIA Qwen3-235B-A22B FP4モデルは、アリババクラウドのQwen3-235B-A22Bモデルの量子化バージョンで、最適化されたTransformerアーキテクチャに基づく自己回帰型言語モデルです。このモデルはTensorRT Model Optimizerを使用して量子化され、重みと活性化値をFP4データ型に量子化することで、ストレージと計算の要件を大幅に削減しています。

自然言語処理Safetensors

これは、Artetxeらの論文『Efficient Large Scale Language Modeling with Mixtures of Experts』におけるオリジナルの密集型67億パラメータモデルのHugging Face transformers適合バージョンです。

自然言語処理Transformers英語