Qwen3 - VLは通義シリーズで最も強力なビジュアル言語モデルで、ハイブリッドエキスパートモデルアーキテクチャ（MoE）を採用し、GGUF形式の重みを提供し、CPU、GPUなどのデバイスで効率的な推論をサポートします。モデルは、テキスト理解、ビジュアル感知、空間理解、動画処理などの面で全面的にアップグレードされています。

マルチモーダルGguf

Qwen3-VL-2B-ThinkingはQwenシリーズの中で最も強力なビジュアル言語モデルの1つで、GGUF形式の重みを使用し、CPU、NVIDIA GPU、Apple Siliconなどのデバイスで効率的な推論をサポートします。このモデルは、優れたマルチモーダル理解と推論能力を備え、特にビジュアル感知、空間理解、エージェントインタラクション機能が強化されています。

マルチモーダルTransformers

Qwen3-VLは通義シリーズで最も強力な視覚言語モデルで、優れたテキスト理解と生成能力、深い視覚感知と推論能力、長文脈サポート、強力な空間およびビデオ動的理解能力、ならびにエージェントインタラクション能力を備えています。このリポジトリはGGUF形式の重みを提供し、CPU、GPUなどのデバイスでの効率的な推論をサポートします。

マルチモーダルTransformers

Qwen3-VL-2B-Instruct-GGUFは通義千問シリーズのマルチモーダルビジュアル言語モデルのGGUF量子化バージョンで、20億のパラメータを持ち、画像理解とテキスト生成のシームレスな融合をサポートし、CPUやGPUなどのデバイスで効率的に動作します。

マルチモーダルTransformers

これはUltraReal Fine-TuneモデルのSVDQ量子化バージョンで、DanrisiがFluxをベースに開発したテキストから画像を生成するモデルです。このバージョンは複数の量子化方案を提供し、異なるGPUハードウェアに対応しており、特に非BlackwellシリーズとBlackwellシリーズのGPUに対して最適化されています。

マルチモーダルDiffusers英語

これはDeepSeek-OCRのモーダルバランス量子化（MBQ）バリエーションで、ビジュアルエンコーダに4ビットNF4量子化を採用することでメモリ使用量を削減し、同時にプロジェクターと言語/デコーダのBF16精度を維持し、一般的なGPUでのローカルデプロイメントと高速なCPU試験が可能です。

マルチモーダルTransformers

TheWhisper-Large-V3はOpenAI Whisper Large V3モデルの高性能ファインチューニング版で、TheStage AIによって多プラットフォーム（NVIDIA GPUとApple Silicon）のリアルタイム、低遅延、低消費電力の音声テキスト変換推論用に最適化されています。

音声処理Transformersその他

Llama-4-Maverick-17B-128E-Instruct-NVFP4は、FP4量子化処理を施された多言語大規模言語モデルで、Meta-Llama-3.1アーキテクチャに基づいており、商業および研究用途に特化して設計されています。このモデルは、重みと活性化をFP4データ型に量子化することで、ディスク容量とGPUメモリの要件を大幅に削減しながら、良好な性能を維持しています。

自然言語処理Safetensors多言語

これはProject0モデルのSVDQ量子化バージョンで、Flux DevとFlux Kreaに基づいて作成されたテキストから画像へのモデルです。このモデルは複数の量子化形式を提供し、さまざまなGPUアーキテクチャに対して最適化されており、INT4とFP4量子化バージョンを含み、Blackwellおよび非Blackwell GPUユーザーに適しています。

マルチモーダルDiffusers英語

Svara-TTSはインド語を対象としたオープンソースの多言語テキスト読み上げモデルで、19種類の言語（18種類のインド語 + インド英語）をサポートしています。このモデルはOrpheusスタイルの離散音声トークン方式に基づいて構築され、一般的なGPU/CPU上で明瞭で表现力に富み、低遅延の音声合成を実現することを目的としています。

音声処理Transformers多言語

DeepSeek-OCR-bnb-4bit-NF4は、deepseek-ai/DeepSeek-OCRの4ビットNF4量子化バージョンで、bitsandbytesを使用して作成されました。高精度を維持しながら、VRAM使用量を大幅に削減（最大8GBまで）し、消費者向けGPUに最適です。

マルチモーダルSafetensorsその他

これは、短いユーザープロンプト（≤64トークン）を圧縮するために特別に設計されたシーケンスツーシーケンスモデルで、最新のGPUでは100ミリ秒未満の低遅延で動作し、大容量の大規模言語モデルの軽量な前処理段階として機能します。

自然言語処理Transformers

J1BベースのFlux.1-Devを開発元とするテキストから画像生成モデルの量子化バージョンで、SVDQuant技術を用いて最適化され、INT4とFP4の2種類の量子化形式を提供し、異なるGPUアーキテクチャのユーザーに適しています。

コンピュータビジョンDiffusers多言語

PixelWaveはFlux.1をベースに開発されたテキストから画像生成モデルで、Nunchaku量子化（SVDQ）による最適化を施し、さまざまなGPU構成のユーザーに効率的な画像生成ソリューションを提供します。

コンピュータビジョンDiffusers英語

これはQwen3-235B-A22B-Instruct-2507モデルの量子化バージョンで、重みと活性化をFP4データ型に量子化することで、ディスクサイズとGPUメモリ要件を大幅に削減し、同時に元のモデルに近い性能を維持しています。

自然言語処理Safetensors多言語

CenKreChro-SVDQは、ChromaとFlux Kreaを統合したテキストから画像生成モデルの量子化バージョンで、SVDQuant技術を用いて最適化され、INT4とFP4の2種類の量子化形式を提供し、それぞれ異なる世代のGPUハードウェアに適しています。

コンピュータビジョンDiffusers英語

これはMeta Llama-3.1-8B-InstructモデルのFP8量子化バージョンです。重みと活性化値をFP8で量子化することで、ディスク容量とGPUメモリの要件を大幅に削減し、同時に良好なモデル性能を維持しています。

自然言語処理Safetensors

GLM 4.6は、128GBメモリ+単GPU構成向けに最適化された量子化モデルで、IQ_K量子化方式を採用し、主流のllama.cppと比較して同じサイズでより良い品質と性能を提供します。このモデルはik_llama.cppと一緒に使用する必要があり、128GBデュアルチャネルDDR5メモリ、単CCD Ryzen 7000プロセッサ+単体3090グラフィックカードの構成で、テキスト生成速度は約1秒あたり6.8トークンに達します。

自然言語処理Gguf多言語

これはNVIDIA-Nemotron-Nano-9B-v2モデルのFP8動的量子化バージョンで、重みと活性化をFP8データ型に量子化することで最適化を実現し、ディスクサイズとGPUメモリ要件を約50％削減し、同時に優れたテキスト生成性能を維持します。

自然言語処理Transformers多言語

これはTheDrummer/Snowpiercer-15B-v3モデルのGGUF量子化バージョンで、高品質から低メモリ使用量までのさまざまな量子化オプションを提供し、CPUとGPUでの効率的な実行をサポートしています。モデルはllama.cppを使用して量子化され、さまざまなハードウェアに対して最適化されています。

自然言語処理Gguf