通義千問はUnslothチームに公式謝辞を表明し、Qwen3.8-27B GGUF量子化版を「より小さく、より賢い」と高く評価した。この動きはオープンソースコミュニティで話題となり、ローカル大規模モデル導入の障壁低下を浮き彫りに。公式は利用を推奨している。....
Qwen3.6シリーズは、ローカルLLMに妥協が必要という認識を覆す。MacBook Max M5 128GB上で27Bモデルを8ビットGGUF量子化で動作させ、驚異的な効率を実証。体験を犠牲にせず汎用知能を満たす強力なツールであり、ローカルLLMの新時代を告げる。....
Deepseek-R1-14Bをベースに最適化された、ロールプレイングと思考連鎖(CoT)を備えたモデルです。長文作成や対話に適しています。
特定モデルに基づく量子化済み大規模言語モデルで、自然言語処理などのタスクに適しています。
70Bパラメータの大規模量子化言語モデル
Llamaモデルベースの量子化バージョンで、対話と幻覚検出に使用されます。
city96
FLUX.2-devはblack-forest-labsによって開発された画像生成および編集モデルで、GGUF形式に変換され、画像生成タスクに最適化されており、拡散モデルアーキテクチャを採用し、ComfyUIフレームワークでの使用をサポートしています。
gguf-org
flux2-dev-ggufは、FLUX.2-devに基づく画像から画像への変換モデルで、テキストプロンプトに基づいて特定のスタイルの画像を生成するために特別に設計されています。このモデルはComfyUI環境での実行をサポートし、テキスト記述をスタイル化されたビジュアルコンテンツに変換することができます。
bartowski
これはArliAIのGLM-4.5-Air-DerestrictedモデルのGGUF量子化バージョンで、llama.cppとimatrix技術を使用して最適化量子化処理が行われ、複数の量子化レベルを選択でき、さまざまなハードウェア構成とパフォーマンス要件に対応しています。
prithivMLmods
Olmo-3-7B-Instruct-AIO-GGUFは、Allen Institute for AIが開発したOlmo-3-7B-InstructモデルのGGUF量子化バージョンです。これは70億パラメータの自己回帰型言語モデルで、Tulu 2やUltraFeedbackなどのデータセットで教師付き微調整と直接的な嗜好最適化を行って訓練され、質問応答と指令の遵守において優れた性能を発揮します。
jayn7
騰訊の混元ビデオ1.5モデルの量子化GGUFバージョンで、テキストから動画生成タスクに特化しており、720P高画質動画生成をサポートし、使用効率を最適化するための複数の量子化精度バージョンを提供します。
このプロジェクトは、テンセントの混元ビデオ1.5のテキストから動画へのモデルの量子化GGUFバージョンを提供し、480P動画生成タスクをサポートします。蒸留モデルと完全モデルの2つのバージョンが含まれており、ComfyUI - GGUFなどのツールと連携して使用できます。
これはallenaiのOlmo-3-32B-ThinkモデルのGGUF量子化バージョンで、llama.cppツールを使用してさまざまな量子化処理を行い、特定の環境でのモデルのパフォーマンスと効率を向上させることを目的としています。Q2からQ8までのさまざまな量子化オプションを提供し、さまざまなハードウェア構成とパフォーマンス要件を満たします。
このプロジェクトでは、騰訊のHunyuanVideo-1.5-I2V-720pモデルの量子化GGUFバージョンを提供しており、画像を動画に変換するタスクや動画生成タスクに特化しています。このモデルは、静止画像を高品質な動画コンテンツに変換することができ、性能を最適化するための複数の量子化バージョンを提供しています。
騰訊の混元ビデオ1.5モデルの量子化GGUFバージョンで、画像を動画に変換するタスクや動画生成タスクに特化しています。480P解像度の蒸留モデルと標準モデルを提供し、Q4_K_S、Q8_0、FP16などの複数の量子化精度をサポートします。
ubergarm
これはai-sage/GigaChat3-10B-A1.8B-bf16モデルのGGUF量子化バージョンで、高精度のQ8_0から極度に圧縮されたsmol-IQ1_KTまで、さまざまな量子化オプションを提供し、さまざまなハードウェア条件でのデプロイメントニーズを満たします。このモデルは32Kのコンテキスト長をサポートし、MLAアーキテクチャを採用し、対話シナリオに最適化されています。
evilfreelancer
これはai - sage/GigaChat3-10B-A1.8Bモデルの量子化バージョンで、GGUF形式を採用し、特定のllama.cppブランチのサポートが必要です。モデルは混合専門家アーキテクチャを採用し、総パラメータ数は約118億で、そのうち活性化パラメータ数は約18億です。
MaziyarPanahi
このプロジェクトでは、Qwen3-4B-Thinking-2507モデルのGGUF形式のファイルを提供しています。これは、思考過程推論能力を持つ4Bパラメータの大規模言語モデルで、複数の量子化バージョンをサポートし、さまざまなハードウェアでのデプロイと実行が容易です。
RiosWesley
ブラジル範囲ルーティングモデルは、Gemma 3 270Mをベースにした微調整されたミニマルな大規模言語モデルで、ブラジルの配達サービスシステム用に設計されており、非常に高速で軽量な意図分類器(ルーター)として機能します。このモデルはUnslothを使用してトレーニングされ、GGUF形式に変換されています。
これはVibeStudioのMiniMax-M2-THRIFTモデルを量子化したバージョンで、llama.cppツールと特定のデータセットを使用して生成され、複数の量子化タイプのGGUFファイルを提供し、LM Studioまたはllama.cppベースのプロジェクトでの実行をサポートします。
mradermacher
atom-v1-preview-12bは、vanta-research/atom-v1-preview-12bベースモデルに基づく量子化バージョンで、複数のGGUF量子化形式を提供し、対話、協力、教育などの複数の分野に適用されます。
VibeThinker-1.5B-GGUFはWeiboAI/VibeThinker-1.5BモデルのGGUF量子化バージョンで、MaziyarPanahiによって量子化処理されました。このモデルは15億パラメータのテキスト生成モデルで、2ビットから8ビットまでの複数の量子化レベルをサポートし、さまざまなハードウェアで効率的に動作します。
これはadith - ds/emotion - classifier - v2モデルの静的量化バージョンで、複数のGGUF量化形式を提供し、感情分類タスクに適しています。モデルは最適化されており、さまざまなハードウェア環境で効率的に動作します。
DakkaWolf
Trouper-12B GGUFは、DarwinAnim8orによってオリジナルモデルを基に開発されたテキスト生成モデルで、ロールプレイングやクリエイティブライティングのシナリオに特化して最適化されています。このモデルはMistral-Nemo-Base-12Bから微調整され、カスタムの「Actors」データセットを使用して訓練されており、生成されるテキストはより自然で、一般的な「AI言語」の特徴を避けています。
DarwinAnim8or
Prima-24Bは240億パラメータの大規模言語モデルで、GGUF形式を用いて量子化最適化され、ロールプレイングとクリエイティブライティングタスクに特化して最適化されています。このモデルは元のPrima-24Bモデルから変換され、Q4_K_M量子化レベルを採用しており、良好な性能を維持しながらモデルサイズとメモリ要件を大幅に削減しています。
これはManoghn/voicecraft-mistral-7bモデルの静的量子化GGUFバージョンで、Mistral-7Bアーキテクチャに基づいており、コンテンツ生成とテキスト生成タスクに特化しています。このバージョンでは、2.8GBから14.6GBまでのさまざまな量子化レベルが提供されており、ユーザーはハードウェア条件とパフォーマンス要件に応じて適切なバージョンを選択できます。