これはkldzjのGPT-OSS-120B-Heretic-v2モデルの量子化バージョンで、llama.cppのimatrix技術を使用して量子化処理が行われています。このモデルは、量子化技術によって格納と計算リソースの要件を大幅に削減し、同時に良好なモデル性能を維持し、さまざまなデバイスでのデプロイと実行を容易にします。

自然言語処理Gguf

MLXライブラリに基づいて実装されたテキスト生成モデルで、複数の量子化方式による推論をサポートし、分散計算能力を備え、Appleのハードウェア環境で効率的に動作します。

自然言語処理Mlx英語

慧慧Qwen3-VL-8B指令アブレーションモデルの量子化バージョンで、画像テキストからテキストへの変換タスクに特化しています。このモデルはQwen3-VL-8Bアーキテクチャに基づいており、指令アブレーション最適化と量子化処理を行っており、性能を維持しながら計算リソースの要求を低減できます。

マルチモーダルGguf

これはGoogleのembeddinggemma-300mベースモデルの様々なGGUF形式の量子化バージョンで、効率的なデプロイとさまざまなシーンでの使用に特化して最適化されています。このモデルは文の埋め込みと類似度計算タスクに焦点を当てています。

自然言語処理Gguf英語

これはKimi-Linear-48B-A3B-Instructモデルを変換した6ビット量子化バージョンで、Apple MLXフレームワーク用に最適化されています。このモデルは元のモデルの強力な指令追従能力を保持しながら、量子化技術により格納と計算の要件を大幅に削減し、Appleハードウェアで効率的に動作するのに適しています。

自然言語処理Mlx

これはinternlmのJanusCoder-8Bモデルを量子化処理したバージョンで、llama.cppのimatrix量子化技術を採用し、性能を保証しながらもモデルの保存と計算リソースの要件を大幅に削減し、モデルがより多くのデバイスで効率的に動作できるようにします。

自然言語処理Gguf

これはQwen3-Yoyo-V4-42B-A3B-Thinking-TOTAL-RECALLモデルのMXFP4_MOE量子化バージョンで、テキスト生成タスクに特化して最適化されています。このモデルは42Bパラメータの大規模言語モデルアーキテクチャに基づいており、量子化技術によって計算とストレージの要件を削減し、同時に良好なパフォーマンスを維持しています。

自然言語処理Gguf

GLM-4.6 AWQ - INT4はGLM-4.6モデルの4ビット量子化バージョンで、AWQ量子化方法を採用し、モデルの性能を維持しながら、記憶と計算リソースの需要を大幅に削減します。このモデルは200Kのコンテキスト長をサポートし、コーディング、推論、エージェントタスクにおいてGLM-4.5よりも著しく向上しています。

自然言語処理Transformers多言語

これは慧慧GPT-OSS-120B-BF16-abliterated-v2モデルのMXFP4_MOE量子化バージョンで、テキスト生成タスクに特化して最適化され、効率的なテキスト生成能力を提供します。このモデルは量子化技術を通じて計算とストレージの要件を削減し、同時に良好なパフォーマンスを維持しています。

自然言語処理Gguf

これはQwen3-Next-80B-A3B-ThinkingのMXFP4量子化バージョンで、先進的な量子化技術を採用して、モデルの性能を維持しながら、ストレージと計算の要件を大幅に削減しています。実験的なバージョンとして、最新の量子化技術の成果を示しています。

自然言語処理Gguf

Qwen3-VL-32B-Instruct AWQ - INT4は、Qwen3-VL-32B-Instructベースモデルの4ビット量子化バージョンで、AWQ量子化方法を採用し、性能を維持しながら、ストレージと計算リソースの要件を大幅に削減します。これはQwenシリーズで最も強力な視覚言語モデルで、テキスト理解、視覚知覚、文脈長などの面で全面的にアップグレードされています。

マルチモーダルTransformers

これはLlama-3.2-8X3B-MOE-Dark-Champion-Instruct-uncensored-abliterated-18.4BモデルのMXFP4_MOE量子化バージョンで、テキスト生成タスクに特化して最適化されており、パフォーマンスを維持しながら計算リソースの要求を大幅に削減できます。

自然言語処理Gguf

これはQwen3-Next-80B-A3B-Instructモデルに基づくQ4_0量子化バージョンで、特定の量子化技術により、モデルのストレージと計算の効率を大幅に向上させ、同時に良好なパフォーマンスを維持しています。

自然言語処理Gguf

これはQwen3-VL-4B-Thinkingモデルの量子化バージョンで、llama.cppのimatrix量子化方法を通じて、パフォーマンスを維持しながらモデルの保存と計算リソースの要件を大幅に削減し、さまざまなハードウェア環境でのデプロイと使用をサポートします。

マルチモーダルGguf

これは、LLM CompressorとNVFP4形式を使用してQwen/Qwen3-Next-80B-A3B-Thinkingを量子化したバージョンで、FP4マイクロスケーリング技術を採用し、高精度を維持しながらモデルの保存と計算要件を大幅に削減します。

自然言語処理Transformers多言語

これはKwaipilotのKAT-Devモデルの量子化バージョンで、llama.cppのimatrix量子化技術を使用して処理され、さまざまなハードウェア環境でのモデルの実行効率とパフォーマンスを向上させることを目的としています。このバージョンは、高品質から極限圧縮までのさまざまな量子化レベルを提供し、さまざまなメモリと計算リソースの要件に対応します。

自然言語処理Gguf

これはIBM Granite-4.0-H-TinyモデルのGGUF量子化バージョンで、llama.cppを使用して様々な精度で量子化処理が行われ、性能を維持しながらモデルの保存領域と計算リソースの必要量を大幅に削減し、デプロイと実行を容易にします。

自然言語処理Gguf

GLM-4.6はMLXフレームワークに基づく効率的なテキスト生成モデルで、6.5bit量子化技術を採用し、高品質なテキスト生成能力を維持しながら、計算リソースの要求を大幅に削減します。このモデルは単一のM3 Ultraデバイスで実行でき、効率的なテキスト生成タスクをサポートします。

自然言語処理Mlx多言語

Apertus-70B-Instruct-2509は、swiss-aiに基づいて開発された700億パラメータの大規模言語モデルの量子化バージョンで、指令追従とテキスト生成タスクに特化しています。このプロジェクトは、知識を無料で共有することに取り組んでおり、実験的な性質を持ち、計算リソースの要件を軽減するために最適化された量子化モデルを提供しています。

自然言語処理Gguf

これはMistralAI Magistral Small 2509モデルの量子化バージョンで、llama.cppのimatrix技術を使用して量子化処理を行っています。このバージョンは比較的良好な性能を維持しながら、モデルのメモリ占有量と計算リソースの要件を大幅に削減し、様々なハードウェア環境で動作できるようになっています。

自然言語処理Gguf