これはGLM-4.5-Air-REAP-82B-A12BモデルのMXFP4_MOE量子化バージョンで、テキスト生成タスクに特化して最適化されています。このモデルはcerebrasのGLM-4.5-Air-REAP-82B-A12B基礎モデルに基づいており、MXFP4ハイブリッドエキスパート量子化技術によって実現され、性能を維持しながらモデルサイズと推論コストを大幅に削減しています。

自然言語処理Gguf

Zirel-3は、GLM - 4.5 - Air - REAP - 82B - A12Bをベースにした特定の微調整モデルで、REAP（ルーティング重み付きエキスパート活性化剪定）技術を用いて圧縮された820億パラメータの混合エキスパートモデルです。高性能を維持しながら、モデルサイズを大幅に削減しています。

自然言語処理Transformers英語

GLM-4.5-Air-REAP-82B-A12BはGLM-4.5-Airの効率的な圧縮バージョンで、REAP剪定技術を通じてパラメータ規模を106Bから82Bに圧縮し、メモリ要件を25％削減しながら、ほぼ損失のない性能を維持しています。

自然言語処理Transformers英語

このプロジェクトはGLM-4.6モデルにクリエイティブライティング制御ベクトルを提供し、制御ベクトル技術を通じてモデルの特定の次元での性能を調整します。例えば、誠実さとマキアヴェリズム傾向、コミュニケーションスタイルなどです。

自然言語処理Transformers英語

GLM-4.6の高品質量子化バージョンで、先進的な量子化技術を用いてimatrixを使用せずに実現され、良好なモデル性能と互換性を維持し、対話などの様々なアプリケーションシーンに適しています。

自然言語処理Gguf

GLM-4.6-AWQは、智譜AIのGLM-4.6（357B MoE）を高性能AWQ量子化したモデルで、vLLM推論用に最適化されており、本番デプロイのスループットを効果的に向上させます。このモデルは4ビット量子化技術を採用しており、高精度を維持しながら顕著にVRAM使用量を削減します。

自然言語処理Transformers多言語

GLM-4.6-GPTQ-Int4-Int8Mixはzai-org/GLM-4.6ベースモデルに基づく量子化バージョンで、テキスト生成タスクで優れた性能を発揮します。このモデルはGPTQ量子化技術を通じてモデルサイズの最適化を実現し、同時に良好な性能を維持しています。

自然言語処理Transformers

ik_llama.cppブランチに基づいて最適化されたGLM-4.6の量子化バージョンで、先進的なIQ量子化技術を採用し、高品質な出力を維持しながらメモリ使用量を大幅に削減します。このシリーズにはIQ5_KからIQ1_KTまでの複数の量子化レベルが含まれ、さまざまなハードウェア環境での推論ニーズを満たします。

自然言語処理Gguf

GLM-4.6はMLXフレームワークに基づく効率的なテキスト生成モデルで、6.5bit量子化技術を採用し、高品質なテキスト生成能力を維持しながら、計算リソースの要求を大幅に削減します。このモデルは単一のM3 Ultraデバイスで実行でき、効率的なテキスト生成タスクをサポートします。

自然言語処理Mlx多言語

GLM-4.5V-AWQ-4bitは、Zhipu AIの次世代フラッグシップテキスト基礎モデルに基づいて構築された量子化バージョンのマルチモーダルモデルで、AWQ-4bit量子化技術により最適化され、優れた性能を維持しながら計算リソースの必要量を大幅に削減します。このモデルは42の公開視覚言語ベンチマークテストで同規模のモデルのSOTA性能を達成し、強力な視覚推論能力を備えています。

マルチモーダルTransformers多言語

これはzai-org/GLM-4.5モデルのik_llama.cpp imatrix量子化バージョンで、先進的な量子化技術を採用してモデルの記憶容量を削減しながら、高い予測精度を維持し、特定のシナリオでのパフォーマンスと効率を最適化するために設計されています。

自然言語処理Gguf

これはzai-org GLM-4.5モデルの量子化バージョンで、llama.cppの量子化技術によって実現され、さまざまなハードウェア条件下で効率的に動作します。Q8_0からIQ1_Sまでの複数の量子化レベルを提供し、テキスト生成タスクをサポートしています。モデルファイルのサイズは77GBから380GBまでです。

自然言語処理Gguf

これはik_llama.cppに基づくGLM-4.5-Airモデルの実験的な量子化バージョンで、imatrix技術を用いて最適化されており、現在テスト段階にあり、広範な使用には適していません。このバージョンは先進的な量子化技術により、より高い推論効率を実現し、モデルの性能を維持しながらメモリ使用量を大幅に削減しています。

自然言語処理Gguf

GLM-4.5-Air-AWQ-FP16Mixは、GLM-4.5-Airモデルを量子化処理した効率的なテキスト生成モデルで、AWQとFP16の混合量子化技術を採用し、多GPU環境の大規模言語モデル推論シナリオに適しています。

自然言語処理Transformers

GLM-4.5-Air-AWQはGLM-4.5-Airモデルの量子化バージョンで、AWQ量子化技術を通じて推論効率を向上させ、同時に高いパフォーマンスを維持します。このモデルは106億のパラメータを持ち、そのうち12億がアクティブなパラメータで、インテリジェントエージェント向けに設計され、複雑な推論と即時応答の2つのモードをサポートします。

自然言語処理Transformers多言語

GLM-4.5-Air-8bitは、智譜AIのGLM-4.5-Airモデルから変換された8ビット量子化バージョンで、MLXフレームワーク用に特別に最適化されています。このモデルは、オリジナル版の強力な自然言語処理能力を維持しながら、量子化技術によってメモリ使用量と計算要件を削減し、Apple Siliconデバイスで効率的に動作するのに適しています。

自然言語処理Mlx多言語