NVIDIA-Nemotron-Nano-9B-v2-GGUF是基於NVIDIA原始模型進行量化處理後的版本，支持多種語言的文本生成任務，包括英語、西班牙語、法語等。該模型經過GGUF格式量化，提供多種量化級別以適應不同硬件需求。

自然語言處理Transformers多語言

基於jinaai/jina-embeddings-v3模型進行量化處理的嵌入模型，專為LlamaEdge設計，提供高效的文本嵌入能力，支持多種量化版本以滿足不同場景需求

自然語言處理Gguf

這是Google Gemma 3 4B指令調優模型的量化版本，提供多種精度級別的GGUF格式文件，適用於不同的硬件和性能需求場景。

自然語言處理Transformers

這是Google Gemma-3n-E2B-it模型的量化版本，支持使用LlamaEdge框架運行。該模型是一個27億參數的多語言指令調優模型，專門針對英語和E2B（English-to-Bengali）翻譯任務進行了優化。

自然語言處理Transformers

medgemma-4b-it 是一個專注於醫療領域的多模態模型，能夠處理圖像和文本輸入，適用於放射學、臨床推理等多個醫療場景。

多模態Transformers

Qwen2.5-VL-7B-Instruct-GGUF是Qwen2.5-VL-7B-Instruct模型的量化版本，支持多模態交互，在圖像文本到文本轉換任務中表現出色。該版本通過GGUF格式優化，便於在LlamaEdge等平臺上高效運行。

多模態Transformers英語

Qwen2.5-VL-32B-Instruct-GGUF是Qwen2.5-VL-32B-Instruct模型的量化版本，由Second State Inc.進行量化處理。這是一個320億參數的多模態大語言模型，支持圖像和文本輸入，能夠理解和分析圖像內容並生成相應的文本回復。

多模態Transformers英語

Llama-4-Scout-17B-16E-Instruct 是一個多語言指令微調模型，支持多種語言，可通過 LlamaEdge 運行。

自然語言處理Transformers多語言

Mistral-Small-3.1-24B-Instruct-2503 是一個24B參數規模的多語言指令微調模型，支持多種語言和任務，適用於文本生成和對話場景。

自然語言處理Gguf多語言

Gemma-3-27b-it-GGUF 是基於 Google 的 Gemma-3-27b-it 模型經過量化處理的版本，適用於圖像文本到文本的任務。

多模態Transformers

Gemma-3-12b-it 是 Google 開發的一個大型語言模型，基於 transformer 架構，專注於文本生成任務。

自然語言處理Gguf

Gemma-3-4b-it-GGUF 是對 Google 的 Gemma-3-4b-it 模型進行量化處理的版本，使其能在 LlamaEdge 上運行，適用於圖像文本到文本的轉換任務。

多模態Transformers

MiniCPM-o-2_6 是一個多模態轉換模型，支持多種語言，適用於多種任務。

多模態Gguf其他

Phi-4-mini-instruct-GGUF 是基於 Microsoft Phi-4-mini-instruct 模型的量化版本，採用 GGUF 格式，可通過 LlamaEdge 運行。該模型支持多語言文本生成任務，提供多種量化級別以滿足不同場景需求。

自然語言處理Transformers多語言

這是DeepSeek-R1-Distill-Qwen-14B模型的量化版本，通過GGUF格式提供多種量化級別，支持通過LlamaEdge運行。該模型是基於Qwen-14B架構的知識蒸餾版本，具備128K上下文長度。

自然語言處理Transformers

OuteTTS-0.3-1B 是一個支持多語言的文本轉語音模型，由 OuteAI 開發，Second State Inc. 進行了量化處理。

音頻處理Gguf多語言

OuteTTS-0.3-500M 是一個多語言文本轉語音模型，支持英語、中文、日語、韓語、法語和德語。

音頻處理Gguf多語言

OuteTTS-0.2-500M 是一個多語言文本轉語音模型，支持英語、中文、日語和韓語。

音頻處理Gguf多語言

Qwen2-VL-72B-Instruct的GGUF量化版本，支持多模態圖像文本到文本轉換，可通過LlamaEdge運行。

多模態Transformers英語

Qwen2-VL-2B-Instruct 是一個多模態視覺語言模型，支持圖像文本生成任務，基於 Qwen2 架構，參數規模為 2B。

多模態Gguf英語