Qwen3-VL-4B-Instruct是阿里雲Qwen團隊推出的40億參數指令調優多模態大語言模型，專為高通NPU優化，融合強大的視覺語言理解能力與對話微調功能，適用於聊天推理、文檔分析和視覺對話等實際應用場景。

多模態Gguf

Llama-3.1-8B-onnx-ryzenai-npu是由AMD基於Meta的Llama-3.1-8B模型開發的優化版本，專門針對AMD Ryzen AI NPU進行優化部署。該模型通過Quark量化、OGA模型構建器和NPU專用後處理技術，在保持高質量文本生成能力的同時，顯著提升了在AMD硬件上的推理效率。

自然語言處理Onnx英語

OmniNeural是全球首個專門為神經處理單元（NPU）設計的全多模態模型，能夠原生理解文本、圖像和音頻，可在PC、移動設備、汽車、物聯網和機器人等多種設備上運行。

這是基於Meta AI的LLaMA 3.1基礎模型的衍生模型，專門針對AMD Ryzen™ AI NPU上的FastFlowLM進行了優化，僅適用於XDNA2架構。模型保留了Meta發佈的核心架構和權重，可能針對特定應用進行了微調、量化或適配。

這是Meta AI發佈的LLaMA 3.2 1B Instruct模型的優化變體，專門針對AMD Ryzen™ AI NPU（XDNA2架構）上的FastFlowLM進行優化。模型保留了原始架構和權重，通過量化、底層調優等技術提升在NPU上的運行效率。

AMD Ryzen™ AI優化版SDXL-Turbo，全球首個採用Block FP16格式的文本生成圖像模型，專為AMD XDNA™ 2 NPU設計

多模態Onnx英語

MiniCPM-V 2.6是支持單圖、多圖和視頻理解的GPT-4V級別多模態大語言模型，專為RK3588 NPU優化

多模態Transformers其他

Phi-3.5-mini-instruct是微軟開發的高效小型語言模型，採用先進的量化技術優化，專為NPU部署設計。該模型在文本生成任務中表現出色，支持自然語言處理和代碼相關場景。

自然語言處理Transformers其他

本項目基於Meta-Llama-3-8B模型，採用Quark量化技術，結合OGA模型構建器，並進行後處理以適配NPU部署，可用於文本生成任務。該模型專為AMD NPU硬件優化，支持高效的推理部署。

自然語言處理Onnx英語

本倉庫收集了通過瑞芯微rkllm工具包適配的各類大語言模型，專為RK3588 NPU轉換的模型。