Q-RWKV-6 32B Instruct プレビューは、Recursal AIによって開発された最新のRWKVモデルの変種です。これは、複数の英語ベンチマークテストにおいて、これまでのRWKV、State Space、Liquid AIモデルを上回っています。このモデルは、Qwen 32B Instructモデルの重みをカスタム設計されたQRWKV6アーキテクチャに変換することで実現しました。既存のTransformerのAttentionヘッドをRWKV-V6 Attentionヘッドに置き換えるこのプロセスは、Recursal AIチームとRWKVおよびEleutherAIのオープンソースコミュニティが共同で開発しました。このモデルの主な利点としては、大規模計算コストの大幅な削減と、環境に優しいオープンソースAI技術があります。