騰訊混元チームは、パラメータが0.5B、1.8B、4Bおよび7Bの4つのオープンソース小サイズモデルを発表しました。これらのモデルは、エンドユーザー向けのグラフィックカードに特化しており、ノートPC、スマートフォン、スマートクルーザー、スマートホームなど低電力環境で使用することを目的としています。また、垂直分野におけるコスト効果の高いファインチューニングをサポートしています。この取り組みにより、混元オープンソースモデル体系がさらに豊かになり、開発者や企業に多くのモデルサイズの選択肢が提供されます。
この4つのモデルのリリースは、騰訊混元大規模モデルが継続的にオープンソース化する一環です。これは、開発者や企業にさらに多くの選択肢を提供し、さまざまなシナリオでのニーズに応えることを目的としています。現在、これらのモデルはGitHubやHuggingFaceなどのオープンソースコミュニティに公開されており、Arm、Qualcomm、Intel、MediaTekなどの複数のエンドユーザー向け端末チッププラットフォームからサポートされています。
新たにオープンソース化された4つのモデルは、統合推論モデルであり、推論速度が速く、コストパフォーマンスが高いという特徴を持っています。ユーザーは使用シナリオに応じてモデルの思考モードを柔軟に選ぶことができます。高速思考モードでは、単純なタスクに適した簡潔で効率的な出力を提供します。一方、遅速思考モードでは、複雑な問題を解決し、より包括的な推論ステップを備えています。効果的には、これらのモデルは言語理解、数学、推論などの分野で優れた性能を発揮し、多数の公開テストセットでリードレベルのスコアを達成しています。
この4つのモデルのポイントは、エージェント機能と長文処理能力にあります。データ構築と強化学習報酬信号の設計にこだわり、タスク計画、ツール呼び出し、複雑な意思決定、そして反省などのエージェント機能において優れた性能を発揮し、深い検索、Excel操作、旅行プランニングなどのタスクに簡単に対応できます。また、モデルの生の長文文脈窓口は256kに達し、40万字の中国語または50万語の英語を一度に記憶・処理できる超長文を扱うことが可能で、3冊のハリー・ポッター小説を一気に読み終え、すべての登場人物関係や物語の詳細を覚え、それらに基づいて物語の後続展開について議論することが可能です。
デプロイ面では、この4つのモデルは単一のカードでデプロイ可能です。一部のPC、スマートフォン、タブレットなどのデバイスは直接接続可能です。モデルは非常に開放的であり、主要な推論フレームワーク（例えば、SGLang、vLLM、TensorRT-LLM）および多様な量化形式がサポートされています。
応用面では、この4つの小サイズモデルは、エッジ側からクラウドまで、汎用から専門に至るまで多様なニーズに対応でき、すでに騰訊の複数のビジネスで応用されており、実践によってその実用性と信頼性が確認されています。たとえば、モデルがもともと持つ超長文文脈機能により、騰訊ミーティングAIアシスタントやWeChatリーディングAI質問アシスタントは、完全な会議内容や本全体を一度に理解して処理することができました。エッジ側アプリケーションでは、騰訊スマホガードが小サイズモデルを利用して不快なメールの識別精度を向上させ、ミリ秒単位でブロックし、プライバシーを一切アップロードしませんでした。騰訊スマートクルーザーインテリジェントアシスタントは、二つのモデル協働アーキテクチャで車載環境の課題を解決し、モデルの低消費電力と高効率の推論特性を最大限に活かしました。
公式サイト体験アドレス:https://hunyuan.tencent.com/modelSquare/home/list
【Github】
Hunyuan-0.5B:GitHub - Tencent-Hunyuan/Hunyuan-0.5B
Hunyuan-1.8B:https://github.com/Tencent-Hunyuan/Hunyuan-1.8B
Hunyuan-4B:https://github.com/Tencent-Hunyuan/Hunyuan-4B
Hunyuan-7B:https://github.com/Tencent-Hunyuan/Hunyuan-7B
【HuggingFace】
Hunyuan-0.5B:https://huggingface.co/tencent/Hunyuan-0.5B-Instruct
Hunyuan-1.8B:https://huggingface.co/tencent/Hunyuan-1.8B-Instruct
Hunyuan-4B:https://huggingface.co/tencent/Hunyuan-4B-Instruct
Hunyuan-7B:https://huggingface.co/tencent/Hunyuan-7B-Instruct