フランスの企業であるMistral AIは、最近、最新のオープンソース推論モデル「Magistral Small1.2」を正式にリリースしました。このモデルは注目すべき24Bパラメータを持ち、Apache 2.0のオープンソースライセンスで公開されており、MistralがAI技術革新に抱く野心と実力を示しています。
新バージョンのMagistral Small1.2は、最大128kのコンテキスト処理をサポートし、多言語および視覚入力を処理できるほか、新たなイノベーション特徴として[THINK]という特殊トークンを導入しています。この特殊トークンは、推論プロセスを囲むように設計されており、モデルの表現力と柔軟性を向上させる目的があります。前バージョンの1.1に比べて、Magistral Small1.2には視覚エンコーダーが追加され、画像とテキストの統合タスクにおいて優位性を発揮するようになりました。
また、Magistral Small1.2には多数の推論テンプレートが内蔵されており、現在人気のあるフレームワーク(vLLM、Transformers、llama.cppなど)と互換性があります。ユーザーは煩雑な設定なしにすぐに使用できます。さらに、このモデルはGGUF量化バージョンおよびUnsloth微調整例も提供しており、開発者にとって多くの利便性を提供しています。
エントープライズ版のMagistral Medium1.2も同時にアップグレードされ、依然としてLe Chatプラットフォームを通じてユーザーに会話サービスを提供しており、APIはLa Plateformeプラットフォームにリリースされ、アプリケーションの範囲をさらに広げています。