本プロジェクトでは、革新的な二段階訓練プロセスを通じて、GPTの推理能力をLlama - 3.1 - 8Bモデルに蒸留します。まず、教師付き微調整によって知識の蒸留と形式の整列を行い、次に強化学習によってモデルに自主的に探索し、推理戦略を最適化させます。特に、数学推理分野の能力向上に注力しています。

自然言語処理Transformers多言語

Sungur-14Bは、トルコ語に特化した大規模言語モデルで、Qwen/Qwen3 - 14Bをベースに派生しています。このモデルは、41,100個のトルコ語サンプルを含むデータセットを使用して微調整され、数学、医学、一般知識などの分野の推理会話をカバーし、トルコ語の地域的な推理能力を強化することを目的としています。

自然言語処理Ggufその他

魔主小型 1.1は、魔主小型3.1をベースに構築された240億パラメータの効率的な推理モデルで、新たに推理能力が追加され、多言語をサポートし、Apache 2.0ライセンスを採用しており、単一のRTX 4090または32GBメモリのMacBookでローカルにデプロイして実行できます。

自然言語処理Gguf多言語

Sam-reason-S2.1はSmilyAIが開発した推理に特化したファインチューニング言語モデルで、悪役スタイルと構造化された出力能力を備えています。

自然言語処理Transformers英語

SmilyAI推理-Sシリーズの最初のモデルで、推論能力、アイデンティティ特性、個性をオープンドメイン対話エージェントに統合することに焦点を当てています

自然言語処理Transformers英語

OLAIR/ko-r1-14b-v2.0.3は、韓国語の理解と推理に特化した大規模言語モデルで、推理タスクで優れた性能を発揮し、韓国語の言語処理に強力な能力を提供します。このモデルはko-r1-7b-v2.0.3の拡張版で、主に実験目的で使用されます。

自然言語処理Transformers韓国語

HK-O1awはO1スタイルの複雑な推理能力を備えた法律アシスタントで、LLaMA-3.1-8Bをベースに香港地域の法律分野向けに設計されています。

自然言語処理Pytorch中国語

MathCoder2は、MathCode - Pile数学コードデータセットで継続的な事前学習を行うことで作成されたモデルで、高度な数学推理タスクに強力なサポートを提供し、数学推理能力において著しい向上が見られます。

自然言語処理Safetensors英語

メングース - 8BはMetaのLlama - 3 - 8B - Instructモデルをベースに開発された医療AIシステムで、合成データセットを使って指令微調整を行い、高度な医学推理能力を備え、複雑な医学問題を解決するために特化しています。

自然言語処理Transformers