新世代言語モデルModernBERTリリース、RAG等のタスク処理速度が4倍に向上、コスト削減

Answer.AIとLightOnは最近、オープンソース言語モデルModernBERTを共同リリースしました。これはGoogle BERTの大きなアップグレードです。開発者によると、ModernBERTは処理速度、効率性、品質において顕著な向上を見せています。このモデルは、従来のモデルよりも4倍高速で、メモリ使用量も少なくなっています。ModernBERTは最大8192トークンのテキストを処理できる設計となっており、既存のエンコーディングモデルの一般的な512トークン制限を大幅に上回っています。