昨年夏以降、億万長者イーロン・マスクの人工知能企業xAIは、OpenAIのGPT-4やGoogleのGeminiなどのモデルに対抗する主力モデルGrok3を2024年末にリリースすると約束していました。しかし、1月2日になってもGrok3は登場せず、間近に迫っている兆候も見られません。
マスク氏は7月、X（旧Twitter）で、10万台のH100 GPUでトレーニングした後、Grok3を年末にリリースし、「大きな飛躍」になると述べていました。しかし、現在に至るまでGrok3は発表されておらず、xAIのウェブサイトのコードからは、中級モデル「Grok2.5」が先にリリースされる可能性を示唆しています。
これは、マスク氏が製品リリースの約束を果たせなかった初めてのケースではありません。長年、マスク氏はリリース時期に関して楽観的な見通しを示すことが多く、それが実現しないことがありました。それでも、8月にポッドキャスターLex Fridmanとのインタビューで、Grok3は運が良ければ2024年にリリースされる可能性があると述べています。
この遅延はxAI特有の問題ではありません。AIスタートアップ企業Anthropicも同様の困難に直面しています。昨年、AnthropicはClaude3Opusモデルの後継モデルを期日通りにリリースできず、最近では2024年末にリリース予定だったClaude3.5Opusが開発ドキュメントから削除されたと発表しました。
さらに、GoogleとOpenAIの主力モデルもここ数ヶ月で同様の遅延に見舞われており、現在のAI技術のボトルネックを反映しています。世代を重ねるごとにモデルの性能向上は徐々に鈍化しており、AI企業は従来の拡張方法でボトルネックを突破することに苦労しています。
マスク氏はFridmanとのインタビューで、Grok3を最先端のAIモデルにしたいと考えているものの、それが実現するとは限らないとも述べています。「我々が目標を達成できない可能性もあります。それは我々の願望です。」と彼は述べています。
さらに注目すべきは、xAIのチーム規模が競合他社に比べてはるかに小さいことで、これがリリース時期の遅れの原因の一つとなっている可能性があります。
これらの遅延は、特に従来の計算とデータセットの拡張において、AIトレーニング方法の限界を浮き彫りにしています。技術の進歩に伴い、既存のボトルネックを突破し、より効率的で強力なAIシステムを創造する方法が、業界全体が解決すべき喫緊の課題となっています。
