Groq社は、毎秒500トークンという速度で従来のGPUやGoogle TPUを凌駕する、大規模言語モデル（LLM）推論用の新チップを発表しました。
開発チームにはGoogle TPU出身者も多数参加しており、創設者のJonathan Ross氏もその一人です。このチップはGroq社独自開発のLPU（Large Processing Unit）を採用しており、3年以内にNVIDIAを上回ることを目指しています。価格は約2万ドルです。
非常に高速なAPIアクセス速度と、様々なオープンソースLLMモデルへの対応が特徴です。
【AIデイリー】へようこそ！ここは、毎日人工知能の世界を探求するためのガイドです。毎日、開発者に焦点を当て、技術トレンドを洞察し、革新的なAI製品アプリケーションを理解するのに役立つ、AI分野のホットなコンテンツをお届けします。
分散型GPUクラウドコンピューティングプロバイダーであるAethirは本日、Web3人工知能エコシステムの成長を促進することを目的とした「AI Unbundled」という業界アライアンスを発表しました。この計画には、0G Labs、Biconomy、Polyhedra、Oasis Protocol Foundation、ChainGPT、IoTeX、iExec、Geodnet、Flock.io、Alpha Neなど、主要なプレーヤーが含まれています。
Intelは最近、ローカル生成AI用に設計されたAI Playgroundソフトウェアを正式にオープンソースとして公開したと発表しました。これはIntel Arc GPUユーザーに強力なAIモデル実行プラットフォームを提供します。AIbaseが知る限り、AI Playgroundは様々な画像、動画生成モデルと大規模言語モデル（LLMs）をサポートしており、ローカルの計算資源を最適化することで、AIアプリケーションのハードウェアの敷居を大幅に下げています。このプロジェクトはGitHubで公開されており、世界中の開発者やAI愛好家から注目を集めています。
Intelは、生成AIソフトウェア「AI Playground」の正式なオープンソース化を発表し、AIコミュニティから大きな注目を集めています。Intel Arc GPUと統合グラフィックスカード向けに最適化されたAIツールであるAI Playgroundは、「AIの中心」として記述されており、ローカルで動作するチャット型大規模言語モデル（LLM）や画像・動画生成機能をサポートしています。今回のオープンソース化は、Intelによる生成AI技術普及に向けた取り組みを示しています。
元インテルCEOのパット・ゲルシンガー氏は、最近のNVIDIA 2025 GPUテクノロジーカンファレンスのポッドキャスト「Acquired」で、NVIDIAの人工知能（AI）GPUの価格戦略が高すぎ、大規模なAI推論タスクを支えるのが難しいと述べました。ゲルシンガー氏は、推論がAIモデルの展開における重要な要素であり、現在の業界トレンドは推論に重点を置くべきだと指摘し、NVIDIAの技術はコスト効率の面でこのニーズを満たすことが難しいと主張しました。画像参照
美団の王興CEOは、同社のAI戦略について詳細に説明しました。王興氏は、過去1年間、GPUリソースの確保を最優先事項とし、AIインフラ構築に巨額の資金を投入してきたと明かしました。さらに、2025年にはAI基盤インフラへの投資をさらに拡大し、同分野における地位を強化する計画であると述べました。
最近、HPC-AI Tech は画期的なビデオAIシステムである Open-Sora2.0 のリリースを発表しました。これは、従来のトレーニングコストのおよそ1/10で商業レベルの品質を実現します。この進歩は、リソースを大量に消費するビデオAI分野におけるパラダイムシフトを示唆しており、言語モデルにおける効率性の向上に匹敵するものです。Movie Gen や Step-Video-T2V のような既存の高品質ビデオ生成システムでは数百万ドルのトレーニング費用が必要となる場合がありますが、
ムーアセラードが、MT-MegatronLMとMT-TransformerEngineという2つの強力なAIフレームワークをオープンソース化しました。これにより、国産GPUを用いたAIトレーニングの効率が90％以上にまで向上しました。
李開復氏が率いる企業が、企業向けの汎用大規模言語モデルプラットフォーム「万智」を発表しました。本プラットフォームは、大規模言語モデル競争における新たな方向性を示唆するものです。