Groqは、Googleの元従業員によって設立されたAIチップのスタートアップ企業です。同社は、LPUというAIアクセラレータチップを発表しました。このチップは技術革新により、大規模言語モデルの推論と生成速度をGPUの10倍に向上させます。これは、高速SRAMメモリ技術とメモリアクセスを削減するアーキテクチャ設計によるものです。ユーザーは、Llama、Mixtralなど、様々な大規模言語モデルをLPU上で実行できます。LPUの登場は、大規模言語モデルのパフォーマンスをさらに最適化し、音声アシスタントやAIライティングなどのアプリケーションの応答速度を向上させるのに役立ちます。