韓国のAIチップスタートアップであるFuriosaAIは、第3世代のAI推論加速チップを発表しました。ボーカンと提携し、2つの2nmコンピューティングダイ、1つのI/Oダイ、12個の48GB HBM4(E)スタックを搭載しており、PCIe Gen7に対応しています。ラック内でのSUE全接続をサポートしています。サイズは第2世代の8倍で、演算力は32 PFLOPSで第2世代の32倍となっています。
Alibaba
-
入力トークン/百万
出力トークン/百万
コンテキスト長
Baidu
$1
$4
64
Google
$140
$280
32
Bytedance
$0.5
$3
$9
128
$0.8
$3.2
$10
$0.1
$0.4
8