韓國AI芯片創企FuriosaAI公佈第三代AI推理加速器:與博通合作,含2顆2nm計算裸晶、1顆I/O裸晶、12個48GB HBM4(E)堆棧,支持PCIe Gen7,機架內SUE全連接。尺寸爲二代8倍,算力32 PFLOPS爲二代32倍。
Alibaba
-
輸入tokens/百萬
輸出tokens/百萬
上下文長度
Baidu
$1
$4
64
Google
$140
$280
32
Bytedance
$0.5
$0.8
$3.2
128
$3
$9
$0.1
$0.4
$10
8