AWS 推出 Trainium2 芯片,AI 計算成本降低 40%
在2024年 AWS re:Invent 大會上,亞馬遜網絡服務(AWS)宣佈推出基於 Trainium2芯片的 Amazon Elastic Compute Cloud(EC2)實例,正式提供給用戶。這新實例在價格性能方面相比於上一代基於 GPU 的 EC2實例提升了30-40%。AWS 首席執行官馬特・加曼表示:“,我很高興地宣佈 Trainium2驅動的 Amazon EC2Trn2實例的正式發佈。”除了 Trn2實例外,AWS 還推出了 Trn2UltraServers,並展示了下一代 Trainium3AI 芯片。Trn2實例配備了16個 Trainium2芯片,能夠提供高達20.8petaflops 的計算性能,專爲訓練和部署具有數十億參數的大型語言模型