SambaNova發佈智能AI芯片SN40L,可運行5萬億參數模型
["SambaNova發佈了智能AI芯片SN40L,能夠運行高達5萬億參數的模型,同時保持模型準確性。","SN40L芯片由TSMC製造,爲單個系統節點提供256k+的序列長度,通過整合技術實現,提高模型質量和推理速度。","SambaNova的全棧大語言模型(LLM)平臺將由SN40L芯片提供動力,解決了企業在部署生成式人工智能時的挑戰。","SN40L芯片獨特之處在於同時處理高帶寬內存(HBM)和動態隨機存取內存(DRAM),使算法能夠更智能地選擇內存。"]