2024-08-28 11:29:28.AIbase.11.3k
Cerebras推出"世界最快"AI推理服务,挑战Nvidia主导地位
Cerebras Systems Inc.宣布推出号称“世界最快”的AI推理服务,挑战Nvidia Corp.,旨在以更快速度和更低成本完成AI任务。该服务基于WSE-3处理器,拥有90余万计算核心和44GB内存,核心数量是Nvidia H100的52倍。声称推理速度可达每秒1,000个令牌,比Nvidia同类服务快20倍,且性价比高100倍。服务提供免费、开发者和企业级三个层级,价格从每百万令牌10美分起。已吸引葛兰素史克、Perplexity AI Inc.、Meter Inc.等知名机构成为早期客户。DeepLearning AI Inc.创始人Andrew Ng博士对该服务给予高度评价。此外,Cerebras还宣布与LangChain、LlamaIndex等多家公司建立战略合作伙伴关系,提供AI开发工具,并与OpenAI兼容,方便现有应用程序迁移。