人工智能浪潮下,新一代DDR5内存严重断货。Meta联合台积电、美光等开发出过渡方案,让仅支持DDR5的AI服务器能稳定运行DDR4内存。这套“缝合怪”系统实测稳定性出众,有效避免数据中心建设受阻。
Ampere 公司宣布了其产品路线图的重大更新,发布旗舰处理器 Aurora,主打 AI 加速与高带宽内存集成,旨在大幅提升云原生 AI 计算性能。Aurora 搭载 512 个 Ampere 核心,性能较现有处理器提高三倍以上,专门针对 AI 训练和推理工作负载设计,显示 Ampere 在 AI 计算领域的雄心。Aurora 采用可扩展的 AmpereOne Mesh 架构,集成 Ampere AI IP 和高带宽内存,具备处理复杂 AI 工作负载的强大性能和灵活性。此发布使 Ampere 成为高核数处理器市场的竞争者,与 AMD 和英特尔等巨头竞争。Ampere 还透露了其产品线的其他更新,包括即将推出的 AmpereOne M 系列,引入 12 通道 DDR5 平台,到 2025 年计划将内核数量增加到 256 个,进一步提升处理器性能。
["富士通正在研发下一代AI、HPC和数据中心处理器Monaka,采用150个Armv9核心。","Monaka将采用2纳米工艺,预计2027年上市。","Monaka配备SVE2指令集,支持DDR5内存和PCIe 6.0接口。","Monaka采用3D芯片设计,通过分离架构实现可扩展性。","Monaka定位为AI和数据中心处理器,提升能效是其关键特性之一。"]
["2023年全球服务器出货量和ODM生产计划遭下修。","AI领域需求压缩了服务器新平台的放量规模。","DDR5导入比重预计将延后至2024年第三季底。"]
Downtown-Case
GLM 4.6是一款专为128GB内存+单GPU配置优化的量化模型,采用IQ_K量化方式,相比主流llama.cpp在相同大小下提供更好的质量和性能。该模型需要配合ik_llama.cpp使用,在128GB双通道DDR5内存、单CCD Ryzen 7000处理器+单张3090显卡配置下,文本生成速度可达每秒约6.8个token。