亚马逊AWS近日推出了一项名为Amazon EC2 Capacity Blocks的新服务,用户可以像预订酒店房间一样,提前预订未来一段时间内所需的Nvidia H100 GPU数量,每次预订时长最长可达14天。该服务可有效缓解机器学习和深度学习项目对高性能GPU的需求压力。用户可以按自己的项目计划和资源需求,弹性调配1至64个GPU实例,每个实例包含8块Nvidia H100 GPU。在预订期内,用户只需为实际使用的GPU资源时间付费。GPU实例的价格会根据供需关系动态浮动。该服务首先在AWS美国东部地区推出,未来将覆盖更多区域。业内人士认为,这种创新式的按需GPU购买方式,能够有效提高昂贵GPU资源的使用效率,降低AI项目的计算成本。