NVIDIAとMicrosoft、AI Foundryサービスを発表

NVIDIAとMicrosoftは、企業向けに生成AIモデルのカスタマイズソリューションを提供するAI Foundryサービスを発表しました。

今回の協業では、H100およびH200 Tensor Core GPUインスタンスも導入されます。H100インスタンスは4P AI演算能力と188GBのHBM3メモリを備え、H200インスタンスはより大規模なモデルの推論をサポートし、メモリ容量と帯域幅が大幅に向上します。

さらに、MicrosoftはAzureのお客様向けに、機密性と整合性を保護する高速性能を提供するNCC H100 v5インスタンスも発表しました。