PyTorch 2.1リリース

PyTorch 2.1がリリースされ、コンパイル速度がなんと35倍に向上しました!ExecuTorchにより、モバイルデバイスでのAI展開も実現可能になりました。この新バージョンでは、様々なパフォーマンス向上と量子化サポートが提供されています。

NumPyコードをtorch.compileを使ってC++/CUDAコードにコンパイルすることで、大幅なパフォーマンス向上を実現できます。Pythonのコード比率が増加しているにも関わらず、実行速度は数倍速くなっています。