Récemment, NVIDIA a annoncé l'arrivée de son logiciel TensorRT sur le système d'exploitation Windows. Cette décision permettra à NVIDIA d'étendre l'utilisation de TensorRT dans le domaine de l'intelligence artificielle.
En optimisant l'exécution de modèles de langage de grande taille et autres applications sur les PC Windows, TensorRT améliorera considérablement les performances des GPU NVIDIA pour l'inférence IA. Il s'agit d'une initiative stratégique pour NVIDIA, qui s'appuyait auparavant principalement sur le matériel GPU pour les calculs d'IA, mais étend désormais son offre aux logiciels et services.
NVIDIA espère ainsi réduire la dépendance des utilisateurs à l'achat massif de GPU, diminuer le coût de déploiement des modèles d'IA et accroître son influence sur l'ensemble de l'écosystème de l'IA.
Cependant, la position dominante de NVIDIA sur le marché du matériel est contestée par des entreprises comme AMD. À l'avenir, NVIDIA devra continuer d'innover pour maintenir sa position de leader.