Sommaire
Intel domine en performances face à Nvidia
Stability AI a entrepris de comparer les performances de trois des GPU les plus avancés du marché : les Gaudi 2 d’Intel, ainsi que les A100 et H100 de Nvidia. Selon la start-up britannique, Intel a largement rattrapé son retard sur son concurrent en offrant un GPU plus performant.
Des tests de performance concluants pour Intel
Pour évaluer ces accélérateurs d’intelligence artificielle, Stability AI les a utilisés pour entraîner deux de ses modèles. Le premier modèle testé était Stable Diffusion 3, la dernière gamme de modèles de génération d’images de la start-up. En utilisant 16 accélérateurs Gaudi 2, la société a pu traiter 927 images par seconde, soit une vitesse 65 % plus rapide que les 16 H100-80GB. En augmentant ensuite à 256 GPU, les puces d’Intel se sont révélées plus performantes pour former la version à deux milliards de paramètres de Stable Diffusion 3, traitant 12 654 images par seconde, contre 3 992 pour les A100 de Nvidia.
Les tests ont également porté sur la phase d’inférence, cruciale pour finaliser la formation d’un grand modèle de langage. Les puces Gaudi 2 ont affiché des performances similaires à celles des A100, mais ces dernières ont été plus rapides si elles étaient optimisées avec TensorRT, le kit de développement logiciel dédié au deep learning développé par Nvidia.
Des performances impressionnantes pour Intel
Stability AI a poursuivi ses tests en évaluant l’Intel Gaudi 2 et le Nvidia A100 sur Stable Beluga 2.5, un modèle de 70 milliards de paramètres basé sur le LLM open source proposé par Meta, LLaMA 2. En utilisant 256 accélérateurs AI Gaudi 2 pour former le modèle, la start-up a observé un débit moyen total de 116 777 résultats par seconde. Lors du test d’inférence, Gaudi 2 a une fois de plus surpassé l’A100, générant 673 résultats par seconde contre 525 pour le GPU de Nvidia.
Malgré les avancées d’Intel, la concurrence s’annonce rude avec le lancement prochain du H200 par Nvidia. Intel devra continuer à innover et déployer le Gaudi 3 dans les mois à venir pour rester compétitif sur le marché des GPU.
Source : CNEWS
