Résumé des résultats des modèles de test pour la classification des images avec les serveurs LeaderGPU

Attention: due to the newly amended License for Customer Use of Nvidia® GeForce® Sofware, the GPUs presented in the benchmark (GTX 1080, GTX 1080 TI) can not be used for training neural networks.(except blockchain processing).

LeaderGPU® est un nouvel acteur sur le marché du calcul par le GPU, qui a l'intention de changer les règles du jeu. À l'heure actuelle, le marché du calcul par le GPU est représenté par plusieurs grands acteurs, tels que AWS, Google Cloud, etc. Cependant, un grand acteur n'est pas toujours synonyme de la meilleure offre du marché. Le projet LeaderGPU®, par rapport à AWS et Google Cloud, fournit des serveurs physiques, et non des VPS, où les ressources matérielles peuvent être partagées entre plusieurs dizaines d'utilisateurs. Le tableau ci-dessous compare le coût de traitement de 500 000 images pour le modèle Inception V3 par différents services :

Le tableau montre que LeaderGPU® est non seulement 300 % plus rapide que ses concurrents, mais aussi plus économique d'au moins 29 % par rapport à Google Cloud et AWS.

Les tests ont été effectués sur les systèmes informatiques LeaderGPU®. Pour l'évaluation des concurrents, nous avons utilisé les résultats des tests des instances Google et AWS. Les tests ont été réalisés sur des données synthétiques des modèles de réseaux suivants : ResNet-50, ResNet-152, VGG16 et AlexNet. À la fin de cet article, vous trouverez les résultats des tests d'autres modèles. Le test des données synthétiques a été effectué en utilisant tf. Variable en analogie avec la configuration des modèles pour ImageNet.

Tests LeaderGPU® (ltbv20 2x Nvidia® Tesla® P 100)

Environnement de test :

• Type d'instance : ltbv20
• GPU : 2x NVIDIA® Tesla® P100
• Système d'exploitation : CentOS 7
• CUDA® / cuDNN : 8.0 / 5.1
• TensorFlow™ GitHub hash : b1e174e
• Benchmark GitHub hash : 9165a70
• Date des tests : juin 2017

Test des données synthétiques (images/sec)

Autres résultats

Test des données synthétiques (images/sec)

* La quantité disponible de mémoire vive du GPU ne permet pas de lancer des tests sur des paquets de cette taille (taille du lot).

Tests LeaderGPU® (GTX 1080)

Environnement de test :

• Type d'instance : ltbv17, 14, 16
• GPU : GTX 1080
• Système d'exploitation : CentOS 7
• CUDA® / cuDNN : 8.0 / 5.1
• TensorFlow™ GitHub hash : b1e174e
• Benchmark GitHub hash : 9165a70
• Date des tests : juin 2017

Test des données synthétiques (images/sec)

Autres résultats

Test des données synthétiques (images/sec)

2x GTX 1080

* La quantité disponible de mémoire vive du GPU ne permet pas de lancer des tests sur des paquets de cette taille (taille du lot).

4x GTX 1080

* La quantité disponible de mémoire vive du GPU ne permet pas de lancer des tests sur des paquets de cette taille (taille du lot).

8x GTX 1080

* La quantité disponible de mémoire vive du GPU ne permet pas de lancer des tests sur des paquets de cette taille (taille du lot).

Tests LeaderGPU® (GTX 1080TI)

Environnement de test :

• Type d'instance : ltbv21, 18
• GPU : GTX 1080TI
• Système d'exploitation : CentOS 7
• CUDA® / cuDNN : 8.0 / 5.1
• TensorFlow™ GitHub hash : b1e174e
• Benchmark GitHub hash : 9165a70
• Date des tests : juin 2017

Test des données synthétiques (images/sec)

Autres résultats

Test des données synthétiques (images/sec)

2x GTX 1080 TI

4x GTX 1080 TI

10x GTX 1080 TI

Tests AWS EC2 (NVIDIA® Tesla® K80)

Environnement de test :

• Type d'instance : p2.8xlarge
• GPU : 8x NVIDIA® Tesla® K80
• Système d'exploitation : Ubuntu 16.04 LTS
• CUDA® / cuDNN : 8.0 / 5.1
• TensorFlow™ GitHub hash : b1e174e
• Benchmark GitHub hash : 9165a70
• Date des tests : mai 2017

Test des données synthétiques (images/sec)

Autres résultats (images/sec)

Les résultats des tests proviennent de https://www.tensorflow.org/performance/benchmarks#details_for_amazon_ec2_nvidia_tesla_k80

Tests Google Compute Engine (NVIDIA® Tesla® K80)

Environnement de test :

• Type d'instance : n1-standard-32-k80x8
• GPU : 8x NVIDIA® Tesla® K80
• Système d'exploitation : Ubuntu 16.04 LTS
• CUDA® / cuDNN : 8.0 / 5.1
• TensorFlow™ GitHub hash : b1e174e
• Benchmark GitHub hash : 9165a70
• Date des tests : mai 2017

Test des données synthétiques (images/sec)

Autres résultats (images/sec)

Les résultats des tests proviennent de https://www.tensorflow.org/performance/benchmarks#details_for_google_compute_engine_nvidia_tesla_k80

Évaluons maintenant les coûts de calcul du traitement de l'image.

Dans le tableau ci-dessous, nous allons calculer le coût et le temps de traitement de 500 000 images en utilisant les modèles Inception V3, ResNet-60 et ResNet-152, et trouver la meilleure offre. Comme on peut le voir dans le tableau, LeaderGPU® est l'offre la plus favorable du marché parmi les autres fournisseurs considérés.

* Le service Google Cloud n'est pas fourni à la minute. Le coût de la minute est calculé sur la base du prix horaire ($ 5,645).

LEGAL WARNING:

PLEASE READ THE LICENSE FOR CUSTOMER USE OF NVIDIA® GEFORCE® SOFTWARE CAREFULLY BEFORE AGREEING TO IT, AND MAKE SURE YOU USE THE SOFTWARE IN ACCORDANCE WITH THE LICENSE, THE MOST IMPORTANT PROVISION IN THIS RESPECT BEING THE FOLLOWING LIMITATION OF USE OF THE SOFTWARE IN DATACENTERS:

«No Datacenter Deployment. The SOFTWARE is not licensed for datacenter deployment, except that blockchain processing in a datacenter is permitted.»

BY AGREEING TO THE LICENSE AND DOWNLOADING THE SOFTWARE YOU GUARANTEE THAT YOU WILL MAKE CORRECT USE OF THE SOFTWARE AND YOU AGREE TO INDEMNIFY AND HOLD US HARMLESS FROM ANY CLAIMS, DAMAGES OR LOSSES RESULTING FROM ANY INCORRECT USE OF THE SOFTWARE BY YOU.