Un seul de ces très gros GPU remplace peut-être des dizaines de serveurs, pour des tâches bien spécifiques...
Les hardware spécialisés, dont les GPU, sont systématiquement beaucoup plus rentables, en terme de puissance de calcul par watt, que les "general purpose CPU".
En fait, on ne remplace pas des dizaines se serveurs, on en profite pour accroitre la densité, en en mettant autant, pour plus de puissance. Mais au total, la puissance consommée est bien plus importante, car la puissance de calcul produite est multipliée par 4 ou 5 dans le même espace.
J'ai assisté il y a quelque temps à une présentation HPE, où un ingénieur disait qu'un CPU à 130W était maintenant considéré comme un petit processeur (là on parle plutôt Intel ou AMD), il y a quelques années c'était un processeur puissant, qu'il fallait plutôt compter 250 ou 300W, que pour les alims des serveurs (des bi-pro dans ce contexte), ils ne faisaient plus d'alim 500W, que la norme était plutôt 1600 W, et qu'au minimum, il n'y avait rien en dessous de 800 W. Pour le même facteur de forme, 1U ou 2U.
Récemment, dans un webinaire, on nous a vanté les armoires rack à refroidissement liquide qui permettent d'absorber la chaleur dégagée, en nous disant qu'au rapport de puissance, on avait moins besoin de refroidissement dans un datacenter...
Pour en revenir sur des serveurs : un CPU AMPERE de 350W, qui contient plus de 100 cores ARM, consomme plus d'énergie que la plupart des CPU de serveurs. Pourtant, il est ~2 fois plus efficace énergétiquement comme "multicore general purpose CPU" que tous les CPU à base d'AMD-64=x64.
La centralisation tend en général à une meilleure efficacité énergétique, quel que soit le domaine, même si la consommation d'énergie monstrueuse est alors plus "visible" car centralisée.
J'ai assisté aussi il y a quelques mois à la présentation d'une entreprise française qui fait des serveurs à base de processeurs ARM, et qui vantait la sobriété énergétique, par coeur, de ses processeurs. J'ai demandé quel était leur TDP. Là aussi, c'était 250 à 300 W. Elle nous a vanté la densité de calcul que l'on obtenait par rack. Un ingénieur nous a dit qu'il fallait compter 22 kW par rack rempli de leurs serveurs... Nous, on dispose d'environ 10 kW par rack, donc on les ferait disjoncter...
L'efficacité énergétique, c'est le nouveau greenwahing. On vante le rapport Mflop/W, plus grand, mais en fait, comme on augmente la densité, et le nombre total de Mflop, au total on consomme plus.
On a parlé des processeurs Ampère qu'avait acheté Amazon, des ARM. Cela leur permet de mettre plus de sites web par serveur, donc c'est rentable pour eux, leur permet d'augmenter le nombre de sites web qu'ils peuvent louer dans le même espace (ou location de puissance de calcul), mais au total, la puissance électrique consommée a bien augmenté.
Cela me rappelle la 5G. On dit qu'au rapport octet transmis par watt, la 5G est meilleure, plus efficace que la 4G. mais on dit aussi qu'au vu de l’augmentation de la consommation de data, le passage à la 5G est indispensable pour absorber la croissance. En fait, on prévoit là aussi, en prolongeant les courbes, qu'il faudra en transmettre 5 ou 6 fois plus dans quelques années. On ne se dit pas que l'on pourrait arrêter la croissance de consommation de data, à sa valeur actuelle, et en fait diminuer la consommation totale...
Un émietter 5G, c'est plusieurs centaines de W, il faut revoir l'alimentation électrique des sites, pour leur apporter ce surplus de puissance électrique nécessaire...
https://www.zdnet.fr/actualites/ampere-lance-altra-pour-concurrencer-intel-et-amd-39900085.htm
Scaleway