Voici à quoi ressemblent en détail les serveurs M5 d'Apple
Apple utilise ses propres serveurs avec des puces M5 pour son Private Cloud Compute, l'infrastructure sur laquelle s'exécutent les modèles Apple Intelligence LLM qui ne peuvent pas être exécutés localement sur un iPhone ou un Mac, généralement parce que les modèles ne rentrent pas dans la RAM ou qu'une demande très complexe est faite. C'est quelque chose de connu, mais ce que nous n'avons jamais vu, c'est à quoi ressemblent réellement ces serveurs, et la surprise est que dans des racks de 32 serveurs, chacun d'eux n'est rien de plus qu'une carte qui s'insère dans un emplacement de connexion, semblable à une carte PCI dans un PC.
En retirant une de ces plaques de son dissipateur on peut voir la crème thermique qui améliore le contact entre le dissipateur et le processeur, les puces RAM mais aussi les puces NAND Flash avec le stockage de la machine. Chacune de ces machines dispose de 32 Go de RAM.
Si nous multiplions 32*32, nous obtenons qu'il y a 1024 Go de RAM dans ce seul rack. Avec 32 processeurs M5, on peut se faire une idée de la puissance de calcul d'un seul de ces racks, du nombre de personnes qu'il peut servir, mais aussi du coût énorme d'une telle machine bien que relativement simple, car ce ne sont guère plus que des assiettes coincées dans un tiroir et réfrigérées en permanence.
Toutes ces cartes sont regroupées par groupes de quatre pour chaque dissipateur thermique, et il existe quatre groupes de quatre pour atteindre 32 par rack. On ne sait pas combien de racks peuvent contenir chaque meuble, mais disons qu'il y en a au moins quatre… on parle de coffrets avec 4 To de RAM, 128 processeurs M5 et une quantité inconnue de stockage SSD, mais ce n'est sûrement pas suffisant. Multipliez ensuite la totalité de ce placard par plusieurs centaines, voire milliers, et vous obtenez un centre de données Apple.
Curieusement, le M5 ne possède aucune inscription permettant de l’identifier.
En voyant tout cela, même s'il s'agit de processeurs ARM, il est facile d'imaginer l'énorme consommation d'énergie que cela implique. Rien qu’en réfrigération, nous parlons de milliers de mégawatts. Eh bien, cela fait partie de ce qui fait monter en flèche le prix de la RAM et des SSD, et que ces prix font baisser tous les autres composants au point de rendre n'importe quel téléphone portable ou ordinateur plus cher de plus de 30 ou 40 % en seulement un an ou deux.
