Ce que coûte vraiment un serveur GPU — et ce que change la mutualisation

L'addition complète, pour une organisation seule

Les postes qu'on oublie en ne regardant que le prix de la carte. Ordres de grandeur pour un serveur d'inférence à deux GPU de classe professionnelle, amorti sur quatre ans.

Le taux d'usage réel : pourquoi la machine tourne à vide

C'est le cœur du sujet, et c'est ce qui rend la mutualisation intéressante bien au-delà d'une remise sur volume. Une organisation qui déploie un assistant interne ou une recherche documentaire sur ses propres documents consomme du calcul par à-coups : quelques heures pleines quand on indexe un fonds, des pics à l'heure du déjeuner et en fin de journée, puis un long plat nocturne où la machine chauffe pour rien.

Sur un usage d'inférence interne à l'échelle d'une PME ou d'une collectivité, un taux d'occupation à deux chiffres est déjà un bon score. Autrement dit : vous financez une machine à cent pour cent pour l'utiliser à dix ou quinze. C'est ce rapport, et non le prix du catalogue, qui rend l'achat individuel difficile à défendre devant un conseil d'administration.

La mutualisation ne fait pas disparaître le coût, elle le remplit. Cinq organisations dont les pics ne tombent pas aux mêmes heures — un cabinet qui travaille le matin, un service public qui indexe la nuit, un industriel qui lance des lots le week-end — occupent la même machine sans se gêner. Le matériel est le même ; c'est la facture par organisation qui change d'ordre de grandeur.

Il y a une limite honnête à ce raisonnement : il ne tient que si les pics sont réellement décorrélés. Cinq organisations du même métier, avec les mêmes horaires et la même saisonnalité, se marcheraient dessus aux mêmes moments et il faudrait dimensionner pour le pic cumulé. C'est une des raisons pour lesquelles un tour de table se construit, et ne se remplit pas au hasard.

Ce que vous payez, et à qui

Une association loi 1901 peut facturer des services. La lucrativité est limitée et les excédents repartent dans l'infrastructure — ce que vous payez finance des machines, pas un dividende.

Quand une API publique reste moins chère — et il faut le dire

Mutualiser du calcul n'a d'intérêt que dans un cas précis : celui où vos données ne doivent pas sortir. Si ce n'est pas votre contrainte, une API publique vous coûtera moins cher et vous demandera moins de travail, et nous n'avons aucune raison de prétendre le contraire.

Concrètement : pour un usage occasionnel, quelques milliers de requêtes par mois sur des contenus non sensibles — rédaction, traduction, résumé de documents publics — la facture d'une API se compte en dizaines d'euros par mois. Aucune infrastructure, même parfaitement mutualisée, ne descend à ce niveau : il y a un plancher de coût fixe qu'on ne franchit pas.

Le calcul change quand s'ajoute au moins un de ces éléments : un volume régulier et prévisible, l'impossibilité juridique ou déontologique de confier la donnée à un tiers, ou le besoin d'un modèle spécialisé sur votre corpus. C'est à ce moment que la question devient « à qui je confie mes documents », et non « combien coûte un million de jetons ». Le point de bascule est détaillé dans quelle IA pour des données confidentielles, et les conditions techniques dans héberger un LLM en France.

Un dernier poste, rarement chiffré et pourtant décisif : l'exploitation. Une infrastructure dédiée demande quelqu'un pour la surveiller, la mettre à jour et répondre quand elle tombe. Mutualisée, cette compétence est partagée ; achetée seule, elle est à recruter ou à sous-traiter, et c'est souvent ce poste-là qui fait échouer un projet interne, pas le matériel.

Pour situer l'ordre de grandeur

Trois repères publics pour vérifier ces chiffres sans nous croire sur parole. Sur l'empreinte environnementale et énergétique du numérique, l'Arcep publie avec l'ADEME des travaux de référence, y compris sur la part des centres de données (arcep.fr). Sur le prix de l'électricité professionnelle — le poste qui fait le plus varier la ligne « électricité et refroidissement » d'une région à l'autre et d'une année à l'autre — la Commission de régulation de l'énergie publie les séries officielles (cre.fr). Sur les exigences applicables à un hébergement qualifié, le référentiel SecNumCloud de l'ANSSI décrit précisément ce que « souverain » implique en pratique, au-delà du terme marketing (cyber.gouv.fr).

Ces deux sources expliquent aussi pourquoi l'écart entre un serveur posé dans un local technique et un hébergement en datacenter redondé n'est pas un caprice d'ingénieur : la disponibilité, la sécurité physique et l'efficacité énergétique se paient, et elles font partie du coût réel d'une infrastructure sur laquelle on veut poser des données sensibles.