Héberger un LLM en France : ce que ça demande vraiment
Faire tourner un modèle de langage sur des machines situées en France n'est plus un problème de recherche : c'est un problème d'ingénierie et de budget. Voici les trois façons de s'y prendre, et ce que chacune suppose.
Les trois façons de s'y prendre
La question n'est pas « quel modèle » mais « sur quelle machine, sous quelle juridiction, et qui l'exploite ». Ces trois réponses couvrent l'essentiel des situations.
API d'un fournisseur hors UE
- Où vivent vos données
- Sur des serveurs soumis à une juridiction étrangère, chez un sous-traitant que vous ne choisissez pas
- Coût d'entrée
- Quelques dizaines d'euros par mois
- Charge d'exploitation
- Nulle : vous appelez une URL
API d'un fournisseur européen
- Où vivent vos données
- En Europe, mais chez un tiers dont vous dépendez pour la disponibilité et les conditions d'usage
- Coût d'entrée
- Comparable, parfois supérieur
- Charge d'exploitation
- Faible
Machines dédiées, à vous seul
- Où vivent vos données
- Chez vous ou dans le datacenter que vous avez choisi ; personne d'autre n'y accède
- Coût d'entrée
- Plusieurs dizaines de milliers d'euros
- Charge d'exploitation
- Réelle : mises à jour, supervision, astreinte
Machines mutualisées entre organisations
- Où vivent vos données
- Dans un datacenter régional, étanche entre membres, sous gouvernance des membres
- Coût d'entrée
- Une cotisation, puis l'usage
- Charge d'exploitation
- Partagée entre les membres
Ce qu'il faut sous le capot
Le facteur dimensionnant n'est pas la puissance de calcul brute mais la mémoire vidéo. Un modèle doit tenir en VRAM pour répondre à une vitesse acceptable : dès qu'il déborde sur la mémoire système, la latence s'écroule et l'assistant devient inutilisable pour un usage interactif.
En ordre de grandeur : un modèle de 7 à 8 milliards de paramètres tient dans 6 à 10 Go de VRAM une fois quantifié en 4 bits, et demande plutôt 16 à 20 Go en pleine précision. Un modèle de 70 milliards réclame de l'ordre de 40 à 48 Go quantifié — c'est-à-dire une carte professionnelle entière, ou deux cartes grand public bien choisies. La quantification réduit la mémoire nécessaire au prix d'une perte de qualité généralement faible sur des tâches de compréhension et de synthèse, plus sensible sur du raisonnement long ou du code.
Un modèle seul ne sert à rien : ce qui rend un assistant utile, c'est l'accès à vos documents. Cela suppose une base vectorielle et une chaîne de recherche — on découpe les documents, on les transforme en vecteurs, on retrouve les passages pertinents et on les fournit au modèle avec la question. Cette chaîne, dite RAG, est souvent plus déterminante pour la qualité des réponses que le choix du modèle lui-même : un modèle moyen sur un corpus bien indexé bat un excellent modèle qui cherche mal.
Reste le stockage et l'ingestion. Les documents doivent être lisibles par la machine : un fonds de PDF scannés demande une reconnaissance de caractères avant toute chose, et c'est fréquemment le poste de travail le plus long d'un projet — bien avant l'installation du modèle. Sur ce point, aucun choix d'hébergement ne vous dispense du travail sur la donnée.
Les modèles ouverts et ce qu'ils valent
« Ouvert » veut dire ici que les poids sont téléchargeables et exécutables sur vos machines, sans appel à un service distant. Les licences diffèrent et méritent d'être lues avant tout déploiement commercial.
Les modèles français et européens
Mistral publie des modèles de tailles variées, dont plusieurs sous licence permissive, avec une documentation d'exécution locale sérieuse (docs.mistral.ai). C'est le point de départ raisonnable pour un déploiement souverain, ne serait-ce que parce que le tokenizer et l'entraînement traitent bien le français.
Les grands modèles ouverts non européens
Llama et plusieurs familles asiatiques offrent d'excellents résultats et des tailles très diverses. Attention aux licences : certaines restreignent l'usage au-delà d'un seuil d'utilisateurs, ou interdisent d'entraîner un modèle concurrent. Exécuter des poids sur vos serveurs ne pose aucun problème de transfert de données — c'est la licence, pas la juridiction, qu'il faut vérifier.
Les petits modèles spécialisés
Pour de la classification, de l'extraction de champs ou du routage, un modèle de quelques centaines de millions de paramètres, spécialisé sur votre tâche, coûte une fraction du calcul et donne souvent de meilleurs résultats qu'un grand modèle généraliste. C'est le gisement le plus négligé.
Les modèles d'embedding
Souvent oubliés, ils déterminent la qualité de la recherche documentaire. Un modèle d'embedding multilingue correct change plus l'expérience qu'un passage à un modèle de génération deux fois plus gros.
Les garanties qu'on peut réellement tenir
Un hébergement en France ne vaut que par ce qu'il permet de garantir de façon vérifiable. Trois engagements se contrôlent : la localisation physique des machines, l'absence d'appel à un service tiers dans la chaîne de traitement, et l'étanchéité entre les organisations qui partagent l'infrastructure.
Le premier se prouve par le contrat d'hébergement et la qualification du datacenter. Le référentiel SecNumCloud de l'ANSSI décrit ce que « de confiance » signifie concrètement en matière de sécurité, de gouvernance et d'immunité aux droits extra-européens (cyber.gouv.fr) : c'est la référence utile pour distinguer une offre réellement souveraine d'un argument commercial.
Le deuxième s'audite : il suffit d'observer le trafic sortant. Une chaîne qui n'appelle aucune API externe ne produit aucune connexion vers l'extérieur pendant un traitement, et cela se vérifie. C'est une propriété beaucoup plus solide qu'une clause contractuelle.
Le troisième est le plus exigeant dans un cadre mutualisé, et c'est celui sur lequel il faut interroger n'importe quel prestataire : séparation des espaces de stockage, cloisonnement réseau, et pour les usages les plus sensibles, possibilité de traiter sur un environnement déconnecté d'Internet. Une donnée qui ne circule pas ne fuite pas.
Ce que l'hébergement local ne résout pas
Il faut être clair : héberger un modèle chez soi ne règle ni la qualité des réponses, ni la conformité, ni la pertinence de l'usage. Un assistant mal cadré donnera des réponses médiocres sur vos serveurs exactement comme sur ceux d'un fournisseur américain.
Si votre besoin porte sur des contenus publics ou peu sensibles — rédaction, traduction, veille, synthèse de documents déjà diffusés — une API publique restera plus rapide à mettre en œuvre, plus économique et régulièrement mise à jour. Nous n'avons aucun intérêt à vous vendre une infrastructure pour cet usage-là, et le dire fait partie du travail de cadrage.
Enfin, un modèle ouvert exécuté localement vieillit : les versions se succèdent vite, et rester à jour demande du temps d'ingénieur. Sur une infrastructure mutualisée, ce travail est partagé ; sur une machine achetée seule, il est à votre charge. C'est un coût récurrent qu'aucun devis matériel ne montre, et c'est détaillé dans ce que coûte vraiment un serveur GPU.
Si votre question est plutôt « laquelle de ces options choisir dans mon cas », l'arbre de décision est dans quelle IA pour des données confidentielles.
Pour aller plus loin
Coût d'un serveur GPU pour l'IA
Carte, châssis, électricité, hébergement, administration : l'addition complète pour une organisation seule, et ce que la mutualisation à cinq change au calcul.
Quelle IA pour des données sensibles
Quatre familles de solutions comparées sur cinq critères, ce que le label « européen » ne garantit pas, et un chemin de décision selon la sensibilité réelle.