De quel matériel a besoin une IA propre ? Serveurs GPU pour les PME

Qu’une IA propre fonctionne dans l’entreprise dépend avant tout d’une valeur : la mémoire graphique (VRAM) de la carte graphique. En règle générale, un modèle de langage réduit à 4 bits nécessite environ 0,6 à 0,7 Go de VRAM par milliard de paramètres – plus une réserve pour des textes plus longs et plusieurs utilisateurs. Les modèles petits et moyens fonctionnent sur une carte graphique, les grands nécessitent des serveurs GPU. Au lieu d’acheter du matériel, les PME peuvent aussi utiliser des serveurs GPU dans des centres de données allemands.

Pourquoi précisément la carte graphique ?

Les modèles de langage calculent avec d’immenses tableaux de nombres. Les cartes graphiques sont spécialisées dans ce type de calcul et sont beaucoup plus rapides que les processeurs classiques. Pour que le modèle réponde rapidement, il doit tenir entièrement dans la mémoire de la carte graphique. Si la mémoire ne suffit pas, il devient soit très lent, soit ne fonctionne pas du tout.

Règles empiriques pour les besoins en mémoire

Les valeurs suivantes sont des valeurs indicatives approximatives pour des modèles avec quantification 4 bits et un utilisateur ; selon le modèle et les paramètres, elles peuvent varier :

• Petits modèles (environ 8 milliards de paramètres) : environ 6–8 Go de VRAM – convient à de nombreuses cartes graphiques actuelles.
• Modèles intermédiaires (environ 20–30 Md) : environ 16–24 Go de VRAM – une carte unique performante.
• Grands modèles (environ 70 Md) : environ 40–48 Go de VRAM – carte professionnelle ou deux cartes.
• Très grands modèles (100 Md et plus) : plusieurs cartes professionnelles ou des serveurs spécialisés.

Il faut également prévoir de la mémoire pour le « contexte » — c’est-à-dire les textes que le modèle doit garder en vue en même temps — ainsi que pour d’autres utilisateurs simultanés. Prévoyez donc toujours une marge de réserve.

Trois niveaux d’extension typiques

Niveau 1 : Essai sur le matériel existant

Un poste de travail doté d’une bonne carte graphique ou un Mac récent avec beaucoup de mémoire vive partagée suffit pour tester de petits modèles avec Ollama. Idéal pour un pilote, pas pour une utilisation en équipe.

Niveau 2 : un serveur GPU pour l’équipe

Un serveur équipé d’une carte graphique performante fait fonctionner un modèle de taille moyenne pour une petite équipe – par exemple comme assistant interne ou pour la recherche documentaire. Des fournisseurs allemands louent de tels serveurs ; Hetzner propose par exemple un serveur dédié avec une NVIDIA RTX 4000 SFF Ada et 20 Go de mémoire graphique.

Niveau 3 : plusieurs cartes graphiques ou un service de modèle

Pour les grands modèles ou de nombreux utilisateurs simultanés, plusieurs cartes professionnelles sont nécessaires. Dans ce cas, il vaut souvent la peine de comparer avec un service de modèle en Allemagne, où vous n’exploitez pas de serveur, mais ne payez que l’utilisation – voir Héberger des modèles d’IA dans le respect du RGPD.

Acheter ou louer ?

• Acheter est rentable en cas de taux d’occupation durablement élevé, de salle serveur disponible et de personnel informatique interne.
• Louer est flexible, sans investissement initial, avec une alimentation électrique professionnelle, un refroidissement et une connexion réseau – et peut être dimensionné à la hausse ou à la baisse selon les besoins.
• Électricité et chaleur ne pas oublier : les serveurs GPU consomment nettement plus d’énergie que le matériel de bureau classique et nécessitent un refroidissement.
• Remplacement et maintenance : Si la seule carte graphique tombe en panne, l’IA s’arrête. Les serveurs loués sont remplacés par le fournisseur.

Erreurs typiques

• Pas assez de mémoire graphique : Le modèle ne tient pas ou ne fonctionne qu’avec un fort ralentissement.
• Conçu pour un seul utilisateur : Plusieurs requêtes simultanées nécessitent une réserve supplémentaire.
• Modèle trop grand : Souvent, un modèle de taille moyenne avec une bonne base de connaissances via RAG est plus efficace qu’un très grand modèle sans cela.
• Exploitation sous-estimée : Les mises à jour, la sauvegarde des données et la surveillance prennent du temps ou nécessitent un prestataire.

bettersorted mise pour ses clientes et clients sur des composants ouverts et vérifiables – exploité sur des serveurs en Allemagne et regroupé dans le automaisa Hub. Nous conseillons de manière indépendante des fabricants, sommes conseillers enregistrés auprès du BAFA et coachs INQA autorisés. Le conseil et l’introduction accompagnée peuvent être financés via le INQA-Coaching avec un financement à 80 % ; la voie appropriée est indiquée par le check des aides. Pour un premier entretien sans engagement : contact.

Exemple : calcul pour une équipe de 15 personnes

Un scénario illustratif : 15 collaborateurs utilisent un assistant IA interne, le plus souvent pas en même temps ; les pics se situent à trois ou quatre requêtes parallèles. Le modèle souhaité est un modèle de taille moyenne (environ 30 milliards de paramètres, 4 bits). Selon la règle empirique, il faut environ 18 à 21 Go de mémoire graphique pour le modèle, plus une réserve pour le contexte et les requêtes parallèles – une carte de 24 Go est juste, 32 à 48 Go offrent un confort suffisant. En alternative, il est possible de combiner un modèle un peu plus petit avec une bonne recherche documentaire, qui fonctionne sur une carte de 20 Go.

Questions à poser à l’hébergeur avant la location

1. Quelle carte graphique, quelle quantité de mémoire graphique, quelle quantité de mémoire vive ?
2. Emplacement du centre de données et contrat de sous-traitance du traitement ?
3. À quelle vitesse le matériel défectueux est-il remplacé ?
4. Existe-t-il des engagements de disponibilité et des sauvegardes de données ?
5. Le serveur peut-il être agrandi ultérieurement ou un second peut-il être ajouté ?

Énergie et durabilité

Sous charge, les serveurs GPU consomment plusieurs fois plus qu’un PC de bureau. Un modèle de taille moyenne qui remplit la tâche n’est pas seulement moins cher, il est aussi plus économe qu’un très grand. Les centres de données alimentés en électricité verte et dotés d’un refroidissement efficace constituent un critère de sélection supplémentaire.

Coûts et subventions

Les coûts du matériel IA propre se composent de trois éléments : Mise en place (planification, installation, connexion, tests), exploitation courante (serveur ou hébergement, mises à jour, surveillance, sauvegarde des données) et accompagnement des collaborateurs (formation, règles, interlocuteurs). Nous ne communiquons pas de prix fixes, car l’ampleur et la situation de départ varient fortement. Le logiciel lui-même n’entraîne pas de coûts de licence pour les solutions open source.

Ce n’est pas la technique qui est financée, mais la Conseil et introduction accompagnée: Grâce au INQA-Coaching , la Confédération prend en charge 80 % des coûts de coaching dans toute l’Allemagne (jusqu’à 11 520 €, bons jusqu’au 30.06.2028). Une analyse préalable peut être subventionnée via l’aide au conseil BAFA – à hauteur de 80 % dans les nouveaux Länder, à Lüneburg et à Trèves, sinon 50 %, pour les demandes déposées jusqu’au 31.12.2026. Pour les investissements, certains Länder proposent leurs propres programmes – voir Possibilités de financement pour les entreprises en Allemagne.

Questions fréquemment posées

De quelle quantité de mémoire graphique une IA propre a-t-elle besoin ?

En règle générale, environ 0,6 à 0,7 Go par milliard de paramètres avec une quantification en 4 bits, plus une marge de réserve. Un modèle d’environ 8 milliards de paramètres nécessite ainsi environ 6 à 8 Go, un modèle de 70 milliards environ 40 à 48 Go.

Un PC de bureau standard suffit-il pour l’IA ?

Pour de petits modèles à tester, parfois oui. Pour une utilisation en équipe, il faut un ordinateur ou un serveur doté d’une carte graphique performante.

Une PME devrait-elle acheter ou louer un serveur GPU ?

Pour la plupart des PME, la location dans un centre de données allemand est la meilleure solution de départ : pas d’investissement initial, exploitation professionnelle et adaptation flexible. L’achat n’est rentable que dans le cas d’une utilisation durablement élevée et d’une informatique interne propre.

L’IA peut-elle aussi fonctionner sans carte graphique ?

Les petits modèles fonctionnent aussi sur le processeur, mais nettement plus lentement. Pour une utilisation quotidienne en équipe, une carte graphique est pratiquement indispensable.

État : octobre 2026.