GPU
Des machines à GPU pour l'IA, l'inférence ou le calcul. Où les trouver, comment les choisir, et les faire utiliser par un service.
Où trouver des GPU
Section intitulée « Où trouver des GPU »Seuls certains hébergeurs et certaines régions en proposent, et leur stock change souvent. À la création d’un cluster, répondez Oui à Besoin de GPU (IA, calcul) ? : seules les régions qui proposent des machines à GPU restent, avec le prix de la machine GPU la moins chère.
Si aucune région n’apparaît, aucune machine à GPU n’est disponible en ce moment chez ces hébergeurs. Réessayez plus tard, essayez Partout pour la zone des données, ou répondez Non.
Choisir la machine
Section intitulée « Choisir la machine »À l’étape Combien de machines ?, choisissez la machine à GPU dans un groupe de machines. Les typologies à GPU sont rangées sous Avec GPU, avec leurs processeurs, leur mémoire et leur prix par mois.
Faire utiliser le GPU par un service
Section intitulée « Faire utiliser le GPU par un service »Dans le panneau de l’application, onglet Ressources, réglez GPU sur NVIDIA. Le service sera placé sur une machine à GPU du cluster.
Pour servir un modèle d’IA, une image comme Ollama ou vLLM s’ajoute comme une Application.
Ce que ça coûte
Section intitulée « Ce que ça coûte »La machine au prix de l’hébergeur, plus 100 € par GPU et par mois pour Fransys. Voir la grille tarifaire. Une machine à GPU coûte cher : mettez le cluster hors ligne quand vous ne vous en servez pas.