Aller au contenu principal

GPUs sur Hikube

Hikube propose l'accès aux accélérateurs NVIDIA via GPU Passthrough, permettant l'exécution de workloads nécessitant une accélération matérielle. Les GPU sont disponibles pour deux types de workloads : machines virtuelles et pods Kubernetes.

🎯 Types d'Utilisation​

GPU avec Machines Virtuelles​

Les GPU peuvent être attachés directement aux machines virtuelles via GPU passthrough VFIO-PCI, offrant un accès complet et exclusif à l'accélérateur.

Cas d'usage :

  • Applications nécessitant un contrôle complet du GPU
  • Workloads legacy ou spécialisés
  • Environnements de développement isolés
  • Applications graphiques (rendu, CAO)

GPU avec Kubernetes​

Les GPU peuvent être alloués aux workers Kubernetes et ensuite assignés aux pods via les resource requests/limits.

Cas d'usage :

  • Workloads containerisés d'IA/ML
  • Scaling automatique des applications GPU
  • Partage de ressources GPU entre applications
  • Orchestration complexe de jobs parallèles

🖥️ Hardware Disponible​

Hikube propose plusieurs GPU NVIDIA :

NVIDIA L40S​

  • Architecture : Ada Lovelace
  • Mémoire : 48 GB GDDR6 avec ECC
  • Nom de ressource : nvidia.com/AD102GL_L40S
  • Usage typique : IA générative, inférence, rendu temps réel

NVIDIA A100 80 Go (PCIe / SXM4)​

  • Architecture : Ampere
  • Mémoire : 80 GB HBM2e avec ECC
  • Noms de ressource : nvidia.com/GA100_A100_PCIE_80GB, nvidia.com/GA100_A100_SXM4_80GB
  • Usage typique : Entraînement ML, calcul haute performance (la variante SXM4 supporte NVLink pour le multi-GPU)

NVIDIA RTX PRO 6000 Blackwell​

  • Architecture : Blackwell (Server Edition)
  • Mémoire : 96 GB GDDR7 avec ECC
  • Nom de ressource : nvidia.com/GB202GL_RTX_PRO_6000_BLACKWELL_SERVER_EDITION
  • Usage typique : LLM, transformers, calcul intensif

🏗️ Architecture​

Allocation GPU avec VMs​

Allocation GPU avec Kubernetes​

⚙️ Configuration​

GPU sur VM​

apiVersion: apps.cozystack.io/v1alpha1
kind: VMInstance
spec:
  runStrategy: Always
  instanceType: "u1.xlarge"
  gpus:
    - name: "nvidia.com/AD102GL_L40S"
  disks:
    - name: vm-gpu-disk

GPU sur Kubernetes Worker​

apiVersion: apps.cozystack.io/v1alpha1
kind: Kubernetes
spec:
  nodeGroups:
    gpu-workers:
      instanceType: "u1.xlarge"
      gpus:
        - name: "nvidia.com/AD102GL_L40S"
  addons:
    gpuOperator:
      enabled: true

GPU dans Pod Kubernetes​

apiVersion: v1
kind: Pod
spec:
  containers:
  - name: gpu-app
    image: nvidia/cuda:12.0-runtime-ubuntu20.04
    resources:
      limits:
        nvidia.com/gpu: 1

📋 Comparaison des Approches​

AspectGPU sur VMGPU sur Kubernetes
IsolationComplète (1 GPU = 1 VM)Partagée (orchestrée)
PerformanceNative (passthrough)Native (device plugin)
GestionManuelleAutomatisée
ScalingVertical uniquementHorizontal + Vertical
PartageNonOui (entre pods)
ComplexitéSimpleComplexe

🚀 Prochaines Étapes​

Pour les Machines Virtuelles​

Pour Kubernetes​

Prochaines etapes

Voir aussi