Calcul IA haute densité

G894-ZD3-AAX7

Une plateforme NVIDIA HGX B300 pour vos charges IA

Préparez une infrastructure de calcul accéléré avec une architecture GPU intégrée et un réseau adapté aux échanges de données.

NVIDIA HGX B300Calcul IAEntraînement et inférence

Télécharger la fiche produit constructeur (PDF)

8UFormat rack
8 GPU SXMPlateforme NVIDIA HGX B300
2 × EPYCSéries 9005 / 9004
8 × 800 Gb/sRéseau GPU OSFP

Accélérateurs GPU

Nombre et format
Plateforme NVIDIA HGX B300 intégrant 8 GPU SXM Interconnexion NVLink et NVLink Switch ; il ne s’agit pas de huit cartes PCIe interchangeables.
Puissance et conditions de validation
10 454 W pour l’ensemble HGX B300 dans la QVL. Cette valeur concerne le module complet, pas chaque GPU ni la consommation totale du serveur. La limite par GPU n’est pas précisée dans cette QVL.
Modèles validés par GIGABYTE
  • NVIDIA HGX B300 8-GPU avec dissipateurs : 270 Go de mémoire par GPU selon la QVL

La plateforme HGX est validée comme un ensemble intégré ; le choix des accélérateurs ne se fait pas carte par carte.

Consulter la liste de compatibilité GPU GIGABYTE (QVL)

Une plateforme pour vos usages

Calcul multi-GPU

Étudiez la répartition des modèles et les échanges entre accélérateurs dans une architecture HGX.

Infrastructure IA haute densité

Concevez le réseau, le stockage et l’alimentation autour des besoins de vos charges de calcul.

Préparer des charges IA réparties sur plusieurs GPU

Le G894-ZD3-AAX7 s’adresse aux projets qui nécessitent une plateforme d’accélération intégrée et des échanges soutenus entre GPU. Son dimensionnement doit être abordé à l’échelle de l’infrastructure : calcul, arrivée des données, réseau et exploitation.

Une architecture HGX distincte d’un serveur à cartes PCIe

La plateforme HGX B300 utilise des accélérateurs SXM et une interconnexion NVLink dédiée. Le choix de cette architecture dépend de vos modèles, des bibliothèques employées et de la façon dont les calculs sont distribués. Elle se distingue du G494-ZB4-AAP2 à GPU PCIe, qui répond à d’autres besoins de configuration.

Concevoir le réseau et le stockage ensemble

Le traitement des données en amont du calcul peut limiter l’usage des accélérateurs. DynFi vous accompagne pour étudier les flux d’alimentation des jeux de données, les sauvegardes des résultats et les échanges entre serveurs. Les interfaces et les équipements réseau sont sélectionnés selon la topologie et les protocoles retenus.

Valider les conditions d’installation

La puissance électrique, les raccordements, l’évacuation de la chaleur et la capacité mécanique du rack font partie de l’étude. Les puissances indiquées pour les blocs d’alimentation ne représentent pas une consommation constante du serveur.

Présentez vos charges de travail et vos contraintes datacenter pour préparer une configuration et un plan d’intégration adaptés.

Retour au catalogue des serveurs

Les caractéristiques techniques

Calcul et mémoire
Processeur
2 AMD EPYC 9005 ou 9004 cTDP jusqu’à 500 W
Socket
2 sockets SP5
Carte mère
MZB3-PE2
Chipset
Système sur puce
Mémoire
24 DIMM DDR5 RDIMM ; 12 canaux par CPU 9005 : jusqu’à 6400 MT/s ; 9004 : 4800 MT/s
Stockage et baies
Stockage
8 baies 2,5 pouces hot-swap NVMe Gen5 2 M.2 : PCIe Gen3 x4 et x1
Réseau et extensions
Réseau
2 × 10 Gb/s Intel X710-AT2 8 OSFP 800 Gb/s : InfiniBand XDR ou double Ethernet 400 Gb/s, ConnectX-8 SuperNIC Gestion Gigabit avant / arrière
Extensions PCIe et OCP
4 PCIe Gen5 x16 FHHL Compatibilité NVIDIA BlueField-3 DPU
Vidéo
ASPEED AST2600 ; VGA
Connectique en façade
2 USB 3.2 Gen1 ; VGA ; réseau et gestion
Connectique arrière
8 OSFP ; gestion
Alimentation et refroidissement
Alimentation
12 × 3000 W redondantes, 80 PLUS Titanium Cordons C19 ; puissance disponible selon tension secteur
Conditions de fonctionnement
10 à 30 °C ; 8 à 80 % d’humidité sans condensation
Administration
Administration à distance
BMC ASPEED AST2600
Module de sécurité
TPM 2.0 optionnel CTM012
Systèmes et usages
Pile logicielle NVIDIA et composants à valider selon le projet
Dimensions et livraison
Format et dimensions
8U — 447 × 351 × 923 mm (L × H × P)
Poids et emballage
Poids net 91,6 kg ; brut 95 kg
Contenu du colis
Serveur, 2 dissipateurs CPU et rails Configuration et accessoires selon devis
Références de commande
6NG894ZD3DR000ACX7*

Dimensionnons votre infrastructure de calcul IA

Architecture GPU, réseau, stockage et préparation de l’environnement datacenter

Décrire mon projet

Votre configuration sur mesure

Parlez-nous de vos besoins pour recevoir une proposition adaptée à votre infrastructure.