GX10 ou ET900N G3 : comment choisir sa machine ASUS pour l’IA locale ?

Pour apprendre, développer un assistant personnel ou tester un service bien défini, nous vous conseillons de débuter par le GX10 64 Go si votre logiciel et votre modèle tiennent confortablement en mémoire. Le GX10 128 Go est le choix à examiner lorsque les modèles grossissent, que le contexte s’allonge ou que plusieurs composants IA doivent cohabiter. Pensez donc à regarder la taille des modèles que vous désirez utiliser en simultané. L’ET900N G3 répond à une autre catégorie de besoins : mémoire GPU HBM3e, capacité cohérente beaucoup plus importante, administration distante et infrastructure de calcul.

Ces orientations ne sont pas des résultats de benchmark. Nous comparons ici les caractéristiques documentées et leurs implications pratiques. Sans mesure sur votre modèle, nous ne pouvons pas promettre un débit en jetons par seconde ou un nombre précis d’utilisateurs. L’objectif est de sélectionner la bonne catégorie de machine avant de tester une configuration complète.

Une première estimation part des poids du modèle : nombre de paramètres × nombre de bits par poids ÷ 8. Pour un modèle dense de 32 milliards de paramètres, cela représente environ 64 Go en 16 bits, 32 Go en 8 bits ou 16 Go en 4 bits. Ce calcul utilise des gigaoctets décimaux et décrit seulement les poids théoriques, sans les métadonnées de quantification ni les allocations du moteur.

Il faut ensuite ajouter le cache KV, qui conserve des informations liées au contexte de la conversation, les mémoires tampons utilisées pour le calcul, le système et les autres services. Un contexte plus long et plusieurs conversations actives peuvent augmenter fortement cette occupation. Un fichier de modèle de 32 Go ne signifie donc pas qu’une machine de 32 Go suffit pour l’exécuter confortablement.

Le même raisonnement appliqué à 70 milliards de paramètres donne environ 140 Go en 16 bits ou 35 Go en 4 bits pour les poids seuls. Il montre pourquoi la quantification change le dimensionnement, sans garantir qu’un modèle donné fonctionnera bien sur un GX10. Il faut vérifier la prise en charge du format, la qualité obtenue et le temps de réponse : tenir en mémoire est une condition nécessaire, pas un verdict de performance.

Agrandir

Le GX10 64 Go peut convenir à un développeur qui connaît déjà son modèle, accepte une quantification adaptée et veut une machine de travail dédiée. Un petit assistant interne, un prototype de recherche documentaire ou un environnement d’apprentissage peuvent entrer dans cette logique. ASUS vise notamment des modèles de 30 à 35 milliards de paramètres, avec des possibilités dépendant de la précision et du contexte.

Son intérêt est de conserver la plateforme GB10 : CPU Arm à 20 cœurs, GPU Blackwell intégré et bande passante mémoire annoncée de 273 Go/s. Réduire la capacité à 64 Go ne signifie donc pas diviser automatiquement toutes les performances par deux. En revanche, atteindre la limite mémoire peut imposer un modèle plus petit, un contexte réduit ou une autre organisation du service.

La référence GX10-GG0062BN, également identifiée par 90MS0371-M001Y0, associe cette mémoire à un SSD NVMe PCIe 4.0 de 1 To. Choisissez-la pour un besoin cadré, pas en supposant pouvoir ajouter ultérieurement une barrette de RAM : la mémoire unifiée de cette plateforme n’est pas proposée sous la forme de barrettes DIMM à ajouter.

Le GX10 128 Go apporte surtout de la liberté pour expérimenter : comparer des modèles plus lourds, conserver davantage de contexte ou faire fonctionner un modèle de génération avec des services annexes. Pour un assistant documentaire, ces derniers peuvent inclure un modèle de représentation vectorielle (embeddings), un outil de reclassement des résultats (reranker), un index et les traitements qui préparent les documents. Leurs besoins en mémoire et en calcul doivent également être pris en compte.

Ce supplément de capacité peut éviter de changer de machine lorsque le projet évolue. Il ne rend toutefois pas systématiquement les mêmes requêtes plus rapides : les deux GX10 partagent la famille GB10 et la bande passante annoncée. Si le modèle tient déjà largement dans 64 Go et répond assez vite, l’intérêt des 128 Go est essentiellement la marge.

Les trois références recensées sont GX10-GG0003BN en 1 To, GX10-GG0026BN en 2 To et GX10-GG0027BN en 4 To. Les deux premières utilisent un SSD PCIe 4.0 selon les fiches consultées, la troisième du PCIe 5.0. Pour un laboratoire qui conserve plusieurs jeux de données et plusieurs quantifications, 2 ou 4 To peuvent être plus pratiques ; ce choix ne modifie pas les 128 Go de mémoire de calcul.

L’ExpertCenter Pro ET900N G3 combine un CPU NVIDIA Grace à 72 cœurs Arm et un GPU Blackwell Ultra. Son ensemble cohérent de 748 Go réunit 496 Go de LPDDR5X côté CPU et 252 Go de HBM3e côté GPU, reliés par NVLink-C2C. Il ne s’agit donc pas de 748 Go de HBM3e. ASUS annonce respectivement 396 Go/s et 7,1 To/s pour les deux mémoires : leur emplacement et leurs caractéristiques restent importants.

Cette architecture mérite d’être étudiée lorsqu’un projet dépasse la capacité d’un GX10 ou exploite une mémoire GPU très rapide, avec des logiciels capables d’utiliser correctement la plateforme. Elle peut intéresser les équipes de recherche, les développeurs de modèles volumineux ou les responsables d’un service partagé exigeant. Elle n’est pas automatiquement le meilleur choix pour un petit assistant dont la demande reste occasionnelle.

Certaines variantes ajoutent une carte RTX PRO distincte. La variante ET900N G3-8T-07, par exemple, comprend une RTX PRO 6000 Blackwell Max-Q de 96 Go GDDR7 ECC. Cette mémoire ne s’ajoute pas automatiquement au pool GB300 pour former 844 Go uniformes. Il faut identifier la tâche de cette carte : affichage professionnel, autre charge de calcul ou pipeline explicitement conçu pour plusieurs GPU. Acheter cette option sans logiciel qui l’exploite peut alourdir inutilement le devis.

Agrandir

L’inférence consiste à exécuter un modèle existant. Une approche RAG ajoute une recherche documentaire pour alimenter les réponses du modèle : le stockage, l’indexation et la qualité des données deviennent alors aussi importants que le modèle. Un gros corpus n’impose pas nécessairement un très gros modèle de génération ; une bonne sélection des passages peut être plus utile qu’une augmentation brute de capacité.

L’adaptation d’un modèle par LoRA ou QLoRA et l’entraînement complet demandent une estimation séparée. Les activations, gradients et états de l’optimiseur peuvent consommer bien davantage que les seuls poids nécessaires à l’inférence. Un modèle qui répond sur une machine ne peut donc pas forcément y être entraîné avec les mêmes réglages. Demandez une validation de votre méthode d’adaptation, de votre taille de lot et de votre longueur de séquence.

GX10 et ET900N reposent sur Arm. Vérifiez les versions de Python, PyTorch, CUDA, les extensions natives, les moteurs d’inférence et les images de conteneurs réellement utilisés. Un conteneur prévu uniquement pour x86-64 ne devient pas compatible parce que la machine possède un GPU NVIDIA. Le GX10 est annoncé avec NVIDIA DGX OS ; ASUS documente Ubuntu et ses outils NVIDIA pour l’ET900N, mais le système livré doit être confirmé pour chaque SKU.

Vous pouvez conserver un PC portable sous Windows ou un Mac comme poste client et accéder à la station par le réseau. Cela ne supprime pas la vérification des logiciels côté serveur, mais évite de remplacer tout votre environnement de bureau. Pour un service confidentiel, contrôlez aussi les API distantes, les téléchargements et la télémétrie : exécuter le modèle localement ne prouve pas que toute l’application reste hors du cloud.

Agrandir

Sur GX10, l’unique emplacement M.2 demande de dimensionner le SSD dès le départ. Conservez de la place pour les modèles, les caches, les environnements et les données temporaires. Une sauvegarde externe reste nécessaire. Sur ET900N, les configurations recensées offrent 4, 6 ou 8 To bruts répartis sur deux à quatre SSD de 2 To. Le RAID et le formatage modifient la capacité utile ; un miroir protège d’une panne de disque, pas d’une suppression accidentelle.

Les GX10 disposent de 10 GbE, du Wi-Fi 7 et de ConnectX-7. Relier deux machines pour une charge distribuée nécessite un moteur compatible et une organisation adaptée : deux GX10 de 64 Go ne se comportent pas comme un seul GX10 de 128 Go pour toute application. Les échanges réseau et le découpage du modèle peuvent modifier les performances.

L’ET900N ajoute deux ports ConnectX-8 jusqu’à 400 Gb/s chacun et une administration BMC avec port Ethernet dédié. Ces liens demandent les bons modules, câbles et équipements réseau ; certains SKU comprennent des modules QSFP, d’autres ne les mentionnent pas. Son poids annoncé d’environ 27 kg et son alimentation de 1 600 W imposent aussi de prévoir l’emplacement et le refroidissement de la pièce. Les 240 W du bloc GX10 comme les 1 600 W de la tour sont des puissances nominales, pas des mesures de consommation ou de bruit.

Agrandir

Préparez un jeu de requêtes représentatif, avec le modèle exact, sa quantification, le contexte maximal attendu et le nombre de conversations simultanées. Mesurez séparément le chargement du modèle, le délai avant le premier jeton et le débit de génération. Répétez avec de longs documents et une charge prolongée : un bon résultat sur une question courte ne décrit pas tout le service.

Comparez ensuite la qualité des réponses et la mémoire restante. Si le GX10 64 Go satisfait le scénario avec une marge pour le contexte et les services annexes, il constitue un point de départ raisonnable dans cette gamme. Si la limite est la capacité, le 128 Go devient pertinent. Si la limite est le débit, ne supposez pas que doubler la RAM la résoudra : testez une autre configuration ou un autre moteur.

Pour l’ET900N, exigez un devis qui précise le SKU, la carte RTX éventuelle, le système, les licences, les modules réseau, le stockage utile et l’accompagnement. Ajoutez au coût du matériel les dépenses d’électricité estimées à partir de la consommation mesurée, le temps d’administration et les sauvegardes. L’offre commerciale consultée prévoit une vente sur projet soumise à l’acceptation de NVIDIA ; les conditions et délais doivent être confirmés avant de planifier le déploiement.

ASUS Ascent GX10 64 Go : à qui s’adresse cette nouvelle configuration ?

ASUS Ascent GX10 128 Go : une machine compacte pour développer son IA en local

ASUS ExpertCenter Pro ET900N G3 : une station GB300 pour les projets IA de grande ampleur

IA locale : ASUS élargit son offre, du GX10 64 Go aux stations GB300