GX10 oder ET900N G3: Den passenden ASUS-Rechner für lokale KI wählen

Zum Lernen, zum Entwickeln eines persönlichen Assistenten oder zum Testen eines klar definierten Dienstes empfehlen wir den GX10 mit 64 GB als Einstieg, sofern Software und Modell bequem in den Speicher passen. Der GX10 mit 128 GB ist eine Überlegung wert, wenn Modelle wachsen, der Kontext länger wird oder mehrere KI-Komponenten parallel laufen sollen. Prüfen Sie daher die Größe der Modelle, die Sie gleichzeitig nutzen möchten. Der ET900N G3 deckt eine andere Bedarfskategorie ab: HBM3e-GPU-Speicher, eine deutlich größere kohärente Speicherkapazität, Fernverwaltung und Recheninfrastruktur.

Diese Einschätzungen sind keine Benchmark-Ergebnisse. Wir vergleichen hier dokumentierte Spezifikationen und ihre praktischen Auswirkungen. Ohne Messungen mit Ihrem Modell können wir weder einen Durchsatz in Token pro Sekunde noch eine bestimmte Nutzerzahl versprechen. Ziel ist es, vor dem Test einer vollständigen Konfiguration die richtige Gerätekategorie auszuwählen.

Eine erste Schätzung beginnt bei den Modellgewichten: Anzahl der Parameter × Bit pro Gewicht ÷ 8. Bei einem dichten Modell mit 32 Milliarden Parametern entspricht das etwa 64 GB bei 16 Bit, 32 GB bei 8 Bit oder 16 GB bei 4 Bit. Diese Rechnung verwendet dezimale Gigabyte und beschreibt nur die theoretischen Gewichte, ohne Quantisierungsmetadaten oder Speicherbelegungen der Laufzeitumgebung.

Hinzu kommen der KV-Cache, der Informationen zum Gesprächskontext speichert, die für Berechnungen verwendeten Puffer, das Betriebssystem und weitere Dienste. Ein längerer Kontext und mehrere aktive Gespräche können den Speicherbedarf stark erhöhen. Eine 32 GB große Modelldatei bedeutet daher nicht, dass eine Maschine mit 32 GB für einen reibungslosen Betrieb ausreicht.

Dieselbe Rechnung ergibt bei 70 Milliarden Parametern allein für die Gewichte etwa 140 GB bei 16 Bit oder 35 GB bei 4 Bit. Das zeigt, warum Quantisierung die Dimensionierung verändert, ohne zu garantieren, dass ein bestimmtes Modell auf einem GX10 gut läuft. Formatunterstützung, Ergebnisqualität und Antwortzeit müssen geprüft werden: In den Speicher zu passen ist eine notwendige Voraussetzung, aber noch kein Leistungsurteil.

Vergrößern

Der GX10 mit 64 GB kann für Entwickler passen, die ihr Modell bereits kennen, eine geeignete Quantisierung akzeptieren und eine dedizierte Arbeitsmaschine suchen. Ein kleiner interner Assistent, ein Prototyp für die Dokumentensuche oder eine Lernumgebung können in dieses Konzept passen. ASUS zielt insbesondere auf Modelle mit 30 bis 35 Milliarden Parametern ab; die Möglichkeiten hängen von Präzision und Kontext ab.

Der Vorteil liegt darin, dass die GB10-Plattform erhalten bleibt: Arm-CPU mit 20 Kernen, integrierte Blackwell-GPU und eine angegebene Speicherbandbreite von 273 GB/s. Die Reduzierung der Kapazität auf 64 GB halbiert daher nicht automatisch die gesamte Leistung. Wird die Speichergrenze erreicht, können allerdings ein kleineres Modell, ein kürzerer Kontext oder ein anderer Aufbau des Dienstes nötig werden.

Das Modell GX10-GG0062BN, auch unter 90MS0371-M001Y0 geführt, kombiniert diesen Speicher mit einer 1-TB-NVMe-SSD über PCIe 4.0. Wählen Sie es für einen klar definierten Bedarf und nicht in der Annahme, später einen RAM-Riegel ergänzen zu können: Der gemeinsame Speicher dieser Plattform wird nicht in Form nachrüstbarer DIMMs angeboten.

Der GX10 mit 128 GB bietet vor allem mehr Freiheit zum Experimentieren: größere Modelle vergleichen, mehr Kontext vorhalten oder ein generatives Modell zusammen mit ergänzenden Diensten betreiben. Bei einem Dokumentenassistenten können dazu ein Modell zur Vektorrepräsentation (Embeddings), ein Werkzeug zur Neusortierung von Ergebnissen (Reranker), ein Index und Prozesse zur Dokumentenaufbereitung gehören. Auch deren Speicher- und Rechenbedarf muss berücksichtigt werden.

Diese zusätzliche Kapazität kann einen Gerätewechsel vermeiden, wenn sich das Projekt weiterentwickelt. Sie beschleunigt jedoch nicht automatisch dieselben Anfragen: Beide GX10-Modelle gehören zur GB10-Familie und haben dieselbe angegebene Bandbreite. Passt das Modell bereits bequem in 64 GB und antwortet schnell genug, liegt der Vorteil von 128 GB vor allem in den Reserven.

Die drei erfassten Modelle sind GX10-GG0003BN mit 1 TB, GX10-GG0026BN mit 2 TB und GX10-GG0027BN mit 4 TB. Den eingesehenen Datenblättern zufolge nutzen die ersten beiden eine PCIe-4.0-SSD, das dritte PCIe 5.0. Für ein Labor, das mehrere Datensätze und Quantisierungsvarianten vorhält, können 2 oder 4 TB praktischer sein; die 128 GB Arbeitsspeicher für Berechnungen bleiben davon unberührt.

Der ExpertCenter Pro ET900N G3 kombiniert eine NVIDIA-Grace-CPU mit 72 Arm-Kernen und eine Blackwell-Ultra-GPU. Sein kohärenter Speicherpool mit 748 GB besteht aus 496 GB LPDDR5X auf CPU-Seite und 252 GB HBM3e auf GPU-Seite, verbunden über NVLink-C2C. Es handelt sich also nicht um 748 GB HBM3e. ASUS nennt für die beiden Speichertypen 396 GB/s beziehungsweise 7,1 TB/s: Speicherort und Eigenschaften bleiben relevant.

Diese Architektur ist eine nähere Betrachtung wert, wenn ein Projekt die Kapazität eines GX10 übersteigt oder sehr schnellen GPU-Speicher nutzt und die Software die Plattform richtig ausschöpfen kann. Sie kann für Forschungsteams, Entwickler großer Modelle oder Betreiber eines anspruchsvollen gemeinsam genutzten Dienstes interessant sein. Für einen kleinen, nur gelegentlich genutzten Assistenten ist sie nicht automatisch die beste Wahl.

Einige Varianten ergänzen eine separate RTX-PRO-Karte. Die Variante ET900N G3-8T-07 enthält beispielsweise eine RTX PRO 6000 Blackwell Max-Q mit 96 GB GDDR7-ECC-Speicher. Dieser Speicher erweitert den GB300-Pool nicht automatisch auf einheitlich nutzbare 844 GB. Die Aufgabe der Karte muss klar sein: professionelle Bildausgabe, eine andere Rechenlast oder eine ausdrücklich für mehrere GPUs ausgelegte Pipeline. Ohne Software, die diese Option nutzt, kann sie das Angebot unnötig verteuern.

Vergrößern

Inferenz bedeutet, ein vorhandenes Modell auszuführen. Ein RAG-Ansatz ergänzt die Dokumentensuche, um die Antworten des Modells mit Informationen zu versorgen: Speicherung, Indexierung und Datenqualität werden dann ebenso wichtig wie das Modell. Ein großer Dokumentenbestand erfordert nicht zwangsläufig ein sehr großes generatives Modell; eine gute Auswahl relevanter Textstellen kann nützlicher sein als eine bloße Kapazitätserhöhung.

Die Anpassung eines Modells mit LoRA oder QLoRA und ein vollständiges Training erfordern jeweils eine eigene Schätzung. Aktivierungen, Gradienten und Optimiererzustände können deutlich mehr Speicher benötigen als die für die Inferenz nötigen Gewichte allein. Ein Modell, das auf einer Maschine Antworten liefert, lässt sich dort daher nicht unbedingt mit denselben Einstellungen trainieren. Lassen Sie Anpassungsmethode, Batchgröße und Sequenzlänge validieren.

GX10 und ET900N basieren auf Arm. Prüfen Sie die tatsächlich verwendeten Versionen von Python, PyTorch und CUDA sowie native Erweiterungen, Inferenz-Engines und Container-Images. Ein ausschließlich für x86-64 vorgesehenes Container-Image wird nicht dadurch kompatibel, dass die Maschine eine NVIDIA-GPU besitzt. Der GX10 wird mit NVIDIA DGX OS angekündigt; ASUS dokumentiert Ubuntu und die zugehörigen NVIDIA-Werkzeuge für den ET900N. Das ausgelieferte Betriebssystem muss jedoch für jede SKU bestätigt werden.

Sie können weiterhin ein Windows-Notebook oder einen Mac als Client verwenden und über das Netzwerk auf die Workstation zugreifen. Die Prüfung der Software auf Serverseite entfällt dadurch nicht, aber Sie müssen nicht Ihre gesamte Desktop-Umgebung ersetzen. Prüfen Sie bei einem Dienst für vertrauliche Informationen auch externe APIs, Downloads und Telemetrie: Ein lokal ausgeführtes Modell beweist nicht, dass die gesamte Anwendung ohne Cloud arbeitet.

Vergrößern

Beim GX10 muss die SSD wegen des einzigen M.2-Steckplatzes von Anfang an passend dimensioniert werden. Halten Sie Platz für Modelle, Caches, Umgebungen und temporäre Daten frei. Eine externe Datensicherung bleibt notwendig. Beim ET900N bieten die erfassten Konfigurationen 4, 6 oder 8 TB Rohkapazität, verteilt auf zwei bis vier SSDs mit jeweils 2 TB. RAID und Formatierung verändern die nutzbare Kapazität; eine Spiegelung schützt vor einem Laufwerksausfall, nicht vor versehentlichem Löschen.

Die GX10-Modelle verfügen über 10 GbE, Wi-Fi 7 und ConnectX-7. Zwei Maschinen für eine verteilte Rechenlast zu verbinden, erfordert eine kompatible Engine und einen passenden Aufbau: Zwei GX10 mit jeweils 64 GB verhalten sich nicht in jeder Anwendung wie ein einzelner GX10 mit 128 GB. Netzwerkkommunikation und die Aufteilung des Modells können die Leistung beeinflussen.

Der ET900N ergänzt zwei ConnectX-8-Ports mit jeweils bis zu 400 Gbit/s sowie BMC-Verwaltung über einen dedizierten Ethernet-Port. Diese Verbindungen benötigen passende Module, Kabel und Netzwerkgeräte; einige SKUs enthalten QSFP-Module, bei anderen werden sie nicht erwähnt. Das angegebene Gewicht von rund 27 kg und das 1.600-W-Netzteil erfordern zudem eine Planung von Aufstellort und Raumkühlung. Sowohl die 240 W des GX10-Netzteils als auch die 1.600 W des Towers sind Nennleistungen und keine Messwerte für Verbrauch oder Geräuschpegel.

Vergrößern

Bereiten Sie repräsentative Anfragen mit dem exakten Modell, seiner Quantisierung, dem maximal erwarteten Kontext und der Zahl gleichzeitiger Gespräche vor. Messen Sie das Laden des Modells, die Zeit bis zum ersten Token und den Generierungsdurchsatz getrennt. Wiederholen Sie den Test mit langen Dokumenten und unter anhaltender Last: Ein gutes Ergebnis bei einer kurzen Frage beschreibt nicht den gesamten Dienst.

Vergleichen Sie anschließend die Antwortqualität und den verbleibenden Speicher. Erfüllt der GX10 mit 64 GB das Szenario mit Reserven für Kontext und zusätzliche Dienste, ist er ein sinnvoller Einstieg in diese Produktpalette. Ist die Kapazität der Engpass, wird das 128-GB-Modell interessant. Begrenzt dagegen der Durchsatz den Einsatz, sollten Sie nicht davon ausgehen, dass doppelt so viel RAM das Problem löst: Testen Sie eine andere Konfiguration oder Engine.

Verlangen Sie für den ET900N ein Angebot mit Angaben zu SKU, einer gegebenenfalls enthaltenen RTX-Karte, Betriebssystem, Lizenzen, Netzwerkmodulen, nutzbarem Speicherplatz und Support. Rechnen Sie zu den Hardwarekosten die auf Basis gemessener Leistungsaufnahme geschätzten Stromkosten, den Verwaltungsaufwand und Datensicherungen hinzu. Das eingesehene kommerzielle Angebot sieht einen projektbezogenen Verkauf unter Vorbehalt der Zustimmung von NVIDIA vor; Bedingungen und Lieferzeiten müssen vor der Einsatzplanung bestätigt werden.

ASUS Ascent GX10 64 GB: Für wen ist die neue Konfiguration gedacht?

ASUS Ascent GX10 128 GB: kompakter Rechner für lokale KI-Entwicklung

ASUS ExpertCenter Pro ET900N G3: GB300-Workstation für große KI-Projekte

Lokale KI: ASUS erweitert sein Angebot vom GX10 mit 64 GB bis zu GB300-Workstations