GX10 o ET900N G3: ¿cómo elegir tu equipo ASUS para IA local?

Para aprender, desarrollar un asistente personal o probar un servicio bien definido, recomendamos empezar por el GX10 de 64 GB si el software y el modelo caben holgadamente en memoria. El GX10 de 128 GB merece consideración cuando los modelos crecen, el contexto se alarga o varios componentes de IA deben coexistir. Conviene revisar el tamaño de los modelos que quieres usar simultáneamente. El ET900N G3 responde a otra categoría de necesidades: memoria GPU HBM3e, una capacidad coherente mucho mayor, gestión remota e infraestructura de cálculo.

Estas orientaciones no son resultados de pruebas de rendimiento. Aquí comparamos las características documentadas y sus implicaciones prácticas. Sin mediciones con tu modelo, no podemos prometer una tasa de tokens por segundo ni un número concreto de usuarios. El objetivo es seleccionar la categoría de máquina adecuada antes de probar una configuración completa.

Una primera estimación parte de los pesos del modelo: número de parámetros × bits por peso ÷ 8. Para un modelo denso de 32 mil millones de parámetros, esto equivale a unos 64 GB a 16 bits, 32 GB a 8 bits o 16 GB a 4 bits. El cálculo utiliza gigabytes decimales y describe solo los pesos teóricos, sin los metadatos de cuantización ni las asignaciones del motor de ejecución.

Después hay que añadir la caché KV, que conserva información relacionada con el contexto de la conversación, los búferes utilizados para el cálculo, el sistema operativo y los demás servicios. Un contexto más largo y varias conversaciones activas pueden aumentar mucho el uso de memoria. Un archivo de modelo de 32 GB no significa, por tanto, que una máquina de 32 GB baste para ejecutarlo con holgura.

El mismo cálculo aplicado a 70 mil millones de parámetros da unos 140 GB a 16 bits o 35 GB a 4 bits solo para los pesos. Esto muestra por qué la cuantización cambia el dimensionamiento, sin garantizar que un modelo concreto funcione bien en un GX10. Hay que comprobar la compatibilidad del formato, la calidad obtenida y el tiempo de respuesta: caber en memoria es una condición necesaria, no un veredicto sobre el rendimiento.

Ampliar

El GX10 de 64 GB puede encajar con un desarrollador que ya conoce su modelo, acepta una cuantización adecuada y quiere una máquina de trabajo dedicada. Un pequeño asistente interno, un prototipo de búsqueda documental o un entorno de aprendizaje pueden ajustarse a este planteamiento. ASUS apunta en particular a modelos de entre 30 y 35 mil millones de parámetros, con posibilidades que dependen de la precisión y del contexto.

Su interés reside en conservar la plataforma GB10: CPU Arm de 20 núcleos, GPU Blackwell integrada y un ancho de banda de memoria anunciado de 273 GB/s. Reducir la capacidad a 64 GB no significa, por tanto, dividir automáticamente todo el rendimiento por dos. Sin embargo, alcanzar el límite de memoria puede exigir un modelo más pequeño, un contexto reducido u otra organización del servicio.

El modelo GX10-GG0062BN, también identificado como 90MS0371-M001Y0, combina esta memoria con un SSD NVMe PCIe 4.0 de 1 TB. Elígelo para una necesidad bien definida, sin dar por hecho que podrás añadir un módulo de RAM más adelante: la memoria unificada de esta plataforma no se ofrece en forma de módulos DIMM ampliables.

El GX10 de 128 GB aporta sobre todo libertad para experimentar: comparar modelos más pesados, conservar más contexto o ejecutar un modelo generativo junto a servicios auxiliares. Para un asistente documental, estos pueden incluir un modelo de representación vectorial (embeddings), una herramienta de reordenación de resultados (reranker), un índice y los procesos que preparan los documentos. También hay que tener en cuenta sus necesidades de memoria y cálculo.

Esta capacidad adicional puede evitar cambiar de máquina cuando el proyecto evoluciona. Sin embargo, no hace que las mismas solicitudes sean sistemáticamente más rápidas: los dos GX10 comparten la familia GB10 y el ancho de banda anunciado. Si el modelo ya cabe holgadamente en 64 GB y responde lo bastante rápido, el interés de los 128 GB reside principalmente en el margen.

Los tres modelos identificados son GX10-GG0003BN de 1 TB, GX10-GG0026BN de 2 TB y GX10-GG0027BN de 4 TB. Según las fichas consultadas, los dos primeros utilizan un SSD PCIe 4.0 y el tercero PCIe 5.0. Para un laboratorio que conserva varios conjuntos de datos y varias versiones cuantizadas, 2 o 4 TB pueden resultar más prácticos; esta elección no modifica los 128 GB de memoria de cálculo.

El ExpertCenter Pro ET900N G3 combina una CPU NVIDIA Grace de 72 núcleos Arm con una GPU Blackwell Ultra. Su conjunto de memoria coherente de 748 GB reúne 496 GB de LPDDR5X del lado de la CPU y 252 GB de HBM3e del lado de la GPU, conectados mediante NVLink-C2C. No se trata, por tanto, de 748 GB de HBM3e. ASUS anuncia 396 GB/s y 7,1 TB/s, respectivamente, para los dos tipos de memoria: su ubicación y sus características siguen siendo importantes.

Esta arquitectura merece estudiarse cuando un proyecto supera la capacidad de un GX10 o aprovecha una memoria GPU muy rápida, con software capaz de utilizar correctamente la plataforma. Puede interesar a equipos de investigación, desarrolladores de modelos grandes o responsables de un servicio compartido exigente. No es automáticamente la mejor elección para un pequeño asistente cuya demanda es ocasional.

Algunas variantes añaden una tarjeta RTX PRO independiente. La variante ET900N G3-8T-07, por ejemplo, incluye una RTX PRO 6000 Blackwell Max-Q de 96 GB GDDR7 ECC. Esta memoria no se suma automáticamente al conjunto de GB300 para formar 844 GB uniformes. Hay que identificar la tarea de la tarjeta: visualización profesional, otra carga de cálculo o un flujo de procesamiento diseñado expresamente para varias GPU. Comprar esta opción sin software que la aproveche puede encarecer innecesariamente el presupuesto.

Ampliar

La inferencia consiste en ejecutar un modelo existente. Un enfoque RAG añade una búsqueda documental para aportar información a las respuestas del modelo: el almacenamiento, la indexación y la calidad de los datos pasan a ser tan importantes como el modelo. Un corpus grande no exige necesariamente un modelo generativo muy grande; una buena selección de pasajes puede ser más útil que un simple aumento de capacidad.

La adaptación de un modelo mediante LoRA o QLoRA y el entrenamiento completo requieren estimaciones separadas. Las activaciones, los gradientes y los estados del optimizador pueden consumir mucha más memoria que los pesos necesarios para la inferencia. Un modelo que responde en una máquina no puede necesariamente entrenarse en ella con los mismos ajustes. Solicita una validación del método de adaptación, del tamaño del lote y de la longitud de la secuencia.

GX10 y ET900N se basan en Arm. Comprueba las versiones de Python, PyTorch y CUDA, las extensiones nativas, los motores de inferencia y las imágenes de contenedores que realmente utilizas. Un contenedor previsto solo para x86-64 no se vuelve compatible porque la máquina tenga una GPU NVIDIA. El GX10 se anuncia con NVIDIA DGX OS; ASUS documenta Ubuntu y sus herramientas NVIDIA para el ET900N, pero hay que confirmar el sistema operativo suministrado para cada SKU.

Puedes conservar un portátil Windows o un Mac como equipo cliente y acceder a la estación por la red. Esto no elimina la comprobación del software del servidor, pero evita sustituir todo tu entorno de escritorio. Para un servicio que maneje información confidencial, comprueba también las API remotas, las descargas y la telemetría: ejecutar el modelo localmente no demuestra que toda la aplicación permanezca fuera de la nube.

Ampliar

En el GX10, la única ranura M.2 exige dimensionar el SSD desde el principio. Reserva espacio para modelos, cachés, entornos y datos temporales. Sigue siendo necesaria una copia de seguridad externa. En el ET900N, las configuraciones identificadas ofrecen 4, 6 u 8 TB brutos repartidos entre dos y cuatro SSD de 2 TB. El RAID y el formateo modifican la capacidad útil; un espejo protege frente al fallo de una unidad, no frente a un borrado accidental.

Los GX10 disponen de 10 GbE, Wi-Fi 7 y ConnectX-7. Conectar dos máquinas para una carga distribuida requiere un motor compatible y una organización adecuada: dos GX10 de 64 GB no se comportan como un único GX10 de 128 GB en todas las aplicaciones. Los intercambios de red y la partición del modelo pueden modificar el rendimiento.

El ET900N añade dos puertos ConnectX-8 de hasta 400 Gb/s cada uno y gestión BMC con un puerto Ethernet dedicado. Estos enlaces necesitan los módulos, cables y equipos de red adecuados; algunos SKU incluyen módulos QSFP y otros no los mencionan. Su peso anunciado de unos 27 kg y su fuente de alimentación de 1.600 W también obligan a prever la ubicación y la refrigeración de la sala. Tanto los 240 W del adaptador del GX10 como los 1.600 W de la torre son potencias nominales, no mediciones de consumo ni de ruido.

Ampliar

Prepara un conjunto representativo de solicitudes con el modelo exacto, su cuantización, el contexto máximo previsto y el número de conversaciones simultáneas. Mide por separado la carga del modelo, el tiempo hasta el primer token y la velocidad de generación. Repite con documentos largos y una carga prolongada: un buen resultado con una pregunta corta no describe todo el servicio.

Compara después la calidad de las respuestas y la memoria restante. Si el GX10 de 64 GB satisface el escenario con margen para el contexto y los servicios auxiliares, constituye un punto de partida razonable en esta gama. Si el límite es la capacidad, el de 128 GB cobra sentido. Si el límite es la velocidad de procesamiento, no des por hecho que duplicar la RAM lo resolverá: prueba otra configuración u otro motor.

Para el ET900N, exige un presupuesto que detalle el SKU, la posible tarjeta RTX, el sistema operativo, las licencias, los módulos de red, el almacenamiento útil y el soporte. Añade al coste del hardware los gastos eléctricos estimados a partir del consumo medido, el tiempo de administración y las copias de seguridad. La oferta comercial consultada contempla una venta por proyecto sujeta a la aprobación de NVIDIA; las condiciones y los plazos deben confirmarse antes de planificar la puesta en marcha.

ASUS Ascent GX10 de 64 GB: ¿a quién va dirigida esta nueva configuración?

ASUS Ascent GX10 de 128 GB: un equipo compacto para desarrollar IA local

ASUS ExpertCenter Pro ET900N G3: una estación GB300 para proyectos de IA a gran escala

IA local: ASUS amplía su oferta, del GX10 de 64 GB a las estaciones GB300