ASUS lanza GPU UGen Intel Arc Pro B70 con 32 GB de memoria

ASUS ha presentado la UGen Intel Arc Pro B70, una tarjeta gráfica diseñada para ejecutar modelos de inteligencia artificial (IA) directamente en computadoras y estaciones de trabajo. Con 32 GB de memoria GDDR6 y un consumo de 310 W, esta GPU está enfocada en tareas de inferencia que requieren grandes cantidades de memoria de video.

Características y rendimiento de la ASUS UGen Intel Arc Pro B70

Los 32 GB de VRAM permiten que los modelos y sus datos de inferencia se mantengan en la memoria de la tarjeta, lo que minimiza la necesidad de transferir información hacia la RAM del computador. Según ASUS, cuando se agota la memoria de video y se recurre a la memoria principal, el rendimiento de inferencia puede disminuir hasta un 90%.

Esto es especialmente relevante para modelos que utilizan ventanas de contexto amplias, ya que requieren espacio adicional para almacenar información durante la generación de respuestas. La tarjeta es capaz de manejar la mayoría de los modelos con menos de 27 mil millones de parámetros. Por ejemplo, con Llama 3.1 8B, la UGen puede trabajar con ventanas de contexto de hasta 128 mil tokens.

Además, la UGen B70 permite configuraciones con múltiples unidades, lo que significa que se pueden instalar dos tarjetas para sumar 64 GB de VRAM o hasta cuatro para alcanzar 128 GB, repartiendo así el modelo entre las tarjetas. En las pruebas realizadas por ASUS, una configuración de dos tarjetas logró 43,4 tokens por segundo con modelos de la clase 80B, aunque no se especificaron las condiciones de esa medición.

Compatibilidad y modelos de IA

La UGen Intel Arc Pro B70 ofrece soporte para Intel LLM Scaler, vLLM XPU, Ollama, OpenVINO, oneAPI y PyTorch XPU, así como llama.cpp mediante SYCL y Vulkan. También es compatible con ComfyUI, una herramienta para generar imágenes mediante IA.

Entre los modelos verificados por ASUS se incluyen:

• Llama 3.1 (8B y 70B) y Llama 3.2 Qwen
• Familia 3.x DeepSeek-R1 Distill (versiones de 7B a 70B)
• Mistral y Mixtral
• OpenAI gpt-oss (versiones de 20B y 120B)
• Whisper-large-v3
• InternVL3.5

Aunque ASUS ha listado estos modelos como verificados, no ha especificado cuántas tarjetas se requieren para cada versión ni el rendimiento de todas las configuraciones individuales.

Fuente: Pisapapeles