NVIDIA: Un Paso Adelante en la Eficiencia Energética de IA
El despliegue masivo de los agentes de inteligencia artificial enfrenta el gran obstáculo de su enorme consumo de energía y recursos. NVIDIA, en su esfuerzo por solucionar este problema, ha presentado datos de rendimiento de sus nuevos sistemas NVIDIA Vera Rubin NVL72. Las mediciones de la compañía indican que esta infraestructura de última generación ofrece un rendimiento por vatio hasta 30 veces superior en comparación con la generación GB300 NVL72 al ejecutar tareas complejas.
Además, el nuevo sistema reduce el coste de procesamiento de los tokens hasta en 35 veces, lo cual es un avance fundamental para la sostenibilidad de los centros de datos. La importancia de esta innovación radica en que, a diferencia de los chats tradicionales, los agentes de IA realizan procesos continuos con múltiples sub-agentes, lo que incrementa la demanda de procesamiento. Al optimizar la relación entre potencia y consumo, esta tecnología permite a las empresas ejecutar asistentes autónomos a gran escala de manera viable, estableciendo una referencia clara en la industria de la computación.
La plataforma de hardware de NVIDIA Vera Rubin NVL72 está diseñada para las exigencias de inteligencia artificial de agentes. A diferencia de las peticiones cortas de un chatbot convencional, los agentes de IA operan de manera autónoma, descomponiendo objetivos complejos en varias tareas sucesivas. Por ejemplo, un asistente que analiza mercados consulta bases de datos financieras, lee noticias sectoriales, genera sub-agentes de valoración y redacta un informe final. Cada paso consecutivo acumula un volumen inmenso de contexto en memoria.
Según los datos de OpenRouter, estas cargas de trabajo autónomas consumen de media hasta 15 veces más tokens que una sesión de chat estándar. Mientras que un diálogo cotidiano emplea entre 1.000 y 8.000 tokens, los procesos de agentes independientes superan con facilidad los cientos de miles de tokens a medida que el contexto crece. Esto exige un hardware capaz de gestionar contextos masivos sin sufrir pérdidas de rendimiento.
Para mitigar estas ineficiencias de tráfico y computación, el silicio de NVIDIA propone un enfoque de diseño integrado, separando el procesamiento de contexto de la generación de respuestas. Esto, junto a una sincronización de velocidades entre chips, garantiza que ninguna unidad quede inactiva. El verdadero beneficio de este aumento de eficiencia se observa en la viabilidad de los centros de datos, donde realizar 30 veces más trabajo por megavatio es una ventaja competitiva.
La compañía ha verificado estas métricas utilizando el banco de pruebas AgentX de SemiAnalysis. Esta herramienta recrea secuencias de desarrollo de software, reproduciendo la acumulación de contexto y llamadas de herramientas. La optimización unificada de hardware ofrece tres ventajas clave para los operadores: eficiencia energética, capacidad de facturación y rentabilidad económica.
El sistema se organiza sobre una arquitectura integrada de siete chips que incluye el procesador Vera CPU, las unidades de procesamiento de lenguaje ultrarrápido Groq 3 LPU y los procesadores de red BlueField-4. Estos han sido diseñados conjuntamente para agilizar la transferencia de información. En el procesamiento de datos, se integran núcleos Tensor Cores de quinta generación y la tercera versión de Transformer Engine. Asimismo, las técnicas de cuantización NVFP4 comprimen modelos a precisión de cuatro bits, reduciendo la memoria ocupada sin sacrificar calidad.
La interconexión NVLink de sexta generación multiplica por 10 la velocidad de transmisión de paquetes y reduce la latencia a un tercio respecto a las conexiones Ethernet convencionales. Además, NVIDIA unifica núcleos de ejecución optimizados con herramientas como TensorRT LLM y Dynamo, lo que permite implementar estrategias avanzadas como el enrutamiento consciente de la memoria caché y el paralelismo de expertos a gran escala.
Estos avances reflejan el rumbo claro para la industria tecnológica, donde la adopción definitiva de los agentes autónomos de IA dependerá de la capacidad del hardware para sostenerlos de forma rentable. Aunque estos indicadores preliminares están sujetos a la revisión final por parte de SemiAnalysis y no incluyen aún la evaluación del procesador Vera CPU para la ejecución de herramientas, establecen un camino claro.
La significativa reducción en el coste operativo del procesamiento de tokens hará viable que las empresas amplíen sus departamentos de asistentes digitales más allá de programas de prueba, integrándolos en sus procesos diarios. El éxito futuro de la inteligencia artificial requiere que su extensión global no comprometa la sostenibilidad del planeta.