La empresa NVIDIA, reconocida mundialmente por sus innovadoras tarjetas gráficas, ha dado un paso gigantesco en el ámbito de la inteligencia artificial (IA) al anunciar la GPU más potente del mundo: la NVIDIA H200. Este lanzamiento posiciona a NVIDIA en la cima del mercado de hardware para IA, manteniendo su liderazgo indiscutible.
NVIDIA H200: un salto cualitativo en computación de alto rendimiento
La NVIDIA H200, una maravilla de la ingeniería en arquitectura Hopper, ofrece 141 GB de VRAM HBM3E, siendo la primera en alcanzar tal capacidad. Su ancho de banda llega hasta 4,8TB/s, superando ampliamente a su predecesora, la H100. Esta evolución tecnológica implica un avance significativo en rendimiento, con la promesa de alcanzar 3,958 teraFLOPS en FP8, lo que se traduce en una capacidad de procesamiento doble en tareas de inferencia de modelos de lenguaje.
Las pruebas realizadas con la H200 muestran resultados impresionantes: tareas de inferencia en modelos como Llama 2 70B y GPT-3 175B se ejecutan hasta 1,9 y 1,6 veces más rápido respectivamente. Esto no solo representa un avance en velocidad, sino también en eficiencia, abriendo un abanico de posibilidades en tareas exigentes más allá de la IA, como simulaciones complejas.
NVIDIA HGX H200: más que una GPU
NVIDIA no solo ofrece la H200 como una unidad individual, sino también como parte del sistema HGX H200. Este sistema integra la GPU con interconexiones de alta velocidad NVLink y NVIDIA InfiniBand, destinado a centros de datos. Las configuraciones de cuatro y ocho vías del HGX H200 prometen un rendimiento excepcional, con más de 32 petaFLOPS en FP8 y hasta 1,1 TB de memoria, marcando un hito en la computación de alto rendimiento.
Grandes empresas como Amazon Web Services, Google Cloud, Microsoft Azure y Oracle Cloud Infrastructure ya han mostrado interés en incorporar el HGX H200 en su infraestructura. Aunque su distribución comenzará el próximo año, la expectativa en torno a la GPU más potente del mundo es alta, anticipando un futuro donde los modelos de IA serán más eficientes y potentes gracias a la innovación de NVIDIA.
