Nvidia anuncia NVIDIA GH200 Grace Hopper, una plataforma diseñado para la era de la computación acelerada y la inteligencia artificial generativa. Creada para manejar las cargas de trabajo de las IA generativas más complejas del mundo, que abarca grandes modelos de lenguaje, sistemas de recomendación y bases de datos vectoriales, la nueva plataforma estará disponible en una amplia gama de configuraciones, explica la compañía en un comunicado en el que añade que la configuración dual, que ofrece hasta 3,5 veces más capacidad de memoria y 3 veces más ancho de banda que la oferta de la generación actual, comprende un único servidor con 144 núcleos Arm Neoverse, ocho petaflops de rendimiento de IA y 282 GB de la última tecnología de memoria HBM3e.
Explica Jensen Huang, fundador y director ejecutivo de NVIDIA, que para satisfacer la creciente demanda de IA generativa, los centros de datos requieren plataformas informáticas aceleradas con necesidades especializadas y que “la nueva plataforma GH200 Grace Hopper Superchip ofrece tecnología de memoria y ancho de banda excepcionales para mejorar el rendimiento, la capacidad de conectar GPU para agregar rendimiento sin compromiso y un diseño de servidor que se puede implementar fácilmente en todo el centro de datos”.
La nueva plataforma utiliza el Superchip Grace Hopper, que se puede conectar con Superchips adicionales de NVIDIA NVLink. La memoria HBM3e, que es un 50 % más rápida que la HBM3 actual, ofrece un total de 10 TB/seg de ancho de banda combinado, lo que permite que la nueva plataforma ejecute modelos 3,5 veces más grandes que la versión anterior, mientras mejora el rendimiento con un ancho de banda de memoria 3 veces más rápido.
