COMPUTING

Nvidia presenta la CPU de aprendizaje profundo ‘Grace’ para aplicaciones de supercomputación

Nvidia cree que es hora de que las CPU tradicionales se hagan a un lado cuando se trata de abordar las tareas de aprendizaje automático más grandes, especialmente el entrenamiento de modelos enormes que ahora tienen más de un billón de parámetros. Las supercomputadoras convencionales utilizan procesadores especializados, a menudo GPU, para realizar gran parte de las operaciones matemáticas intensivas durante el entrenamiento, pero las GPU normalmente no pueden alojar casi la cantidad de memoria necesaria, y mucho menos compartirla rápidamente en configuraciones de varias GPU. Por lo tanto, la máquina a menudo sufre un cuello de botella debido a la velocidad con la que se obtienen datos de la memoria de la CPU a la GPU y viceversa.

Con la nueva CPU de aprendizaje profundo Grace de Nvidia, que la compañía presentó hoy, las GPU de supercomputadoras obtienen un acceso mucho más rápido a la memoria de la CPU y un ancho de banda agregado mucho mejor cuando se combinan varias GPU con una sola CPU. Nvidia dice que el dispositivo requirió 10,000 años de trabajo de ingeniería, pero dado su don para la hipérbole, no estamos seguros de lo que incluyen. Y como ya habrás adivinado, la CPU basada en ARM lleva el nombre de Grace Hopper, una de las primeras pioneras de la informática.

La clave para la ganancia de rendimiento de Grace son las interconexiones NVLink de Nvidia entre la CPU y múltiples GPU. Nvidia dice que puede mover 900 GB / segundo a través de NVLink, que es muchas veces más ancho de banda del que normalmente está disponible entre la CPU y la GPU. La memoria de la CPU en sí también está optimizada, ya que Grace usará LPDDR5x RAM para la CPU. Grace también contará con un espacio de memoria unificado y coherencia de caché entre la CPU y las GPU, lo que debería hacer que la programación de GPGPU sea menos un dolor de cabeza. Admitirá las bibliotecas CUDA y CUDA-X de Nvidia, junto con su kit de desarrollo de software HPC.

En general, Nvidia dice que un sistema con tecnología Grace podrá entrenar modelos grandes (piense en un billón de parámetros y más) y ejecutar simulaciones de tamaño similar hasta 10 veces más rápido que un sistema similar que use CPU x86. Nvidia tuvo cuidado de enfatizar, sin embargo, que no ve a Grace desplazando a los procesadores x86 en aplicaciones más pequeñas que eso.

La supercomputadora ALPS en Suiza estará impulsada por CPU Nvidia Grace

La supercomputadora ALPS en Suiza estará impulsada por CPU Nvidia Grace

Por muy emocionante que sea el potencial de Grace, pasará un tiempo antes de que alguien se ponga a trabajar con uno. Nvidia espera que el chip esté disponible en 2023. La compañía también anunció que el Centro Suizo de Supercomputación y el Laboratorio Nacional de Los Alamos planean construir nuevas supercomputadoras masivas utilizando CPU Grace. Las máquinas serán construidas por HP Enterprise y se espera que estén en línea ese mismo año. Ambos clientes están entusiasmados de que las nuevas máquinas les permitan analizar conjuntos de datos más grandes que antes y mejorar el rendimiento de su software de computación científica.

Publicaciones relacionadas

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Botón volver arriba
Cerrar
Cerrar