La GPU NVIDIA H100 Tensor Core utilizada en la nueva serie de máquinas virtuales de Microsoft Azure ya está disponible de forma general

La GPU NVIDIA H100 Tensor Core ya está disponible en las máquinas virtuales de Microsoft Azure.

Los usuarios de Microsoft Azure ahora pueden recurrir a la última tecnología de computación acelerada de NVIDIA para entrenar e implementar sus aplicaciones generativas de IA.

Disponible hoy, las VM de Microsoft Azure ND H100 v5 que utilizan GPUs NVIDIA H100 Tensor Core y la red NVIDIA Quantum-2 InfiniBand, permiten escalar aplicaciones generativas de IA, cómputo de alto rendimiento (HPC) y otras aplicaciones con un clic desde un navegador.

Disponible para clientes en todo Estados Unidos, la nueva instancia llega en un momento en que los desarrolladores e investigadores están utilizando modelos de lenguaje grandes (LLM) y computación acelerada para descubrir nuevos casos de uso para consumidores y empresas.

La GPU NVIDIA H100 ofrece un rendimiento de clase de supercomputadora a través de innovaciones arquitectónicas, que incluyen núcleos Tensor de cuarta generación, un nuevo motor Transformer para acelerar LLM y la última tecnología NVLink que permite a las GPUs comunicarse entre sí a 900 GB/s.

• DENZA colabora con WPP para construir e implementar configuradores avanzados de automóviles en la nube NVIDIA Omniverse
• Shutterstock lleva la IA generativa a los fondos de escenas en 3D con NVIDIA Picasso
• Charla especial SIGGRAPH El CEO de NVIDIA lleva la IA generativa a la muestra de Los Ángeles

La inclusión de NVIDIA Quantum-2 CX7 InfiniBand con un ancho de banda de 3,200 Gbps entre nodos garantiza un rendimiento fluido en las GPUs a gran escala, equiparando las capacidades de las supercomputadoras de mayor rendimiento a nivel mundial.

Escalando con VM v5

Las VM ND H100 v5 son ideales para entrenar y ejecutar inferencias en modelos de LLM y de visión por computadora cada vez más complejos. Estas redes neuronales impulsan las aplicaciones generativas de IA más exigentes y que requieren más capacidad de cómputo, como la respuesta a preguntas, la generación de código, la generación de audio, video e imágenes, el reconocimiento de voz y más.

Las VM ND H100 v5 logran hasta 2 veces más velocidad en inferencias de modelos LLM, como el modelo BLOOM 175B, en comparación con instancias de generaciones anteriores, lo que demuestra su potencial para optimizar aún más las aplicaciones de IA.

NVIDIA y Azure

Las GPUs NVIDIA H100 Tensor Core en Azure brindan a las empresas el rendimiento, la versatilidad y la escala necesarios para potenciar sus cargas de trabajo de entrenamiento e inferencia de IA. La combinación agiliza el desarrollo e implementación de IA en producción con el conjunto de software NVIDIA AI Enterprise integrado con Azure Machine Learning para MLOps, y ofrece un rendimiento de IA de nivel máximo en los benchmarks MLPerf estándar de la industria.

Además, al conectar la plataforma NVIDIA Omniverse a Azure, NVIDIA y Microsoft brindan a cientos de millones de usuarios empresariales de Microsoft acceso a potentes recursos de digitalización industrial y supercomputación de IA.

Obtenga más información sobre las nuevas instancias Azure v5 impulsadas por GPUs NVIDIA H100.

We will continue to update Zepes; if you have any questions or suggestions, please contact us!