Nvidia ha anunciado una nueva plataforma de redes Ethernet, diseñada para ofrecer conectividad de alta velocidad y eficiencia extremas para cargas de trabajo de I.A en entornos cloud. Así, Nvidia promete un aumento de la eficiencia de la I.A, que, según ellos, no tendrá rival.
Spectrum-X promete potenciar el desarrollo de nubes I.A multi-tenant y a hiperescala, mejorando la eficiencia de las redes Ethernet y su capacidad para mover datos.
Soluciones eficaces y con I.A
La empresa de chips gráficos afirma que la solución proporcionará a los proveedores de servicios en la nube, formas más eficaces de entrenar y operar la I.A generativa en esta, y además podría permitir a los científicos de datos descubrir ideas más rápidamente.
Los centros de datos multiarrendamiento en la nube ofrecen cargas de trabajo informáticas asequibles a las empresas, y dependen de una conectividad Ethernet que se considera inferior a las conexiones Infiniband que se ven en muchas configuraciones informáticas de alto rendimiento.
La nueva plataforma de Nvidia pretende mejorar la velocidad y eficiencia con la que los centros de datos en la nube pueden procesar dichos datos, y así ofrecer cargas de trabajo de I.A eficaces, sin privar a las empresas de las ventajas del modelo multi-tenant basado en Ethernet.
Así, Spectrum-X podría ser una propuesta atractiva para las empresas que buscan conectar las cargas de trabajo de I.A a la infraestructura de nube existente, y de hecho ya hay grandes tecnológicas que se están aprovechando de la infraestructura de nVidia, como Dell, Google, Lenovo o Supermicro.
La plataforma aúna la tecnología de conmutación Ethernet Spectrum de Nvidia con sus unidades de procesamiento de datos (DPU) dedicadas, y puede multiplicar por 1,7 el rendimiento de la I.A y la eficiencia energética, según Nvidia.
Los conmutadores Spectrum-4 son configurables hasta 64 puertos de Ethernet de 800 gigabits, o 128 puertos de ethernet de 400 gigabits, y pueden facilitar la conmutación y el enrutamiento a 51,2 Terabit/seg.
Superordenador en Israel
La empresa ha anunciado recientemente que está construyendo un superordenador en su centro de datos de Israel, que servirá de banco de pruebas para los diseños de Spectrum-X.
Israel-1 se construirá sobre servidores Dell PowerEdge XE9680, que contienen ocho GPU Nvidia H100, y ofrecerá ocho exaflops de rendimiento de IA y 130 petaflops para cargas de trabajo de computación científica cuando se active a finales de 2023.
El proyecto se basó en el trabajo realizado por el personal de la división de redes de Nvidia, anteriormente asociado con Mellanox, la forma de chip israelí adquirida por Nvidia por 6.900 millones de dólares (5,5 millones de libras) en 2019.
«Las tecnologías transformadoras como la I.A generativa están obligando a todas las empresas a superar los límites del rendimiento del centro de datos en busca de una ventaja competitiva», dijo Gilad Shainer, vicepresidente senior de redes de NVIDIA en una publicación de blog.
«Nvidia Spectrum-X es una nueva clase de redes Ethernet, que elimina las barreras para las cargas de trabajo de IA de próxima generación, y que tienen el potencial de transformar industrias enteras.»
Análisis del Spectrum-X de Nvidia
Nvidia lleva años trabajando en el ámbito de la I.A (hablamos de la competencia que tiene con Google en este ámbito, aquí), pero con la llegada de la I.A generativa comercial, ha consolidado su posición como proveedor principal de hardware y soluciones de red en este campo, y promete un aumento de la eficiencia de la I.A con estas novedades anunciadas.
De hecho, no son pocos los que se aprovechan de su potencia de cálculo; las grandes tecnológicas han acudido a la empresa en busca de sus GPU A100 y H100 para satisfacer las demandas de escalado de las cargas de trabajo de I.A.
El resto no se queda quieto
Sin ir más lejos, Microsoft ha construido un superordenador con chips Nvidia para entrenar la GPT-4 de OpenAI. En los últimos meses, se ha rumoreado que Microsoft está desarrollando su propio chip de I.A, cuyo nombre en clave es «Athena«, mientras sigue situando la I.A en el centro de su estrategia, a través de productos como Bing y Edge AI, y 365 Copilot.
Aunque Nvidia no puede acaparar por completo el mercado de hardware de IA, se ha posicionado como un actor inestimable en la I.A a través de una amplia gama de soluciones, que incluyen la arquitectura de entrenamiento y aceleradores, su asociación con Dell Technologies y el proyecto de superordenadores de Microsoft.
En particular, su adquisición de Mellanox le ha permitido ofrecer soluciones de red avanzadas como Spectrum-X, cuya demanda no hará sino crecer a medida que las empresas busquen escalar las cargas de trabajo de I.A en la nube con la menor latencia posible.