Las GPU son la espina dorsal de la computación de IA, pero como la demanda supera a la oferta, los proveedores de la nube se están volviendo creativos.
En lugar de esperar a tener más GPU, como informó el sitio web Network World, están creando chips personalizados para satisfacer cargas de trabajo específicas, ofreciendo una computación más rápida y eficiente a la vez que mantienen los costes bajo control.
La competencia es cada vez mayor. En la conferencia Ignite de Microsoft celebrada la semana pasada, la compañía presentó dos nuevos chips diseñados para aumentar el rendimiento de su plataforma Azure. Todas las miradas se dirigen ahora a AWS, que prepara su propia cartera de chips personalizados.
Por qué son importantes los chips personalizados
Las GPU han revolucionado tareas como el entrenamiento de modelos de IA, pero no siempre son la mejor herramienta para el trabajo. Presentan importantes inconvenientes: alto consumo de energía, necesidad de refrigeración intensiva y, ahora mismo, escasez mundial. Las últimas GPU de Nvidia están agotadas para los próximos 12 meses.
Los aceleradores personalizados están interviniendo para llenar el vacío. Mario Morales, vicepresidente analista de IDC, destaca la creciente importancia de las alternativas a las GPU:
«Estos aceleradores son cada vez más importantes en la infraestructura de la nube, debido a su superior relación precio-rendimiento y precio-eficiencia, que conducen a un mejor retorno de la inversión.»
AWS y Google llevan años lanzando chips personalizados: AWS con Trainium e Inferentia, y Google con las unidades de procesamiento tensorial (TPU). Microsoft se unió el año pasado cuando la compañía presentó sus primeros chips personalizados, Maia y Cobalt, destinados a mejorar la eficiencia energética y gestionar las cargas de trabajo de IA.
Este año, Microsoft ha intensificado su juego, presentando dos nuevos chips:
- Azure Boost DPU: Diseñado para optimizar el procesamiento de datos mediante la ejecución de un sistema operativo personalizado.
- Azure Integrated HSM: Centrado en la seguridad, mantiene las claves de cifrado y firma de forma segura en el hardware.
La DPU Azure Boost de Microsoft es un paso gran adelante. Microsoft está haciendo notables avances en infraestructura. La empresa anunció nuevas soluciones de refrigeración líquida para servidores de IA y un diseño de bastidor de bajo consumo desarrollado conjuntamente con Meta, que puede albergar un 35% más de aceleradores de IA en cada bastidor.
La seguridad recibe un impulso personalizado
La seguridad es otro ámbito de la nube en la que los proveedores aúnan esfuerzos para que silicio personalizado sea una alternativa eficaz. El nuevo chip HSM de Microsoft es una solución específica para tareas de cifrado que tradicionalmente requerirían una combinación de hardware y software. Este enfoque reduce la latencia y mejora la escalabilidad, por lo que es una incorporación que merece la pena tener en cuenta.
Por otro lado, AWS y Google también utilizan chips personalizados para la seguridad. AWS Nitro impide que las CPU del sistema principal modifiquen el firmware, y Titan, de Google, establece «una raíz de confianza segura» para validar el estado del sistema.
El futuro de los chips personalizados en la nube
El impulso del silicio personalizado no se está frenando. Según Alexander Harrowell, analista principal de Omdia, es lógico que los hiperescaladores inviertan en estos chips para reducir costes y mejorar la eficiencia.
A medida que crece la demanda de una informática más rápida y especializada, los chips personalizados son una estrategia para que los proveedores de la nube sigan siendo competitivos. Con la innovación a toda marcha, la carrera por redefinir el rendimiento de la nube no ha hecho más que empezar.