Red Hat, la empresa de software de código abierto propiedad de IBM, va a adquirir Neural Magic, una startup que optimiza los modelos de IA para que funcionen más rápido en procesadores y GPU.
Sin embargo, todavía no se han revelado los términos del acuerdo.
El científico investigador del MIT Alex Matveev y el profesor Nir Shavit fundaron Neural Magic, con sede en Somerville, Massachusetts, en 2018, inspirados por su trabajo en motores de ejecución de alto rendimiento para IA.
El software de Neural Magic tiene como objetivo procesar cargas de trabajo de IA en procesadores y GPU a velocidades equivalentes a los chips especializados de IA (por ejemplo, TPU). Al ejecutar los modelos en procesadores comerciales, que suelen tener más memoria disponible, el software de la empresa puede conseguir estas mejoras de rendimiento.
Software gratuito con herramientas de código abierto
Grandes empresas tecnológicas como AMD y otras muchas nuevas, como NeuReality, Deci, CoCoPie, OctoML y DeepCube, ofrecen algún tipo de software de optimización de IA. Pero Neural Magic es una de las pocas con una plataforma gratuita y una colección de herramientas de código abierto para complementarla.
Hasta la fecha, Neural Magic había conseguido recaudar 50 millones de dólares en capital riesgo de patrocinadores como Andreessen Horowitz, New Enterprise Associations, Amdocs, Comcast Ventures, Pillar VC y Ridgeline Ventures.
Matt Hicks, CEO de Red Hat, señaló que el trabajo de Neural Magic en vLLM, un proyecto de código abierto para el servicio de modelos, era de especial interés para Red Hat. Con Neural Magic, la empresa de código abierto se beneficia de una pila «de nivel empresarial» basada en vLLM que permite a los clientes optimizar y desplegar modelos en entornos de nube, según Hicks, con pleno control sobre la infraestructura y la seguridad.
A medida que aumentan la demanda de energía y los costes de creación y despliegue de la IA, los grandes proveedores de tecnología se han movido para hacerse con empresas con productos que podrían ayudar a optimizar los algoritmos de IA.