El Instituto Avanzado de Ciencia y Tecnología de Corea (KAIST) ha dado un paso de gigante hacia una IA más sostenible. En colaboración con HyperAccel Inc., investigadores coreanos han desarrollado un chip neuronal especializado (NPU, por sus siglas en inglés) que mejora la eficiencia energética de la IA generativa en centros de datos en hasta un 44%, mientras acelera el rendimiento un 60% frente a las GPU convencionales.
El reto: IA generativa y su elevado coste energético
Modelos como ChatGPT-4 de OpenAI y Gemini 2.5 de Google están impulsando una nueva era de capacidades conversacionales, pero también representan una presión significativa sobre el consumo energético y la infraestructura de hardware. Las principales compañías cloud están invirtiendo masivamente en GPUs de alto rendimiento, enfrentándose a cuellos de botella de memoria y costes de escalabilidad crecientes.
El avance de KAIST aborda directamente esta problemática: reducir el gasto energético sin sacrificar precisión o velocidad de inferencia.
La innovación: cuántico en cachés clave-valor
El corazón del avance técnico reside en la optimización de las KV caches. Es un componente que representa gran parte del uso de memoria en modelos generativos. Bajo el título “Oaken: Fast and Efficient LLM Serving with Online-Offline Hybrid KV Cache Quantization”, los investigadores presentaron su enfoque en la ISCA 2025 de Tokio.
Entre las claves técnicas destacan:
- Cuantización híbrida online-offline basada en umbral
- Cuantización por grupos con desplazamiento (“group-shift quantization”)
- Codificación fusionada densa-esparcida, diseñada para entornos con poca memoria
Estas innovaciones permiten reducir drásticamente la carga computacional durante la inferencia, integrándose sin fricciones con arquitecturas NPU existentes, y mejorando la gestión de memoria a nivel de página.
Implicaciones medioambientales y estratégicas
El desarrollo de este chip de IA no solo marca una mejora técnica, sino que plantea implicaciones estratégicas en el sector cloud:
- Reducción significativa de la huella de carbono en infraestructuras IA
- Alternativa a las GPU tradicionales ante problemas de abastecimiento
- Posibilidad de despliegues locales en entornos de Edge AI y agentes autónomos (AX)
En palabras del profesor Jongse Park, líder del proyecto: “Hemos demostrado que es posible una infraestructura de IA de alto rendimiento y bajo consumo energético, especializada en IA generativa.”
Perspectivas futuras
Aunque la tecnología todavía enfrenta retos en cuanto a escalabilidad industrial y coste de fabricación, su potencial disruptivo podría redefinir los centros de datos cloud modernos. Los actores del sector cloud, desde hyperscalers hasta operadores locales, deben seguir de cerca este avance que puede acelerar la transición hacia una IA más verde, eficiente y accesible.