Qualcomm ha anunciado su colaboración con Meta para optimizar los grandes modelos de lenguaje Llama 2 de Meta, directamente en el dispositivo; así, se eliminaría la dependencia de los servicios en la nube. Esto permite ejecutar modelos generativos de I.A como Llama 2 en smartphones, PCs, cascos VR/AR y vehículos, reduciendo los costes de la nube y proporcionando experiencias de usuario privadas, fiables y personalizadas.
Una I.A para dispositivos móviles
Qualcomm Technologies tiene previsto ofrecer implementaciones de I.A basadas en Llama 2 en los dispositivos, lo que facilitará la creación de nuevas aplicaciones de I.A. Esto abre oportunidades para asistentes virtuales inteligentes, herramientas de productividad, creación de contenidos, entretenimiento y mucho más.
Estas experiencias de I.A en el dispositivo, impulsadas por Snapdragon, pueden funcionar en zonas sin conectividad o en modo avión, lo que supondría una gran ventaja respecto de cómo funcionan en la actualidad.
Durga Malladi, vicepresidenta ejecutiva de Qualcomm Technologies, elogia el enfoque de Meta hacia una I.A abierta y responsable. Se han comprometido a impulsar la innovación y a poner la I.A generativa en los dispositivos al alcance de desarrolladores de todos los tamaños. Para generalizar la I.A generativa, debe ejecutarse en la nube y en dispositivos periféricos como smartphones, portátiles, vehículos y dispositivos IoT.
Los esfuerzos conjuntos de Qualcomm y Meta para apoyar el ecosistema de I.A Llama abarcan la investigación y la ingeniería de productos. El liderazgo de Qualcomm Technologies de I.A en dispositivos, le sitúa en una posición única para respaldar el ecosistema de Llama, con miles de millones de dispositivos equipados con sus soluciones de hardware y software de I.A.
Qualcomm Technologies pondrá a disposición la implementación de I.A basada en Llama 2 en dispositivos con Snapdragon a partir de 2024.
¿Un punto de inflexión en la tecnología móvil?
Los LLM (Language Model Models) más potentes, como Bard, ChatGPT y otros, dependen en gran medida de los costosos recursos informáticos de la nube. Las limitaciones de los recursos en la nube repercuten directamente en la escalabilidad de la IA generativa, obstaculizando todo su potencial.
La importancia de este avance radica en que se trata de la primera gran asociación empresarial que lleva la IA generativa a los dispositivos móviles. Esto marca un cambio fundamental de la fase experimental a una realización concreta, lo que promete un nuevo paradigma para el futuro de los dispositivos móviles.