China Telecom, una operadora estatal, ha desarrollado dos LLM totalmente entrenados en procesadores de producción nacional. Este avance demuestra el progreso de China hacia la independencia de los chips, sobre todo en el campo de la IA.
Apostando por tecnología propia
El Instituto de Inteligencia Artificial de la empresa anunció que su modelo de código abierto, TeleChat2-115B, junto con otro modelo no revelado, se entrenó en decenas de miles de chips chinos. Esto es especialmente significativo dadas las crecientes restricciones de EE.UU. al acceso de China a chips de vanguardia, como los últimos procesadores de IA de Nvidia.
Según el AI Institute, este logro refleja la completa autosuficiencia de China en la formación de sus propios LLM, que impulsan herramientas como ChatGPT de OpenAI. También lo consideran el comienzo de un nuevo capítulo en la búsqueda de la innovación y la independencia del país en materia de tecnología de IA.
China Telecom ha revelado que el modelo sin nombre cuenta con un millón de millones de parámetros. En términos sencillos, los parámetros son las variables que un modelo de IA utiliza para aprender durante el entrenamiento; cuantos más parámetros tenga el modelo, más inteligente y potente será. TeleChat2-115B, el otro modelo, tiene más de 100.000 millones de parámetros.
Las empresas chinas se esfuerzan por seguir siendo competitivas en el campo de la IA, sobre todo teniendo en cuenta las restricciones a la exportación impuestas por Washington. Aunque China Telecom no especificó exactamente quién le proporcionó los chips, el South China Morning Post informó de que ya había mencionado anteriormente los chips Ascend de Huawei como parte de su desarrollo LLM.
El mercado chino es el principal cliente
Huawei, que está sometida a sanciones estadounidenses, ha empezado últimamente a probar un nuevo procesador de IA con clientes potenciales en China. Las empresas buscan alternativas al hardware de gama alta de Nvidia, y Huawei parece estar interviniendo para llenar ese vacío.
De hecho, según las fuentes, Huawei ya ha ofrecido muestras de su procesador Ascend 910C a importantes empresas de servidores chinas para que lo prueben. El chip también se está poniendo a disposición de las empresas chinas de Internet, muchas de las cuales han confiado durante mucho tiempo en la tecnología de Nvidia.
Para las empresas locales de IA, los chips Ascend de Huawei y las soluciones de formación se perfilan como alternativas viables a las ofertas de Nvidia. Además de Huawei, China Telecom ofrece procesadores de Cambricon, una start-up china, a través de su servicio State Cloud.
China ya es una potencia mundial en desarrollo de IA
Es probable que estas colaboraciones ayuden a China a minimizar su dependencia de chips extranjeros como las GPU de Nvidia, que durante mucho tiempo han sido la opción preferida para entrenar modelos de IA.
Las normativas de exportación estadounidenses limitan el acceso a GPU avanzadas de Nvidia como las A100 y H100, por lo que varias empresas chinas de IA han recurrido a los mercados negros. Sin embargo, muchas optan por utilizar alternativas de menor potencia para asegurarse de poder seguir disfrutando del soporte y los servicios oficiales de Nvidia.