El Centro Nacional de Ciberseguridad (NCSC) del Reino Unido ha anunciado un nuevo conjunto de directrices globales sobre las consideraciones de seguridad en el desarrollo de sistemas de inteligencia artificial (I.A).
Las recomendaciones de la NCSC se aplicarán a cualquiera que desarrolle sistemas que utilicen I.A, tanto si se trata de crear una herramienta de I.A desde cero como si se construye sobre una plataforma preexistente.
Garantizar una I.A segura para todo el mundo
Respaldadas por organismos de 18 países de todo el mundo, incluidos todos los miembros del G7, el NCSC describe las directrices como las primeras de este tipo que se acuerdan a escala mundial, con el objetivo de garantizar que los sistemas de I.A se diseñen, desarrollen e implanten de forma segura.
Las directrices abarcarán cuatro áreas clave del ciclo de vida de un sistema de I.A: diseño seguro, desarrollo seguro, despliegue seguro y funcionamiento y mantenimiento seguros.
Diseño seguro
El diseño seguro se centra en ayudar a los desarrolladores a comprender los riesgos que planteará su sistema de I.A específico y cómo modelar estas amenazas.
El NCSC también quiere que los desarrolladores evalúen si el servicio que pretenden crear «se aborda de la forma más adecuada utilizando I.A» y, en caso afirmativo, si deben optar por entrenar un nuevo modelo, utilizar un modelo existente (y si será necesario afinarlo) o trabajar con un proveedor de modelos externo.
Desarrollo seguro
Las orientaciones sobre desarrollo seguro cubren la forma en que los desarrolladores pueden proteger su cadena de suministro, garantizando que cualquier software no producido internamente se adhiere a las normas de seguridad de su organización.
El desarrollo seguro incluye la generación de la documentación adecuada de datos, modelos e indicaciones, así como la gestión de la deuda técnica a lo largo del proceso de desarrollo.
Despliegue seguro
El consejo del NCSC sobre despliegue seguro esboza las medidas que deben tomar los desarrolladores para proteger su infraestructura y sus modelos frente a compromisos, amenazas o pérdidas.
El asesoramiento también exige unos principios sólidos de seguridad de la infraestructura a lo largo del ciclo de vida del sistema, como la aplicación de controles de acceso a las API, los modelos y los datos, y los conductos de formación de los modelos.
Funcionamiento y mantenimiento seguros
El funcionamiento y mantenimiento seguros comprenden recomendaciones para los desarrolladores una vez que hayan desplegado su modelo, como la supervisión del comportamiento del sistema y la deriva de sus datos.
La guía también aconseja a los desarrolladores que supervisen y registren las entradas de datos a sus sistemas, incluidas las consultas y las solicitudes, con fines de auditoría, investigación y corrección en caso de que el sistema se vea comprometido.
Enfoque colaborativo para alcanzar objetivos
El enfoque internacional es clave para seguir el ritmo del rápido desarrollo de la I.A En su intervención en Chatham House en junio, Lindy Cameron, Directora General de NCSC, explicó la importancia de adoptar un enfoque colaborativo para seguir el ritmo de la rápida evolución del panorama de la I.A.
«Sabemos que la I.A se está desarrollando a un ritmo vertiginoso y que es necesaria una acción internacional concertada, entre los gobiernos y la industria, para seguir el ritmo», dijo Cameron.
«Estas directrices suponen un paso importante en la formación de un entendimiento común verdaderamente global de los riesgos cibernéticos y las estrategias de mitigación en torno a la I.A, para garantizar que la seguridad no sea un epílogo del desarrollo, sino un requisito básico en todo momento».