En las últimas semanas hemos visto cómo la I.A ha experimentado un despertar. Este ha traspasado barreras a la hora de interactuar con el ser humano de nuevas maneras, y ahora, la I.A podría usarse como arma para evitar el phising.
El entrenamiento es fundamental
La Inteligencia Artificial Generativa podría desempeñar un papel importante para las empresas que quieran prevenir ciberataques como el phishing.
Los grandes modelos lingüísticos (LLM) utilizados por I.A generativas – como ChatGPT y Bard – serían eficaces a la hora de aprender los estilos lingüísticos del personal de una organización. De esta manera, se desplegarían para detectar actividades inusuales procedentes de sus cuentas, como por ejemplo, el texto de un correo electrónico.
Kunal Anand, Director de Tecnología de la empresa de ciberseguridad Imperva, declaró que el «juego del gato y el ratón» de la ciberseguridad mejoraría con la I.A, pero que las empresas tendrían que considerar cuidadosamente lo que quieren que se utilice como datos de entrenamiento.
Los sistemas de ciberseguridad podrían ser más eficaces si incorporaran LLM que se alimentaran de datos que ofrecieran el contexto de cada empresa.
De esta manera, Anand afirmó que la I.A como arma para evitar el phising podría resultar más eficaz que los actuales sistemas de seguridad automatizados, por su capacidad de análisis de contenidos.
La privacidad, un asunto a tener en cuenta
Anand señaló que los LLM específicos de la empresa también podrían ser una forma de que las grandes empresas eviten la recopilación no deseada de datos valiosos, como el código fuente, durante el curso de formación de la I.A.
Compañías como Google y OpenAI, que están produciendo estos sistemas de inteligencia artificial, por ahora no dicen cómo recogen o almacenan sus herramientas los datos que se les introducen, lo que plantea dudas sobre su uso seguro en la empresa.
Los posibles problemas de privacidad relacionados con el uso de estas herramientas se pusieron de manifiesto la semana pasada, cuando se descubrió que ChatGPT filtraba historiales parciales de chat con otros usuarios.
La I.A como arma de doble filo
En el otro extremo del panorama de las amenazas, ya existe la preocupación de que la I.A generativa pueda utilizarse para mejorar drásticamente la complejidad del malware desarrollado por los ciberdelincuentes.
De hecho, el enero pasado, los investigadores de amenazas de CyberArk Labs desarrollaron malware polimórfico utilizando ChatGPT, una demostración de la amenaza potencial que la I.A generativa supone para las contramedidas de seguridad tradicionales.
Fuzzing y otras técnicas de ataque
La I.A generativa podría utilizarse para mejorar una técnica conocida como fuzzing, que consiste en desarrollar un script automatizado para inundar un sistema con entradas aleatorias para exponer posibles vulnerabilidades.
Las herramientas de fuzzing se han utilizado para descubrir fallos en programas populares, y la I.A generativa podría mejorar la precisión con la que el software de fuzzing puede iterar sobre los resultados de los ataques para descubrir fallos.
«Si intento lanzar un ataque y lo bloquean, puedo utilizar esa señal para entrenar a mi I.A, darme cuenta de que no era un ataque válido e intentarlo de nuevo. Y luego puedo seguir mutando una y otra vez, hasta que encuentre las condiciones límite en el modelo de lenguaje».
Kunal Anand, director de tecnología de Imperva.
A pesar de la amenaza de la generación de código, el uso de LLM para crear texto malicioso es un problema mayor en la actualidad. Esto se debe en parte a la complicada naturaleza de la programación, en la que el código debe someterse a una comprobación de validez antes de ser ejecutado.
Un futuro muy prometedor
Visto el potencial que pueden llegar a tener las I.A, es cuestión de tiempo que se perfeccionen para mejorar los sistemas de seguridad actuales, dejándolos obsoletos rápidamente. Aunque también pueden ser fuente de ataques maliciosos; de esta manera, mantener una buena política de seguridad que respalde los datos de la empresa resulta crucial para evitar sustos mayores.