La inteligencia artificial (IA) generativa está revolucionando múltiples industrias. Sin embargo, muchas empresas enfrentan desafíos al desarrollar y desplegar herramientas seguras en un panorama tecnológico en constante evolución. Los líderes empresariales se preocupan por los riesgos asociados, como la generación de información errónea o dañina, la filtración de datos sensibles, el riesgo de ciberataques o el incumplimiento de normativas de privacidad. A menudo, no cuentan con los recursos ni el conocimiento necesario para gestionar estos desafíos de manera efectiva.
La seguridad como baluarte ante la IA
Sarah Bird, Chief Product Officer de IA Responsable en Microsoft, explica: «Las organizaciones valoran la seguridad y la protección, además de la calidad y el rendimiento de sus aplicaciones de IA, pero muchas no saben qué pasos deben seguir para hacer que su IA sea confiable o carecen de las herramientas adecuadas para lograrlo».
Para abordar esta problemática, Microsoft ofrece herramientas y servicios diseñados para ayudar a los desarrolladores a crear y lanzar sistemas de IA confiables, con un enfoque centrado en la seguridad, la privacidad y la protección. Estas soluciones han permitido a numerosas organizaciones implementar tecnología en entornos complejos y altamente regulados, desde un asistente de IA que resume historiales médicos hasta un chatbot que ofrece asesoramiento fiscal.
Mehrnoosh Sameki, manager principal de producto de IA Responsable en Microsoft, destaca: «Aunque desarrollar la primera versión de una aplicación de IA generativa es relativamente sencillo, muchas empresas se frenan antes de su lanzamiento por temor a los riesgos o por la incertidumbre sobre el cumplimiento de normativas y requisitos. Estas herramientas agilizan la implementación y proporcionan tranquilidad al facilitar las pruebas y la protección de la aplicación».
Preparándose para el futuro
Microsoft ha desarrollado un marco sólido para reducir riesgos y desarrollar soluciones prácticas, combinando el trabajo de diversos expertos, como un red team de IA que detecta posibles riesgos, investigadores expertos en deepfakes, especialistas en medición que han desarrollado sistemas de evaluación de IA, e ingenieros dedicados a diseñar y mejorar las medidas de seguridad.
Entre las herramientas disponibles se incluyen PyRIT, un marco de código abierto que ayuda a los equipos de seguridad a identificar riesgos; Azure AI Foundry, que evalúa automáticamente para medir y monitorizar riesgos de manera constante; y Azure AI Content Safety, diseñado para detectar y bloquear contenido dañino. Además, Microsoft comparte sus mejores prácticas para ayudar a las empresas a elegir el modelo adecuado para sus aplicaciones, redactar mensajes del sistema y diseñar experiencias de usuario que refuercen la seguridad de la IA.