Microsoft trae nuevas funciones de seguridad para los clientes de Azure. Así, podrán utilizar las herramientas de Azure AI Studio para detectar alucinaciones de I.A y malware. Además, pueden bloquear indicaciones maliciosas de cualquier modelo de la plataforma Azure.
Microsoft aprendió de errores pasados
Según The Verge, Microsoft aprendió de polémicas con la I.A, como las imágenes históricamente inexactas de Gemini o las falsificaciones de famosos, por lo que los usuarios no podrán generar contenido engañoso.
Azure AI tiene tres funciones de seguridad que puedes previsualizar: Prompt Shields, Groundedness Detection y evaluaciones de seguridad. La primera función evita las consultas maliciosas que engañan a la I.A para que genere contenido en contra de su formación y restricciones. La segunda encuentra y bloquea alucinaciones. La tercera evalúa las vulnerabilidades de su modelo y generaciones de I.A.
Cuidado con las famosas alucinaciones
Las alucinaciones de la I.A, por otro lado, no dejan de ser errores. Así, un modelo de aprendizaje puede generarlas al encontrarse con nuevos tipos de contenido que no se ajustan a sus datos de entrenamiento. Los ciberdelincuentes pueden utilizar estos errores para engañar a la I.A, haciéndole creer que los correos spam o el malware son inofensivos. De este modo, pueden eludir las medidas de seguridad.
Microsoft también ha entrenado las funciones de seguridad de Azure para que comprueben si hay palabras prohibidas en las consultas o en los mensajes ocultos. Si el sistema encuentra alguna, no la enviará al modelo de IA. Después, verificará la respuesta recibida para comprobar si la IA alucinó con información que no está presente en la pregunta.
Además, la empresa ha añadido un informe de usuario que advierte a los administradores sobre quién es responsable de activar salidas no seguras.