Uno de los mayores retos actuales de la IA es su capacidad de alucinación, es decir, de fabricar información falsa sólo para completar una tarea. Aunque la mayoría de los modelos de IA del mercado utilizarán Internet para responder con la mayor precisión posible, si la conversación es lo suficientemente larga, la IA a veces utilizará información infundada para dar respuestas. Microsoft quiere acabar con esto.
Aunque Microsoft empezó a trabajar en una herramienta para mitigar las alucinaciones de la IA a principios de este año, el gigante tecnológico de Redmond también ha publicado un artículo en el que describe una tecnología patentada que podría evitar eficazmente que se produzcan alucinaciones en primer lugar.
El artículo «Interacting with a language model using external Knowledge and Feedback» (Interacción con un modelo lingüístico mediante conocimiento y retroalimentación externos) describe cómo se llevaría a cabo.
Perfeccionando la inteligencia
Un sistema recibiría una pregunta o petición (query). A partir de ella, recuperaría conocimientos encontrando información relevante en fuentes externas. A continuación, generaría la información de entrada del modelo original combinando la consulta y los datos recuperados en un único paquete que el modelo lingüístico pudiera utilizar.
El paquete combinado se presenta al modelo lingüístico, que se entrena para generar respuestas basadas en la información de entrada. Así, el modelo lingüístico genera una respuesta inicial basada en el paquete de entrada.
El sistema utiliza una prueba o criterios predefinidos para evaluar la utilidad o relevancia de la respuesta original y determinar si la respuesta inicial cumple los criterios de utilidad. Si la respuesta inicial no es lo suficientemente valiosa (alucinaciones de AI), el sistema genera información de entrada revisada, que incluye comentarios sobre la información que falta o es incorrecta.
Este paquete revisado se presenta de nuevo al modelo lingüístico, y éste genera una nueva respuesta basada en la entrada revisada.
Aplicaciones prácticas en el día a día
Esta tecnología no sólo ayudaría a combatir las alucinaciones de la IA, sino que tiene muchas aplicaciones prácticas. Por ejemplo, como se muestra en el artículo, este sistema puede aplicarse a un asistente de IA en un restaurante, donde puede proporcionar información objetiva y verificada a los clientes e incluso proponer soluciones después de que la entrada (en este caso, las peticiones de los clientes) cambie a mitad de la conversación.
Este proceso garantiza que las respuestas del modelo lingüístico sean lo más precisas y útiles posible mediante el perfeccionamiento iterativo de la entrada y la retroalimentación.
Aunque no sea más que una patente, la tecnología aquí descrita indica claramente que Microsoft pretende que sus modelos de IA (Copilot) sean totalmente funcionales y correctos.
Aunque el gigante tecnológico de Redmond ya anunció que quiere remediar y eliminar las alucinaciones en el modelo de IA, esta tecnología también propone un caso en el que la IA podría proporcionar información precisa y verificada en funciones como la de asistente de restaurante.