Mistral Small es perfecta para cargas de trabajo de baja latencia

En febrero de 2024, Microsoft firmó un acuerdo de 2.100 millones de dólares con Mistral AI, una empresa con sede en Francia, para mejorar su plataforma de computación en la nube, Microsoft Azure. Aprovechando la asociación, Microsoft ha añadido a su cartera otro de los modelos lingüísticos, como Mistral Small.

Potenciando Azure

Mistral Small, disponible en el catálogo de modelos de Azure AI, es el LLM más pequeño desarrollado por Mistral AI hasta la fecha.

Según la entrada del blog oficial de Microsoft, el modelo de lenguaje ofrece las siguientes ventajas sobre las otras opciones:

  1. Un modelo pequeño optimizado para baja latencia: Muy eficiente para cargas de trabajo de gran volumen y baja latencia. Mistral Small es el modelo propietario más pequeño de Mistral, supera a Mixtral 8x7B y tiene menor latencia.
  2. Especializado en RAG: la información crucial no se pierde en medio de largas ventanas de contexto. Soporta hasta 32K tokens.
  3. Fuerte en codificación: Generación de código, revisión y comentarios con soporte para los principales lenguajes de codificación.
  4. Multilingüe por diseño: El mejor rendimiento de su clase en francés, alemán, español e italiano, además de inglés. Docenas de otros idiomas son compatibles.
  5. 5. Barandillas eficaces integradas en el modelo, con una capa de seguridad adicional gracias a la opción de aviso seguro.

Puedes probar Mistral Small a través de Models as a Service (MaaS) en Azure AI Studio hoy mismo. Se trata de una opción muy eficiente que se adapta mejor a cargas de trabajo de gran volumen y baja latencia. Y, como ocurría con los modelos anteriores, desplegar el modelo lingüístico no supone ningún esfuerzo y no lleva más de unos segundos.

Preparado para tareas sencillas

Según la documentación de Mistral, el modelo lingüístico es adecuado para tareas más sencillas que pueden realizarse en masa. Algunos ejemplos son la generación de textos, la atención al cliente y la clasificación.

En los últimos años, el empuje de los gigantes tecnológicos de Redmond en el campo de la inteligencia artificial ha dado sus frutos, y la tasa de crecimiento de Microsoft Azure supera a la de AWS y Google Cloud. Tendremos que esperar para ver qué impacto tiene Mistral Small en la futura tasa de crecimiento.

0 0 votes
Article Rating
Subscribe
Notify of
guest
0 Comments
Inline Feedbacks
View all comments

Relacionados

Tendencias

Más leídos

Se habla de..

0
Would love your thoughts, please comment.x
()
x