
Mistral: Mistral Nemo
mistralai/mistral-nemo
A 12B parameter model with a 128k token context length built by Mistral in collaboration with NVIDIA.
The model is multilingual, supporting English, French, German, Spanish, Italian, Portuguese, Chinese, Japanese, Korean, Arabic, and Hindi.
It supports function calling and is released under the Apache 2.0 license.
Proveedores
Distintas empresas alojan el mismo modelo. OpenRouter enruta su solicitud a una de ellas según el modo de enrutamiento que elija: Balanced (precio + velocidad), Nitro (el más rápido) o Floor (el más económico).
| 0,03000 US$ | 0,0300 US$ | -- | 0,81s | 38 tok/s | ||
| 0,01800 US$ | 0,0300 US$ | -- | 0,58s | 18 tok/s | ||
33% off | 0,023 US$0,01541 US$ | 0,03 US$0,0201 US$ | 0,015 US$0,01005 US$ | 0,40s | 71 tok/s | |
| 0,02900 US$ | 0,0300 US$ | -- | 0,50s | 38 tok/s | ||
| 0,15000 US$ | 0,1500 US$ | 0,01500 US$ | 0,30s | 90 tok/s | ||
No se utiliza en el enrutamiento Standard:Por qué no se usan estos endpoints | ||||||
| 0,02320 US$ | 0,0240 US$ | -- | 1,20s | 27 tok/s | ||
- Entrada 0,03 US$ / Salida 0,03 US$38 tok/s84,48 % de tiempo de actividad
- Entrada 0,018 US$ / Salida 0,03 US$18 tok/s99,01 % de tiempo de actividad
- Entrada 0,01541 US$ / Salida 0,0201 US$33% off71 tok/s99,96 % de tiempo de actividad
Entrada 0,029 US$ / Salida 0,03 US$38 tok/s100,00 % de tiempo de actividad
Entrada 0,15 US$ / Salida 0,15 US$90 tok/s99,93 % de tiempo de actividad- No se utiliza en el enrutamiento Standard:Por qué no se usan estos endpoints
Entrada 0,0232 US$ / Salida 0,024 US$27 tok/s99,15 % de tiempo de actividadFlex
Precios
El precio medio que los clientes pagan realmente por este modelo, junto a los precios que publican los proveedores. El uso de caché y los descuentos hacen que el precio realmente pagado a menudo sea muy inferior al publicado.
Media ponderada
Mistral Nemo — Historial de precios
| 0,0129 US$ | 0,0169 US$ | 48,0 % | 2,1 % | ||
| 0,0177 US$ | 0,0279 US$ | 0,0 % | 2,1 % | ||
| 0,0290 US$ | 0,0295 US$ | 0,0 % | 89,6 % | ||
| 0,0297 US$ | 0,0279 US$ | 7,9 % | 0,6 % | ||
| 0,0497 US$ | 0,1469 US$ | 74,3 % | 5,6 % | ||
No se utiliza en el enrutamiento Standard:Por qué no se usan estos endpoints | |||||
| 0,0231 US$ | 0,0222 US$ | 0,0 % | 0,0 % | ||
- En vigor en 0,0129 US$ / Salida efectiva 0,0169 US$Proporción de tókenes2,1 %
- En vigor en 0,0177 US$ / Salida efectiva 0,0279 US$Proporción de tókenes2,1 %
- En vigor en 0,0290 US$ / Salida efectiva 0,0295 US$Proporción de tókenes89,6 %
- En vigor en 0,0297 US$ / Salida efectiva 0,0279 US$Proporción de tókenes0,6 %
- En vigor en 0,0497 US$ / Salida efectiva 0,1469 US$Proporción de tókenes5,6 %
- No se utiliza en el enrutamiento Standard:Por qué no se usan estos endpoints
- En vigor en 0,0231 US$ / Salida efectiva 0,0222 US$FlexProporción de tókenes0,0 %
Rendimiento
La velocidad de generación indica lo rápido que escribe el modelo (tokens por segundo: cuanto mayor, mejor). La latencia es el tiempo total de ida y vuelta (cuanto menor, mejor). TTFT es el tiempo hasta el primer token: cuánto tarda en aparecer algo en pantalla (cuanto menor, mejor).
P50, el mejor entre los proveedores
P50, mejor proveedor
Tiempo de actividad
El tiempo de actividad es el porcentaje de los últimos 3 días en que al menos un proveedor respondía a las solicitudes. La disponibilidad es el porcentaje de tiempo en que la inferencia se sirvió correctamente. OpenRouter supervisa continuamente y utiliza el siguiente mejor proveedor cuando uno devuelve un error.
Disponibilidad durante los últimos 3 días
Últimas 72 horasDisponibilidad en las últimas 24 horas
Cuando se produce un error en un proveedor ascendente, podemos recuperarnos enrutando la solicitud a otro proveedor que funcione correctamente, si los filtros de su solicitud lo permiten. Puede acceder mediante programación a los datos de tiempo de actividad de cada proveedor a través de la API de endpoints. Obtenga más información sobre nuestras opciones de equilibrio de carga y enrutamiento de proveedores.
Aplicaciones
Aplicaciones públicas que envían más tráfico a este modelo. Una buena señal de cómo son las cargas de trabajo reales en producción, y una pista sobre los casos de uso para los que este modelo es más adecuado.
Actividad
Volumen de tokens y tráfico de solicitudes a este modelo a lo largo del tiempo.
API
Código listo para usar para llamar a este modelo. La API de OpenRouter es compatible con OpenAI: la mayoría de los SDK funcionan con solo cambiar la URL base. Lo único que cambia entre modelos es el identificador del modelo que aparece a continuación.
Disponible mediante enrutamiento dentro de la región de la UE
Mistral: Mistral Nemo está disponible mediante el enrutamiento dentro de la región de la UE. Las solicitudes enviadas a eu.dynamicsinfo.com se descifran en la UE y se enrutan únicamente a endpoints compartidos de proveedores en Europa (la UE/el EEE, el Reino Unido y Suiza).
- Proveedores en Europa
- Mistral
- Precios en Europa
- Mistral: 0,15 US$/M tokens de entrada, 0,15 US$/M tokens de salida
- URL base
https://eu.dynamicsinfo.com/api/v1- Plan
- Requiere Business o Enterprise. Autoservicio en Business: sin contrato ni mínimo mensual. OpenRouter Business para el enrutamiento dentro de la UE
Falla de forma cerrada: si no hay ningún endpoint de proveedor compartido disponible en Europa, la solicitud devuelve un error en lugar de salir de la región. Las solicitudes atendidas con su propia clave BYOK se dirigen a la región de su despliegue, que usted controla. Documentación de enrutamiento dentro de la región
Preguntas frecuentes
A 12B parameter model with a 128k token context length built by Mistral in collaboration with NVIDIA. The model is multilingual, supporting English, French, German, Spanish, Italian, Portuguese, Chinese, Japanese, Korean, Arabic, and Hindi. It supports function calling and is released under the Apache 2.0 license.
Mistral Nemo cuesta 0,01541 US$/M de tokens de entrada y 0,0201 US$/M de tókenes de salida, con tarifas independientes para Cache Read a 0,01005 US$/M tokens.
Mistral Nemo tiene una ventana de contexto de 131.072 tókenes. Admite hasta 128.000 tókenes de respuesta.
Sí. Mistral Nemo acepta tools y tool_choice para llamadas a funciones en 3 de los 5 proveedores que lo ofrecen, y las solicitudes que envían herramientas se enrutan a esos proveedores. También admite salidas estructuradas mediante un esquema JSON en response_format.
Mistral Nemo está disponible a través de 5 proveedores en OpenRouter: io.net, DekaLLM, DeepInfra, Parasail y Mistral. Las solicitudes se enrutan al mejor proveedor disponible, con conmutación automática a los demás en caso de fallo, y puede fijar o excluir proveedores mediante el enrutamiento de proveedores.
Mistral Nemo se lanzó el 19 de julio de 2024. Su fecha límite de conocimientos es 30 de abril de 2024.