
Mistral: Mixtral 8x22B Instruct
mistralai/mixtral-8x22b-instruct
Pesos del modeloMistral's official instruct fine-tuned version of Mixtral 8x22B. It uses 39B active parameters out of 141B, offering unparalleled cost efficiency for its size. Its strengths include:
- strong math, coding, and reasoning
- large context length (64k)
- fluency in English, French, Italian, German, and Spanish
See benchmarks on the launch announcement hereOpens in new tab. #moe
Proveedores
Distintas empresas alojan el mismo modelo. OpenRouter enruta su solicitud a una de ellas según el modo de enrutamiento que elija: Balanced (precio + velocidad), Nitro (el más rápido) o Floor (el más económico).
| 2,00 US$ | 6,00 US$ | 0,20 US$ | 0,48s | 98 tok/s | ||
| 2,20 US$ | 6,60 US$ | 0,22 US$ | 1,03s | 113 tok/s |
Entrada 2,00 US$ / Salida 6,00 US$98 tok/s99,55 % de tiempo de actividad
Entrada 2,20 US$ / Salida 6,60 US$113 tok/s98,50 % de tiempo de actividad
Precios
El precio medio que los clientes pagan realmente por este modelo, junto a los precios que publican los proveedores. El uso de caché y los descuentos hacen que el precio realmente pagado a menudo sea muy inferior al publicado.
Media ponderada
Mixtral 8x22B Instruct — Historial de precios
| 1,27 US$ | 6,60 US$ | 47,2 % | 55,3 % | ||
| 1,31 US$ | 6,00 US$ | 38,2 % | 44,7 % |
- En vigor en 1,27 US$ / Salida efectiva 6,60 US$Proporción de tókenes55,3 %
- En vigor en 1,31 US$ / Salida efectiva 6,00 US$Proporción de tókenes44,7 %
Rendimiento
La velocidad de generación indica lo rápido que escribe el modelo (tokens por segundo: cuanto mayor, mejor). La latencia es el tiempo total de ida y vuelta (cuanto menor, mejor). TTFT es el tiempo hasta el primer token: cuánto tarda en aparecer algo en pantalla (cuanto menor, mejor).
P50, el mejor entre los proveedores
P50, mejor proveedor
Tiempo de actividad
El tiempo de actividad es el porcentaje de los últimos 3 días en que al menos un proveedor respondía a las solicitudes. La disponibilidad es el porcentaje de tiempo en que la inferencia se sirvió correctamente. OpenRouter supervisa continuamente y utiliza el siguiente mejor proveedor cuando uno devuelve un error.
Disponibilidad durante los últimos 3 días
Últimas 72 horasDisponibilidad en las últimas 24 horas
Cuando se produce un error en un proveedor ascendente, podemos recuperarnos enrutando la solicitud a otro proveedor que funcione correctamente, si los filtros de su solicitud lo permiten. Puede acceder mediante programación a los datos de tiempo de actividad de cada proveedor a través de la API de endpoints. Obtenga más información sobre nuestras opciones de equilibrio de carga y enrutamiento de proveedores.
Pruebas de rendimiento
Puntuaciones en evaluaciones estandarizadas y respuestas de este modelo a instrucciones compartidas de las pruebas de referencia. Los porcentajes más altos son mejores, y cada posición indica dónde se sitúa este modelo entre los modelos evaluados en esa fuente.
| Fuente | Prueba de rendimiento | Puntuación |
|---|---|---|
| Artificial Analysis | Mixtral 8x22B Instruct GPQA Diamond | 33.2% |
| Artificial Analysis | Mixtral 8x22B Instruct HLE | 4.0% |
| Artificial Analysis | Mixtral 8x22B Instruct LiveCodeBench | 14.8% |
| Artificial Analysis | Mixtral 8x22B Instruct MMLU-Pro | 53.7% |
| Artificial Analysis | Mixtral 8x22B Instruct AIME | 0.0% |
| Artificial Analysis | Mixtral 8x22B Instruct MATH-500 | 54.5% |
Aplicaciones
Aplicaciones públicas que envían más tráfico a este modelo. Una buena señal de cómo son las cargas de trabajo reales en producción, y una pista sobre los casos de uso para los que este modelo es más adecuado.
Actividad
Volumen de tokens y tráfico de solicitudes a este modelo a lo largo del tiempo.
API
Código listo para usar para llamar a este modelo. La API de OpenRouter es compatible con OpenAI: la mayoría de los SDK funcionan con solo cambiar la URL base. Lo único que cambia entre modelos es el identificador del modelo que aparece a continuación.
Disponible mediante enrutamiento dentro de la región de la UE
Mistral: Mixtral 8x22B Instruct está disponible mediante el enrutamiento dentro de la región de la UE. Las solicitudes enviadas a eu.dynamicsinfo.com se descifran en la UE y se enrutan únicamente a endpoints compartidos de proveedores en Europa (la UE/el EEE, el Reino Unido y Suiza).
- Proveedores en Europa
- Mistral
- Precios en Europa
- Mistral: 2,20 US$/M tokens de entrada, 6,60 US$/M tokens de salida
- URL base
https://eu.dynamicsinfo.com/api/v1- Plan
- Requiere Business o Enterprise. Autoservicio en Business: sin contrato ni mínimo mensual. OpenRouter Business para el enrutamiento dentro de la UE
Falla de forma cerrada: si no hay ningún endpoint de proveedor compartido disponible en Europa, la solicitud devuelve un error en lugar de salir de la región. Las solicitudes atendidas con su propia clave BYOK se dirigen a la región de su despliegue, que usted controla. Documentación de enrutamiento dentro de la región
Preguntas frecuentes
Mistral's official instruct fine-tuned version of Mixtral 8x22B. It uses 39B active parameters out of 141B, offering unparalleled cost efficiency for its size. Its strengths include: - strong math, coding, and reasoning - large context length (64k) - fluency in English, French, Italian, German, and Spanish See benchmarks on the launch announcement here. #moe
Mixtral 8x22B Instruct cuesta 2,00 US$/M de tokens de entrada y 6,00 US$/M de tókenes de salida, con tarifas independientes para Cache Read a 0,20 US$/M tokens.
Mixtral 8x22B Instruct tiene una ventana de contexto de 65.536 tókenes.
Sí. Mixtral 8x22B Instruct admite tools y tool_choice para llamadas a funciones. También admite salidas estructuradas mediante un esquema JSON en response_format.
Mixtral 8x22B Instruct acepta texto y archivos como PDF como entrada y devuelve texto.
Mixtral 8x22B Instruct está disponible a través de 1 proveedor en OpenRouter: Mistral.
Mistral Large 4, Mistral Medium 3.5, Mistral Small 4 y 16 más son otros modelos de texto de Mistral.
Mixtral 8x22B Instruct se lanzó el 17 de abril de 2024. Su fecha límite de conocimientos es 31 de enero de 2024.