
Mistral: Mixtral 8x22B Instruct
mistralai/mixtral-8x22b-instruct
Poids du modèleMistral's official instruct fine-tuned version of Mixtral 8x22B. It uses 39B active parameters out of 141B, offering unparalleled cost efficiency for its size. Its strengths include:
- strong math, coding, and reasoning
- large context length (64k)
- fluency in English, French, Italian, German, and Spanish
See benchmarks on the launch announcement hereOpens in new tab. #moe
Fournisseurs
Différentes entreprises hébergent le même modèle. OpenRouter achemine votre requête vers l’une d’elles selon le mode de routage que vous choisissez : Équilibré (prix + vitesse), Nitro (le plus rapide) ou Floor (le moins cher).
| 2,00 $US | 6,00 $US | 0,20 $US | 0,55s | 98 tok/s | ||
| 2,20 $US | 6,60 $US | 0,22 $US | 0,59s | 113 tok/s |
Entrée 2,00 $US / Sortie 6,00 $US98 tok/s99,55 % de disponibilité
Entrée 2,20 $US / Sortie 6,60 $US113 tok/s98,50 % de disponibilité
Tarification
Le prix moyen que les clients paient réellement pour ce modèle, à côté des prix affichés par les fournisseurs. Grâce à la mise en cache et aux remises, le prix réellement payé est souvent bien inférieur au prix affiché.
Moyenne pondérée
Mixtral 8x22B Instruct — Historique des prix
| 1,30 $US | 6,60 $US | 45,6 % | 56,5 % | ||
| 1,34 $US | 6,00 $US | 36,8 % | 43,5 % |
- Prix effectif en entrée 1,30 $US / Sortie effective 6,60 $USPart des jetons56,5 %
- Prix effectif en entrée 1,34 $US / Sortie effective 6,00 $USPart des jetons43,5 %
Performances
Le débit est la vitesse à laquelle le modèle écrit (jetons par seconde — plus il est élevé, mieux c’est). La latence est le temps total d’aller-retour (plus il est faible, mieux c’est). Le TTFT est le délai avant le premier jeton — le temps avant de voir quelque chose apparaître (plus il est faible, mieux c’est).
P50, meilleur résultat tous fournisseurs confondus
P50, meilleur fournisseur
Disponibilité
La disponibilité correspond au pourcentage des 3 derniers jours pendant lequel au moins un fournisseur répondait aux requêtes. La disponibilité du service correspond au pourcentage de temps pendant lequel l’inférence a été assurée avec succès. OpenRouter surveille en continu les fournisseurs et utilise le meilleur fournisseur suivant lorsque l’un d’eux renvoie une erreur.
Disponibilité au cours des 3 derniers jours
72 dernières heuresDisponibilité au cours des dernières 24 heures
Lorsqu’une erreur survient chez un fournisseur en amont, nous pouvons rétablir le service en routant la requête vers un autre fournisseur opérationnel, si les filtres de votre requête le permettent. Vous pouvez accéder par programmation aux données de disponibilité de chaque fournisseur via l’ API des points de terminaison. Découvrez nos options d’ équilibrage de charge et de routage des fournisseurs.
Évaluations comparatives
Scores aux évaluations standardisées et réponses de ce modèle aux prompts communs des tests de référence. Des pourcentages plus élevés sont meilleurs — et chaque rang indique la position de ce modèle parmi les modèles évalués sur cette source.
| Source | Test de performance | Score |
|---|---|---|
| Artificial Analysis | Mixtral 8x22B Instruct GPQA Diamond | 33.2% |
| Artificial Analysis | Mixtral 8x22B Instruct HLE | 4.0% |
| Artificial Analysis | Mixtral 8x22B Instruct LiveCodeBench | 14.8% |
| Artificial Analysis | Mixtral 8x22B Instruct MMLU-Pro | 53.7% |
| Artificial Analysis | Mixtral 8x22B Instruct AIME | 0.0% |
| Artificial Analysis | Mixtral 8x22B Instruct MATH-500 | 54.5% |
Applications
Applications publiques qui envoient le plus de trafic à ce modèle. Un bon indicateur des charges de travail réelles en production — et un aperçu des cas d’usage auxquels ce modèle convient le mieux.
Activité
Volume de jetons et trafic des requêtes vers ce modèle au fil du temps.
API
Code prêt à l’emploi pour appeler ce modèle. L’API d’OpenRouter est compatible avec OpenAI — la plupart des SDK fonctionnent en remplaçant simplement l’URL de base. Seul le slug du modèle ci-dessous change d’un modèle à l’autre.
Disponible via le routage au sein de la région UE
Mistral: Mixtral 8x22B Instruct est disponible via le routage intrarégional dans l’UE. Les requêtes envoyées à eu.dynamicsinfo.com sont déchiffrées dans l’UE et acheminées uniquement vers des points de terminaison partagés de fournisseurs en Europe (UE/EEE, Royaume-Uni et Suisse).
- Fournisseurs en Europe
- Mistral
- Tarifs en Europe
- Mistral : 2,20 $US/M tokens en entrée, 6,60 $US/M tokens en sortie
- URL de base
https://eu.dynamicsinfo.com/api/v1- Offre
- Nécessite Business ou Enterprise. En libre-service avec Business : sans contrat ni minimum mensuel. OpenRouter Business pour le routage au sein de l’UE
Blocage en cas d’échec : si aucun point de terminaison de fournisseur partagé en Europe n’est disponible, la requête renvoie une erreur au lieu de quitter la région. Les requêtes traitées avec votre propre clé BYOK sont acheminées vers la région de votre déploiement, que vous contrôlez. Documentation sur le routage intrarégional
Questions fréquentes
Mistral's official instruct fine-tuned version of Mixtral 8x22B. It uses 39B active parameters out of 141B, offering unparalleled cost efficiency for its size. Its strengths include: - strong math, coding, and reasoning - large context length (64k) - fluency in English, French, Italian, German, and Spanish See benchmarks on the launch announcement here. #moe
Mixtral 8x22B Instruct coûte 2,00 $US/M de jetons d’entrée et 6,00 $US/M de jetons de sortie, avec des tarifs distincts pour Cache Read à 0,20 $US/M tokens.
Mixtral 8x22B Instruct dispose d’une fenêtre de contexte de 65 536 jetons.
Oui. Mixtral 8x22B Instruct accepte tools et tool_choice pour l’appel de fonctions. Il prend également en charge les sorties structurées via un schéma JSON dans response_format.
Mixtral 8x22B Instruct accepte texte et fichiers tels que des PDF en entrée et renvoie texte.
Mixtral 8x22B Instruct est servi par 1 fournisseur sur OpenRouter : Mistral.
Mistral Large 4, Mistral Medium 3.5, Mistral Small 4 et 16 de plus sont d’autres modèles de type texte de Mistral.
Mixtral 8x22B Instruct est sorti le 17 avril 2024. Ses connaissances s’arrêtent au 31 janvier 2024.