
Mistral: Mixtral 8x22B Instruct
mistralai/mixtral-8x22b-instruct
ModellgewichteMistral's official instruct fine-tuned version of Mixtral 8x22B. It uses 39B active parameters out of 141B, offering unparalleled cost efficiency for its size. Its strengths include:
- strong math, coding, and reasoning
- large context length (64k)
- fluency in English, French, Italian, German, and Spanish
See benchmarks on the launch announcement hereOpens in new tab. #moe
Anbieter
Verschiedene Unternehmen hosten dasselbe Modell. OpenRouter leitet Ihre Anfrage je nach gewähltem Routing-Modus an eines davon weiter: Ausgewogen (Preis + Geschwindigkeit), Nitro (am schnellsten) oder Floor (am günstigsten).
| 2,00 $ | 6,00 $ | 0,20 $ | 0,42s | 90 tok/s | ||
| 2,20 $ | 6,60 $ | 0,22 $ | 0,53s | 93 tok/s |
Eingabe 2,00 $ / Ausgabe 6,00 $90 tok/s99,45 % Verfügbarkeit
Eingabe 2,20 $ / Ausgabe 6,60 $93 tok/s98,00 % Verfügbarkeit
Preise
Der durchschnittliche Preis, den Kunden tatsächlich für dieses Modell zahlen, neben den von Anbietern veröffentlichten Preisen. Durch Caching und Rabatte liegt der tatsächlich gezahlte Preis oft deutlich unter dem Listenpreis.
Gewichteter Durchschnitt
Mixtral 8x22B Instruct — Preisverlauf
| 1,17 $ | 6,60 $ | 52,2 % | 74,0 % | ||
| 1,21 $ | 6,00 $ | 43,7 % | 26,0 % |
- Wirksam in 1,17 $ / Effektive Ausgabekosten 6,60 $Token-Anteil74,0 %
- Wirksam in 1,21 $ / Effektive Ausgabekosten 6,00 $Token-Anteil26,0 %
Leistung
Der Durchsatz gibt an, wie schnell das Modell schreibt (Token pro Sekunde – höher ist besser). Die Latenz ist die gesamte Umlaufzeit (niedriger ist besser). TTFT ist die Zeit bis zum ersten Token – also die Wartezeit, bis etwas angezeigt wird (niedriger ist besser).
P50, bester Wert über alle Anbieter hinweg
P50, bester Anbieter
Verfügbarkeit
Verfügbarkeit ist der prozentuale Anteil der letzten 3 Tage, in dem mindestens ein Anbieter auf Anfragen reagiert hat. Die Verfügbarkeit der Inferenz ist der prozentuale Anteil der Zeit, in der Inferenz erfolgreich bereitgestellt wurde. OpenRouter überwacht dies kontinuierlich und verwendet den nächstbesten Anbieter, wenn ein Anbieter einen Fehler zurückgibt.
Verfügbarkeit in den letzten 3 Tagen
Letzte 72 StundenVerfügbarkeit in den letzten 24 Stunden
Wenn bei einem vorgelagerten Anbieter ein Fehler auftritt, können wir diesen durch die Weiterleitung an einen anderen funktionsfähigen Anbieter beheben, sofern Ihre Anfragefilter dies zulassen. Sie können programmgesteuert auf die Verfügbarkeitsdaten pro Anbieter zugreifen, und zwar über die Endpunkt-API. Erfahren Sie mehr über unsere Optionen für Lastverteilung und Anbieter-Routing.
Leistungsvergleiche
Ergebnisse standardisierter Bewertungen und eigene Ausgaben dieses Modells zu gemeinsamen Vergleichstest-Prompts. Höhere Prozentwerte sind besser – und jeder Rang zeigt, wo dieses Modell unter den anhand dieser Quelle bewerteten Modellen liegt.
| Quelle | Benchmark | Ergebnis |
|---|---|---|
| Artificial Analysis | Mixtral 8x22B Instruct GPQA Diamond | 33.2% |
| Artificial Analysis | Mixtral 8x22B Instruct HLE | 4.0% |
| Artificial Analysis | Mixtral 8x22B Instruct LiveCodeBench | 14.8% |
| Artificial Analysis | Mixtral 8x22B Instruct MMLU-Pro | 53.7% |
| Artificial Analysis | Mixtral 8x22B Instruct AIME | 0.0% |
| Artificial Analysis | Mixtral 8x22B Instruct MATH-500 | 54.5% |
Apps
Öffentliche Apps, die den meisten Datenverkehr an dieses Modell senden. Ein guter Anhaltspunkt dafür, wie echte Produktionsworkloads aussehen – und ein Hinweis darauf, für welche Anwendungsfälle dieses Modell am besten geeignet ist.
Aktivität
Token-Volumen und Anfrageaufkommen für dieses Modell im Zeitverlauf.
API
Direkt einsetzbarer Code zum Aufrufen dieses Modells. Die API von OpenRouter ist OpenAI-kompatibel – bei den meisten SDKs genügt es, die Basis-URL auszutauschen. Zwischen den Modellen ändert sich nur der unten stehende Modell-Slug.
Über regionales Routing innerhalb der EU verfügbar
Mistral: Mixtral 8x22B Instruct ist über regionsinternes EU-Routing verfügbar. An eu.dynamicsinfo.com gesendete Anfragen werden in der EU entschlüsselt und ausschließlich an gemeinsam genutzte Anbieter-Endpunkte in Europa (EU/EWR, Vereinigtes Königreich und Schweiz) weitergeleitet.
- Anbieter in Europa
- Mistral
- Preise in Europa
- Mistral: 2,20 $/M tokens Eingabe, 6,60 $/M tokens Ausgabe
- Basis-URL
https://eu.dynamicsinfo.com/api/v1- Tarif
- Erfordert Business oder Enterprise. Self-Service mit Business: kein Vertrag, kein monatlicher Mindestbetrag. OpenRouter Business für Routing innerhalb der EU
Im Fehlerfall gesperrt: Wenn kein gemeinsam genutzter Anbieter-Endpunkt in Europa verfügbar ist, schlägt die Anfrage fehl, statt die Region zu verlassen. Anfragen, die mit Ihrem eigenen BYOK-Schlüssel bedient werden, gehen an die Region Ihrer Bereitstellung, die Sie selbst kontrollieren. Dokumentation zum regionsinternen Routing
Häufig gestellte Fragen
Mistral's official instruct fine-tuned version of Mixtral 8x22B. It uses 39B active parameters out of 141B, offering unparalleled cost efficiency for its size. Its strengths include: - strong math, coding, and reasoning - large context length (64k) - fluency in English, French, Italian, German, and Spanish See benchmarks on the launch announcement here. #moe
Mixtral 8x22B Instruct kostet 2,00 $/M Eingabe-Token und 6,00 $/M Ausgabe-Token, mit separaten Tarifen für Cache Read für 0,20 $/M tokens.
Mixtral 8x22B Instruct hat ein Kontextfenster von 65.536 Token.
Ja. Mixtral 8x22B Instruct akzeptiert tools und tool_choice für Funktionsaufrufe. Es unterstützt auch strukturierte Ausgaben über ein JSON-Schema in response_format.
Mixtral 8x22B Instruct akzeptiert Text und Dateien wie PDFs als Eingabe und gibt Text zurück.
Mixtral 8x22B Instruct wird auf OpenRouter von 1 Anbieter bereitgestellt: Mistral.
Mistral Large 4, Mistral Medium 3.5, Mistral Small 4 und 16 weitere sind weitere Modelle von Mistral für die Modalität Text.
Mixtral 8x22B Instruct wurde am 17. April 2024 veröffentlicht. Der Wissensstand reicht bis zum 31. Januar 2024.