Favicon für mistralai

Mistral: Mistral Small 3

mistralai/mistral-small-24b-instruct-2501

Modellgewichte

Mistral Small 3 is a 24B-parameter language model optimized for low-latency performance across common AI tasks. Released under the Apache 2.0 license, it features both pre-trained and instruction-tuned versions designed for efficient local deployment.

The model achieves 81% accuracy on the MMLU benchmark and performs competitively with larger models like Llama 3.3 70B and Qwen 32B, while operating at three times the speed on equivalent hardware. Read the blog post about the model here.

Modalitäten
Eingabe- / Ausgabepreis
0,05 $ / 0,08 $pro 1 Mio.
Kontext
33K
Veröffentlicht
30. Jan. 2025
Wissensstand
Okt. 2023

Anbieter

Verschiedene Unternehmen hosten dasselbe Modell. OpenRouter leitet Ihre Anfrage je nach gewähltem Routing-Modus an eines davon weiter: Ausgewogen (Preis + Geschwindigkeit), Nitro (am schnellsten) oder Floor (am günstigsten).

  • Nicht beim Routing im Modus Standard verwendet:Warum diese Endpunkte nicht verwendet werden

Preise

Der durchschnittliche Preis, den Kunden tatsächlich für dieses Modell zahlen, neben den von Anbietern veröffentlichten Preisen. Durch Caching und Rabatte liegt der tatsächlich gezahlte Preis oft deutlich unter dem Listenpreis.

Gewichteter Durchschnitt

Eingabe
0,04976 $/Mio. Token
Ausgabe
0,07854 $/Mio. Token
Preisverlauf
Keine effektiven Preisdaten für diese Auswahl
  • Nicht beim Routing im Modus Standard verwendet:Warum diese Endpunkte nicht verwendet werden

Leistung

Der Durchsatz gibt an, wie schnell das Modell schreibt (Token pro Sekunde – höher ist besser). Die Latenz ist die gesamte Umlaufzeit (niedriger ist besser). TTFT ist die Zeit bis zum ersten Token – also die Wartezeit, bis etwas angezeigt wird (niedriger ist besser).

Durchsatz
43Token/s

P50, bester Wert über alle Anbieter hinweg

Latenz
0,32s

P50, bester Anbieter

Verfügbarkeit

Verfügbarkeit ist der prozentuale Anteil der letzten 3 Tage, in dem mindestens ein Anbieter auf Anfragen reagiert hat. Die Verfügbarkeit der Inferenz ist der prozentuale Anteil der Zeit, in der Inferenz erfolgreich bereitgestellt wurde. OpenRouter überwacht dies kontinuierlich und verwendet den nächstbesten Anbieter, wenn ein Anbieter einen Fehler zurückgibt.

Verfügbarkeit (3 Tage)Das Modell war erreichbar. Die Anfrage wurde an einen Anbieter weitergeleitet.
100,00 %
Verfügbarkeit (3 Tage)Das Modell hat über einen beliebigen Anbieter ein Inferenzergebnis zurückgegeben. Fehler und leere Antworten wirken sich negativ darauf aus.
98,84 %

Verfügbarkeit in den letzten 3 Tagen

Letzte 72 Stunden
Verfügbarkeit 98,84 %
Vor 3 TagenVor 2 TagenGesternJetzt

Verfügbarkeit in den letzten 24 Stunden

OpenRouter Availability
99,12 %

Wenn bei einem vorgelagerten Anbieter ein Fehler auftritt, können wir diesen durch die Weiterleitung an einen anderen funktionsfähigen Anbieter beheben, sofern Ihre Anfragefilter dies zulassen. Sie können programmgesteuert auf die Verfügbarkeitsdaten pro Anbieter zugreifen, und zwar über die Endpunkt-API. Erfahren Sie mehr über unsere Optionen für Lastverteilung und Anbieter-Routing.

Leistungsvergleiche

Ergebnisse standardisierter Bewertungen und eigene Ausgaben dieses Modells zu gemeinsamen Vergleichstest-Prompts. Höhere Prozentwerte sind besser – und jeder Rang zeigt, wo dieses Modell unter den anhand dieser Quelle bewerteten Modellen liegt.

Zusammenfassung der Benchmark-Ergebnisse für Mistral: Mistral Small 3 (Artificial Analysis)
QuelleBenchmarkErgebnis
Artificial AnalysisMistral Small 3 GPQA Diamond46.2%
Artificial AnalysisMistral Small 3 HLE3.8%
Artificial AnalysisMistral Small 3 IFBench26.4%
Artificial AnalysisMistral Small 3 τ²-Bench Telecom19.6%
Artificial AnalysisMistral Small 3 AA-LCR0.0%
Artificial AnalysisMistral Small 3 LiveCodeBench25.2%
Artificial AnalysisMistral Small 3 MMLU-Pro65.2%
Artificial AnalysisMistral Small 3 AIME 20254.3%
Artificial AnalysisMistral Small 3 AIME8.0%
Artificial AnalysisMistral Small 3 MATH-50071.5%

Apps

Öffentliche Apps, die den meisten Datenverkehr an dieses Modell senden. Ein guter Anhaltspunkt dafür, wie echte Produktionsworkloads aussehen – und ein Hinweis darauf, für welche Anwendungsfälle dieses Modell am besten geeignet ist.

2.
752MToken
3.
Favicon für https://www.hammerai.com/
HammerAI
660MToken
4.
524MToken
5.
139MToken
Rest von OpenRouter
334M
Top 5 Apps
47,8M

Aktivität

Token-Volumen und Anfrageaufkommen für dieses Modell im Zeitverlauf.

API

Direkt einsetzbarer Code zum Aufrufen dieses Modells. Die API von OpenRouter ist OpenAI-kompatibel – bei den meisten SDKs genügt es, die Basis-URL auszutauschen. Zwischen den Modellen ändert sich nur der unten stehende Modell-Slug.

Derzeit nicht über EU-regionales Routing verfügbar. Dokumentation zum regionsinternen Routing

Häufig gestellte Fragen

Weitere Modelle entdecken