Favicon für openai

OpenAI: GPT-4o-mini (2024-07-18)

openai/gpt-4o-mini-2024-07-18

GPT-4o mini is OpenAI's newest model after GPT-4 Omni, supporting both text and image inputs with text outputs.

As their most advanced small model, it is many multiples more affordable than other recent frontier models, and more than 60% cheaper than GPT-3.5 Turbo. It maintains SOTA intelligence, while being significantly more cost-effective.

GPT-4o mini achieves an 82% score on MMLU and presently ranks higher than GPT-4 on chat preferences common leaderboards.

Check out the launch announcement to learn more.

#multimodal

Modalitäten
Eingabe- / Ausgabepreis
0,15 $ / 0,60 $pro 1 Mio.
Kontext
128K
Veröffentlicht
18. Juli 2024
Wissensstand
Okt. 2023

Anbieter

Dieses Modell wird von einem Anbieter gehostet. OpenRouter leitet jede Anfrage ohne Routing weiter.

Preise

Der durchschnittliche Preis, den Kunden tatsächlich für dieses Modell zahlen, neben den von Anbietern veröffentlichten Preisen. Durch Caching und Rabatte liegt der tatsächlich gezahlte Preis oft deutlich unter dem Listenpreis.

Gewichteter Durchschnitt

Eingabe
0,1224 $/Mio. Token
Ausgabe
0,5961 $/Mio. Token
Preisverlauf
Keine effektiven Preisdaten für diese Auswahl

Leistung

Der Durchsatz gibt an, wie schnell das Modell schreibt (Token pro Sekunde – höher ist besser). Die Latenz ist die gesamte Umlaufzeit (niedriger ist besser). TTFT ist die Zeit bis zum ersten Token – also die Wartezeit, bis etwas angezeigt wird (niedriger ist besser).

Durchsatz
57Token/s

P50, bester Wert über alle Anbieter hinweg

Latenz
0,68s

P50, bester Anbieter

Verfügbarkeit

Verfügbarkeit ist der prozentuale Anteil der letzten 3 Tage, in dem mindestens ein Anbieter auf Anfragen reagiert hat. Die Verfügbarkeit der Inferenz ist der prozentuale Anteil der Zeit, in der Inferenz erfolgreich bereitgestellt wurde. OpenRouter überwacht dies kontinuierlich und verwendet den nächstbesten Anbieter, wenn ein Anbieter einen Fehler zurückgibt.

Verfügbarkeit (3 Tage)Das Modell war erreichbar. Die Anfrage wurde an einen Anbieter weitergeleitet.
100,00 %
Verfügbarkeit (3 Tage)Das Modell hat über einen beliebigen Anbieter ein Inferenzergebnis zurückgegeben. Fehler und leere Antworten wirken sich negativ darauf aus.
99,99 %

Verfügbarkeit in den letzten 3 Tagen

Letzte 72 Stunden
Verfügbarkeit 99,99 %
Vor 3 TagenVor 2 TagenGesternJetzt

Verfügbarkeit in den letzten 24 Stunden

OpenRouter Availability
99,99 %

Wenn bei einem vorgelagerten Anbieter ein Fehler auftritt, können wir diesen durch die Weiterleitung an einen anderen funktionsfähigen Anbieter beheben, sofern Ihre Anfragefilter dies zulassen. Sie können programmgesteuert auf die Verfügbarkeitsdaten pro Anbieter zugreifen, und zwar über die Endpunkt-API. Erfahren Sie mehr über unsere Optionen für Lastverteilung und Anbieter-Routing.

Leistungsvergleiche

Ergebnisse standardisierter Bewertungen und eigene Ausgaben dieses Modells zu gemeinsamen Vergleichstest-Prompts. Höhere Prozentwerte sind besser – und jeder Rang zeigt, wo dieses Modell unter den anhand dieser Quelle bewerteten Modellen liegt.

Zusammenfassung der Benchmark-Ergebnisse für OpenAI: GPT-4o-mini (2024-07-18) (Vals AI)
QuelleBenchmarkErgebnis
Vals AIGPT 4o Mini AIME11.5%
Vals AIGPT 4o Mini CorpFin v245.5%
Vals AIGPT 4o Mini Finance Agent v110.8%
Vals AIGPT 4o Mini GPQA Diamond44.2%
Vals AIGPT 4o Mini LiveCodeBench26.4%
Vals AIGPT 4o Mini MATH 50072.6%
Vals AIGPT 4o Mini MedQA72.4%
Vals AIGPT 4o Mini MGSM86.2%
Vals AIGPT 4o Mini MMLU Pro62.7%
Vals AIGPT 4o Mini MMMU Pro56.6%
Vals AIGPT 4o Mini MortgageTax54.5%
Vals AIGPT 4o Mini TaxEval v260.5%

Apps

Öffentliche Apps, die den meisten Datenverkehr an dieses Modell senden. Ein guter Anhaltspunkt dafür, wie echte Produktionsworkloads aussehen – und ein Hinweis darauf, für welche Anwendungsfälle dieses Modell am besten geeignet ist.

Rest von OpenRouter
1,04B
Top 5 Apps
35,6M

Aktivität

Token-Volumen und Anfrageaufkommen für dieses Modell im Zeitverlauf.

API

Direkt einsetzbarer Code zum Aufrufen dieses Modells. Die API von OpenRouter ist OpenAI-kompatibel – bei den meisten SDKs genügt es, die Basis-URL auszutauschen. Zwischen den Modellen ändert sich nur der unten stehende Modell-Slug.

Derzeit nicht über EU-regionales Routing verfügbar. Dokumentation zum regionsinternen Routing

Häufig gestellte Fragen