Favicon für openai

OpenAI: GPT-4 Turbo (batch)

openai/gpt-4-turbo:batch

The latest GPT-4 Turbo model with vision capabilities. Vision requests can now use JSON mode and function calling.

Training data: up to December 2023.

Modalitäten
Eingabe- / Ausgabepreis
5 $ / 15 $pro 1 Mio.
Kontext
128K
Veröffentlicht
9. Apr. 2024
Wissensstand
Dez. 2023

Anbieter

Dieses Modell wird von einem Anbieter gehostet. OpenRouter leitet jede Anfrage ohne Routing weiter.

Preise

Der durchschnittliche Preis, den Kunden tatsächlich für dieses Modell zahlen, neben den von Anbietern veröffentlichten Preisen. Durch Caching und Rabatte liegt der tatsächlich gezahlte Preis oft deutlich unter dem Listenpreis.

Preisverlauf

Leistung

Der Durchsatz gibt an, wie schnell das Modell schreibt (Token pro Sekunde – höher ist besser). Die Latenz ist die gesamte Umlaufzeit (niedriger ist besser). TTFT ist die Zeit bis zum ersten Token – also die Wartezeit, bis etwas angezeigt wird (niedriger ist besser).

Verfügbarkeit

Verfügbarkeit ist der prozentuale Anteil der letzten 3 Tage, in dem mindestens ein Anbieter auf Anfragen reagiert hat. Die Verfügbarkeit der Inferenz ist der prozentuale Anteil der Zeit, in der Inferenz erfolgreich bereitgestellt wurde. OpenRouter überwacht dies kontinuierlich und verwendet den nächstbesten Anbieter, wenn ein Anbieter einen Fehler zurückgibt.

Noch nicht genügend Daten zur Verfügbarkeit für eine Anzeige vorhanden.

Wenn bei einem vorgelagerten Anbieter ein Fehler auftritt, können wir diesen durch die Weiterleitung an einen anderen funktionsfähigen Anbieter beheben, sofern Ihre Anfragefilter dies zulassen. Sie können programmgesteuert auf die Verfügbarkeitsdaten pro Anbieter zugreifen, und zwar über die Endpunkt-API. Erfahren Sie mehr über unsere Optionen für Lastverteilung und Anbieter-Routing.

Leistungsvergleiche

Ergebnisse standardisierter Bewertungen und eigene Ausgaben dieses Modells zu gemeinsamen Vergleichstest-Prompts. Höhere Prozentwerte sind besser – und jeder Rang zeigt, wo dieses Modell unter den anhand dieser Quelle bewerteten Modellen liegt.

Zusammenfassung der Benchmark-Ergebnisse für OpenAI: GPT-4 Turbo (batch) (Artificial Analysis)
QuelleBenchmarkErgebnis
Artificial AnalysisGPT-4 Turbo Coding Index21,5
Artificial AnalysisGPT-4 Turbo HLE3.1%
Artificial AnalysisGPT-4 Turbo LiveCodeBench29.1%
Artificial AnalysisGPT-4 Turbo MMLU-Pro69.4%
Artificial AnalysisGPT-4 Turbo AIME15.0%
Artificial AnalysisGPT-4 Turbo MATH-50073.7%

Apps

Öffentliche Apps, die den meisten Datenverkehr an dieses Modell senden. Ein guter Anhaltspunkt dafür, wie echte Produktionsworkloads aussehen – und ein Hinweis darauf, für welche Anwendungsfälle dieses Modell am besten geeignet ist.

Für Apps, die dieses Modell verwenden, liegen noch nicht genügend Daten vor.

Aktivität

Token-Volumen und Anfrageaufkommen für dieses Modell im Zeitverlauf.

API

Direkt einsetzbarer Code zum Aufrufen dieses Modells. Die API von OpenRouter ist OpenAI-kompatibel – bei den meisten SDKs genügt es, die Basis-URL auszutauschen. Zwischen den Modellen ändert sich nur der unten stehende Modell-Slug.

Derzeit nicht über EU-regionales Routing verfügbar. Dokumentation zum regionsinternen Routing

Häufig gestellte Fragen