This model offers four times the context length of gpt-3.5-turbo, allowing it to support approximately 20 pages of text in a single request at a higher cost. Training data: up to Sep 2021.
Anbieter
Dieses Modell wird von einem Anbieter gehostet. OpenRouter leitet jede Anfrage ohne Routing weiter.
| 3,00 $ | 4,00 $ | 0,37s | 80 tok/s |
- Eingabe 3,00 $ / Ausgabe 4,00 $80 tok/s100,00 % Verfügbarkeit
Preise
Der durchschnittliche Preis, den Kunden tatsächlich für dieses Modell zahlen, neben den von Anbietern veröffentlichten Preisen. Durch Caching und Rabatte liegt der tatsächlich gezahlte Preis oft deutlich unter dem Listenpreis.
Gewichteter Durchschnitt
GPT-3.5 Turbo 16k — Preisverlauf
| 3,00 $ | 4,00 $ | 9,8 % | 100,0 % |
- Wirksam in 3,00 $ / Effektive Ausgabekosten 4,00 $Token-Anteil100,0 %
Leistung
Der Durchsatz gibt an, wie schnell das Modell schreibt (Token pro Sekunde – höher ist besser). Die Latenz ist die gesamte Umlaufzeit (niedriger ist besser). TTFT ist die Zeit bis zum ersten Token – also die Wartezeit, bis etwas angezeigt wird (niedriger ist besser).
P50, bester Wert über alle Anbieter hinweg
P50, bester Anbieter
Verfügbarkeit
Verfügbarkeit ist der prozentuale Anteil der letzten 3 Tage, in dem mindestens ein Anbieter auf Anfragen reagiert hat. Die Verfügbarkeit der Inferenz ist der prozentuale Anteil der Zeit, in der Inferenz erfolgreich bereitgestellt wurde. OpenRouter überwacht dies kontinuierlich und verwendet den nächstbesten Anbieter, wenn ein Anbieter einen Fehler zurückgibt.
Verfügbarkeit in den letzten 3 Tagen
Letzte 72 StundenVerfügbarkeit in den letzten 24 Stunden
Wenn bei einem vorgelagerten Anbieter ein Fehler auftritt, können wir diesen durch die Weiterleitung an einen anderen funktionsfähigen Anbieter beheben, sofern Ihre Anfragefilter dies zulassen. Sie können programmgesteuert auf die Verfügbarkeitsdaten pro Anbieter zugreifen, und zwar über die Endpunkt-API. Erfahren Sie mehr über unsere Optionen für Lastverteilung und Anbieter-Routing.
Apps
Öffentliche Apps, die den meisten Datenverkehr an dieses Modell senden. Ein guter Anhaltspunkt dafür, wie echte Produktionsworkloads aussehen – und ein Hinweis darauf, für welche Anwendungsfälle dieses Modell am besten geeignet ist.
Aktivität
Token-Volumen und Anfrageaufkommen für dieses Modell im Zeitverlauf.
API
Direkt einsetzbarer Code zum Aufrufen dieses Modells. Die API von OpenRouter ist OpenAI-kompatibel – bei den meisten SDKs genügt es, die Basis-URL auszutauschen. Zwischen den Modellen ändert sich nur der unten stehende Modell-Slug.
Derzeit nicht über EU-regionales Routing verfügbar. Dokumentation zum regionsinternen Routing
Häufig gestellte Fragen
This model offers four times the context length of gpt-3.5-turbo, allowing it to support approximately 20 pages of text in a single request at a higher cost. Training data: up to Sep 2021.
GPT-3.5 Turbo 16k kostet 3,00 $/M Eingabe-Token und 4,00 $/M Ausgabe-Token.
GPT-3.5 Turbo 16k hat ein Kontextfenster von 16.385 Token. Es unterstützt bis zu 4.096 Completion-Token.
Ja. GPT-3.5 Turbo 16k akzeptiert tools und tool_choice für Funktionsaufrufe. Es unterstützt auch strukturierte Ausgaben über ein JSON-Schema in response_format.
GPT-3.5 Turbo 16k wird auf OpenRouter von 1 Anbieter bereitgestellt: Azure.
GPT-6.2 Astra Pro, GPT-6.2 Astra, GPT-6.2 Sol Pro und 62 weitere sind weitere Modelle von OpenAI für die Modalität Text.
GPT-3.5 Turbo 16k wurde am 28. August 2023 veröffentlicht. Der Wissensstand reicht bis zum 30. September 2021.