This model offers four times the context length of gpt-3.5-turbo, allowing it to support approximately 20 pages of text in a single request at a higher cost. Training data: up to Sep 2021.
プロバイダー
このモデルは単一のプロバイダーでホストされています。OpenRouter はルーティングせずにすべてのリクエストを転送します。
| $3.00 | $4.00 | 0.85s | 95 tok/s |
- 入力 $3.00 / 出力 $4.0095 tok/s稼働率 100.00%
料金
プロバイダーが提示する価格と並べて、このモデルに対して顧客が実際に支払う平均価格を表示しています。キャッシュと割引により、実際の支払価格は表示価格を大幅に下回ることがよくあります。
加重平均
GPT-3.5 Turbo 16k — 料金履歴
| $3.00 | $4.00 | 9.8% | 100.0% |
- 適用まで $3.00 / 実効出力 $4.00トークンシェア100.0%
パフォーマンス
スループットはモデルが出力する速さです(毎秒のトークン数で、数値が高いほど優れています)。レイテンシは往復にかかる合計時間です(短いほど優れています)。TTFT は最初のトークンが出力されるまでの時間、つまり何かが表示され始めるまでの時間です(短いほど優れています)。
P50、プロバイダー全体での最良値
P50、最適なプロバイダー
稼働率
稼働率は、過去 3 日間に少なくとも一社のプロバイダーがリクエストに応答していた時間の割合です。可用性は、推論が正常に提供された時間の割合です。OpenRouter は継続的に監視し、プロバイダーがエラーを返すと、次に最適なプロバイダーを使用します。
過去 3 日間の可用性
過去 72 時間過去 24 時間の可用性
上流のプロバイダーでエラーが発生した場合、リクエストフィルターが許可していれば、別の正常なプロバイダーにルーティングして復旧できます。プロバイダーごとの稼働率データにプログラムでアクセスするには Endpoints APIを利用できます。詳しくは、 負荷分散とプロバイダールーティングのオプションをご覧ください。
アプリ
このモデルに最も多くのトラフィックを送信している公開アプリです。実際の本番ワークロードを把握するための有力な指標であり、このモデルに最も適したユースケースを知る手がかりにもなります。
アクティビティ
このモデルのトークン量とリクエストトラフィックの経時変化です。
API
このモデルを呼び出すために、そのまま使えるコードです。OpenRouter の API は OpenAI 互換のため、ほとんどの SDK はベース URL を変更するだけで動作します。モデル間で変わるのは、下記のモデルスラッグだけです。
現在、EU 域内ルーティングでは利用できません。 リージョン内ルーティングのドキュメント
よくある質問
This model offers four times the context length of gpt-3.5-turbo, allowing it to support approximately 20 pages of text in a single request at a higher cost. Training data: up to Sep 2021.
GPT-3.5 Turbo 16k の料金は $3.00/M 入力トークン と $4.00/M 出力トークン です。
GPT-3.5 Turbo 16k のコンテキストウィンドウは 16,385 トークンです。最大 4,096 トークンの補完に対応しています。
はい。GPT-3.5 Turbo 16k は関数呼び出し用の tools と tool_choice を受け付けます。 response_format の JSON スキーマによる構造化出力にも対応しています。
GPT-3.5 Turbo 16k は OpenRouter 上で 1 社のプロバイダー(Azure)によって提供されています。
GPT-6.2 Astra Pro, GPT-6.2 Astra, GPT-6.2 Sol Pro と他 62 件 は、OpenAI のその他の テキスト モデルです。
GPT-3.5 Turbo 16k は 2023年8月28日 にリリースされました。知識のカットオフ日は 2021年9月30日 です。