One of the highest performing and most popular fine-tunes of Llama 2 13B, with rich descriptions and roleplay. #merge
プロバイダー
同じモデルを複数の企業がホストしています。OpenRouter は、選択したルーティングモードである Balanced(価格 + 速度)、Nitro(最速)、Floor(最安)に基づいて、そのうちの一社にリクエストをルーティングします。
| $0.08 | $0.11 | -- | 0.35s | 96 tok/s | ||
| $0.30 | $0.50 | $0.20 | 0.72s | 47 tok/s |
- 入力 $0.08 / 出力 $0.1196 tok/s稼働率 100.00%
- 入力 $0.30 / 出力 $0.5047 tok/s稼働率 99.93%
料金
プロバイダーが提示する価格と並べて、このモデルに対して顧客が実際に支払う平均価格を表示しています。キャッシュと割引により、実際の支払価格は表示価格を大幅に下回ることがよくあります。
加重平均
MythoMax 13B — 料金履歴
| $0.0795 | $0.107 | 42.9% | 55.4% | ||
| $0.2381 | $0.496 | 61.4% | 44.6% |
- 適用まで $0.0795 / 実効出力 $0.107トークンシェア55.4%
- 適用まで $0.2381 / 実効出力 $0.496トークンシェア44.6%
パフォーマンス
スループットはモデルが出力する速さです(毎秒のトークン数で、数値が高いほど優れています)。レイテンシは往復にかかる合計時間です(短いほど優れています)。TTFT は最初のトークンが出力されるまでの時間、つまり何かが表示され始めるまでの時間です(短いほど優れています)。
P50、プロバイダー全体での最良値
P50、最適なプロバイダー
稼働率
稼働率は、過去 3 日間に少なくとも一社のプロバイダーがリクエストに応答していた時間の割合です。可用性は、推論が正常に提供された時間の割合です。OpenRouter は継続的に監視し、プロバイダーがエラーを返すと、次に最適なプロバイダーを使用します。
過去 3 日間の可用性
過去 72 時間過去 24 時間の可用性
上流のプロバイダーでエラーが発生した場合、リクエストフィルターが許可していれば、別の正常なプロバイダーにルーティングして復旧できます。プロバイダーごとの稼働率データにプログラムでアクセスするには Endpoints APIを利用できます。詳しくは、 負荷分散とプロバイダールーティングのオプションをご覧ください。
アプリ
このモデルに最も多くのトラフィックを送信している公開アプリです。実際の本番ワークロードを把握するための有力な指標であり、このモデルに最も適したユースケースを知る手がかりにもなります。
アクティビティ
このモデルのトークン量とリクエストトラフィックの経時変化です。
API
このモデルを呼び出すために、そのまま使えるコードです。OpenRouter の API は OpenAI 互換のため、ほとんどの SDK はベース URL を変更するだけで動作します。モデル間で変わるのは、下記のモデルスラッグだけです。
現在、EU 域内ルーティングでは利用できません。 リージョン内ルーティングのドキュメント
よくある質問
One of the highest performing and most popular fine-tunes of Llama 2 13B, with rich descriptions and roleplay. #merge
MythoMax 13B の料金は $0.08/M 入力トークン と $0.11/M 出力トークン です。
MythoMax 13B のコンテキストウィンドウは 8,192 トークンです。最大 4,096 トークンの補完に対応しています。
いいえ。MythoMax 13B は tools を受け付けないため、関数呼び出しは利用できません。 response_format の JSON スキーマによる構造化出力にも対応しています。
MythoMax 13B は OpenRouter 上で 2 社のプロバイダー(Parasail、Mancer)によって提供されています。 リクエストは利用可能な最適なプロバイダーにルーティングされ、他のプロバイダーへの自動フェイルオーバーに対応しており、プロバイダールーティングでプロバイダーを固定または除外できます。
MythoMax 13B は 2023年7月2日 にリリースされました。知識のカットオフ日は 2023年6月30日 です。