Mistral's official instruct fine-tuned version of Mixtral 8x22B. It uses 39B active parameters out of 141B, offering unparalleled cost efficiency for its size. Its strengths include:
- strong math, coding, and reasoning
- large context length (64k)
- fluency in English, French, Italian, German, and Spanish
See benchmarks on the launch announcement hereOpens in new tab. #moe
プロバイダー
同じモデルを複数の企業がホストしています。OpenRouter は、選択したルーティングモードである Balanced(価格 + 速度)、Nitro(最速)、Floor(最安)に基づいて、そのうちの一社にリクエストをルーティングします。
| $2.20 | $6.60 | $0.22 | 0.47s | 116 tok/s | ||
| $2.00 | $6.00 | $0.20 | 0.85s | 103 tok/s |
入力 $2.20 / 出力 $6.60116 tok/s稼働率 95.45%
入力 $2.00 / 出力 $6.00103 tok/s稼働率 99.24%
料金
プロバイダーが提示する価格と並べて、このモデルに対して顧客が実際に支払う平均価格を表示しています。キャッシュと割引により、実際の支払価格は表示価格を大幅に下回ることがよくあります。
加重平均
Mixtral 8x22B Instruct — 料金履歴
| $0.968 | $6.00 | 57.3% | 81.2% | ||
| $1.413 | $6.60 | 39.8% | 18.8% |
- 適用まで $0.968 / 実効出力 $6.00トークンシェア81.2%
- 適用まで $1.413 / 実効出力 $6.60トークンシェア18.8%
パフォーマンス
スループットはモデルが出力する速さです(毎秒のトークン数で、数値が高いほど優れています)。レイテンシは往復にかかる合計時間です(短いほど優れています)。TTFT は最初のトークンが出力されるまでの時間、つまり何かが表示され始めるまでの時間です(短いほど優れています)。
P50、プロバイダー全体での最良値
P50、最適なプロバイダー
稼働率
稼働率は、過去 3 日間に少なくとも一社のプロバイダーがリクエストに応答していた時間の割合です。可用性は、推論が正常に提供された時間の割合です。OpenRouter は継続的に監視し、プロバイダーがエラーを返すと、次に最適なプロバイダーを使用します。
過去 3 日間の可用性
過去 72 時間過去 24 時間の可用性
上流のプロバイダーでエラーが発生した場合、リクエストフィルターが許可していれば、別の正常なプロバイダーにルーティングして復旧できます。プロバイダーごとの稼働率データにプログラムでアクセスするには Endpoints APIを利用できます。詳しくは、 負荷分散とプロバイダールーティングのオプションをご覧ください。
ベンチマーク
標準化された評価のスコアと、共通のベンチマークプロンプトに対するこのモデル自身の出力です。パーセンテージが高いほど優れており、各順位は、その情報源で評価されたモデルの中でのこのモデルの位置を示します。
| 出典 | ベンチマーク | スコア |
|---|---|---|
| Artificial Analysis | Mixtral 8x22B Instruct GPQA Diamond | 33.2% |
| Artificial Analysis | Mixtral 8x22B Instruct HLE | 4.0% |
| Artificial Analysis | Mixtral 8x22B Instruct LiveCodeBench | 14.8% |
| Artificial Analysis | Mixtral 8x22B Instruct MMLU-Pro | 53.7% |
| Artificial Analysis | Mixtral 8x22B Instruct AIME | 0.0% |
| Artificial Analysis | Mixtral 8x22B Instruct MATH-500 | 54.5% |
アプリ
このモデルに最も多くのトラフィックを送信している公開アプリです。実際の本番ワークロードを把握するための有力な指標であり、このモデルに最も適したユースケースを知る手がかりにもなります。
アクティビティ
このモデルのトークン量とリクエストトラフィックの経時変化です。
API
このモデルを呼び出すために、そのまま使えるコードです。OpenRouter の API は OpenAI 互換のため、ほとんどの SDK はベース URL を変更するだけで動作します。モデル間で変わるのは、下記のモデルスラッグだけです。
EU 域内ルーティング経由で利用可能
Mistral: Mixtral 8x22B Instruct は EU 域内ルーティングで利用できます。eu.dynamicsinfo.com に送信されたリクエストは EU 内で復号され、ヨーロッパ(EU/EEA、英国、スイス)にあるプロバイダーの共有エンドポイントにのみルーティングされます。
- ヨーロッパのプロバイダー
- Mistral
- ヨーロッパでの料金
- Mistral:入力 $2.20/M tokens、出力 $6.60/M tokens
- ベース URL
https://eu.dynamicsinfo.com/api/v1- プラン
- Business または Enterprise が必要です。Business ではセルフサービスで利用でき、契約も月額最低利用額もありません。 EU 域内ルーティング向け OpenRouter Business
フェイルクローズ方式で動作し、ヨーロッパの共有プロバイダーエンドポイントが利用できない場合、リクエストはリージョン外に送信されずにエラーになります。自身の BYOK キーで処理されるリクエストは、自身で管理するデプロイのリージョンに送信されます。 リージョン内ルーティングのドキュメント
よくある質問
Mistral's official instruct fine-tuned version of Mixtral 8x22B. It uses 39B active parameters out of 141B, offering unparalleled cost efficiency for its size. Its strengths include: - strong math, coding, and reasoning - large context length (64k) - fluency in English, French, Italian, German, and Spanish See benchmarks on the launch announcement here. #moe
Mixtral 8x22B Instruct の料金は $2.00/M 入力トークン と $6.00/M 出力トークン、Cache Read:$0.20/M tokens には別料金が適用されます です。
Mixtral 8x22B Instruct のコンテキストウィンドウは 65,536 トークンです。
はい。Mixtral 8x22B Instruct は関数呼び出し用の tools と tool_choice を受け付けます。 response_format の JSON スキーマによる構造化出力にも対応しています。
Mixtral 8x22B Instruct は テキスト、PDF などのファイル を入力として受け取り、テキスト を返します。
Mixtral 8x22B Instruct は OpenRouter 上で 1 社のプロバイダー(Mistral)によって提供されています。
Mistral Large 4, Mistral Medium 3.5, Mistral Small 4 と他 16 件 は、Mistral のその他の テキスト モデルです。
Mixtral 8x22B Instruct は 2024年4月17日 にリリースされました。知識のカットオフ日は 2024年1月31日 です。