cohere のファビコン

Cohere: Command R+ (08-2024)

cohere/command-r-plus-08-2024

モデルの重み

command-r-plus-08-2024 is an update of the Command R+ with roughly 50% higher throughput and 25% lower latencies as compared to the previous Command R+ version, while keeping the hardware footprint the same.

Read the launch post here.

Use of this model is subject to Cohere's Usage Policy and SaaS Agreement.

モダリティ
入力 / 出力料金
$2.50 / $101M あたり
コンテキスト
128K
公開日
2024年8月30日
知識のカットオフ
2024年3月

プロバイダー

このモデルは単一のプロバイダーでホストされています。OpenRouter はルーティングせずにすべてのリクエストを転送します。

料金

プロバイダーが提示する価格と並べて、このモデルに対して顧客が実際に支払う平均価格を表示しています。キャッシュと割引により、実際の支払価格は表示価格を大幅に下回ることがよくあります。

加重平均

入力
$2.499/百万トークン
出力
$10/百万トークン
料金の推移
この選択に対応する実効価格データはありません

パフォーマンス

スループットはモデルが出力する速さです(毎秒のトークン数で、数値が高いほど優れています)。レイテンシは往復にかかる合計時間です(短いほど優れています)。TTFT は最初のトークンが出力されるまでの時間、つまり何かが表示され始めるまでの時間です(短いほど優れています)。

スループット
18トークン/秒

P50、プロバイダー全体での最良値

レイテンシ
1.03秒

P50、最適なプロバイダー

稼働率

稼働率は、過去 3 日間に少なくとも一社のプロバイダーがリクエストに応答していた時間の割合です。可用性は、推論が正常に提供された時間の割合です。OpenRouter は継続的に監視し、プロバイダーがエラーを返すと、次に最適なプロバイダーを使用します。

稼働率(3 日間)モデルに接続できました。リクエストはプロバイダーにルーティングされました。
100.00%
可用性(3 日間)モデルがいずれかのプロバイダーから推論結果を返しました。エラーと空のレスポンスはマイナスとして集計されます。
99.85%

過去 3 日間の可用性

過去 72 時間
可用性 99.85%
3 日前2 日前昨日現在

過去 24 時間の可用性

OpenRouter Availability
100.00%

上流のプロバイダーでエラーが発生した場合、リクエストフィルターが許可していれば、別の正常なプロバイダーにルーティングして復旧できます。プロバイダーごとの稼働率データにプログラムでアクセスするには Endpoints APIを利用できます。詳しくは、 負荷分散とプロバイダールーティングのオプションをご覧ください。

アプリ

このモデルに最も多くのトラフィックを送信している公開アプリです。実際の本番ワークロードを把握するための有力な指標であり、このモデルに最も適したユースケースを知る手がかりにもなります。

1.
27.5Mトークン
2.
https://sillytavern.app/ のファビコン
SillyTavern
19.3Mトークン
3.
13Mトークン
4.
https://janitorai.com/ のファビコン
Janitor AI
8.01Mトークン
5.
https://chub.ai/ のファビコン
Chub AI
6.79Mトークン
OpenRouter のその他のアプリ
113K
上位 5 アプリ
5K

アクティビティ

このモデルのトークン量とリクエストトラフィックの経時変化です。

API

このモデルを呼び出すために、そのまま使えるコードです。OpenRouter の API は OpenAI 互換のため、ほとんどの SDK はベース URL を変更するだけで動作します。モデル間で変わるのは、下記のモデルスラッグだけです。

現在、EU 域内ルーティングでは利用できません。 リージョン内ルーティングのドキュメント

よくある質問