Favicon de cohere

Cohere: Command R+ (08-2024)

cohere/command-r-plus-08-2024

Pesos do modelo

command-r-plus-08-2024 is an update of the Command R+ with roughly 50% higher throughput and 25% lower latencies as compared to the previous Command R+ version, while keeping the hardware footprint the same.

Read the launch post here.

Use of this model is subject to Cohere's Usage Policy and SaaS Agreement.

Modalidades
Preço de entrada / saída
US$ 2,50 / US$ 10por 1M
Contexto
128K
Lançado
30 de ago. de 2024
Data de corte do conhecimento
mar. de 2024

Provedores

Este modelo é hospedado por um provedor. O OpenRouter encaminha todas as solicitações sem roteamento.

Preços

O preço médio que os clientes realmente pagam por este modelo, ao lado dos preços publicados pelos provedores. O cache e os descontos fazem com que o preço efetivamente pago seja frequentemente bem inferior ao preço anunciado.

Média ponderada

Entrada
US$ 2,499/M tokens
Saída
US$ 10/M tokens
Histórico de preços
Nenhum dado de preço efetivo para esta seleção

Desempenho

A vazão indica a velocidade com que o modelo escreve (tokens por segundo — quanto maior, melhor). A latência é o tempo total de ida e volta (quanto menor, melhor). TTFT é o tempo até o primeiro token — quanto tempo leva para você ver algo aparecer (quanto menor, melhor).

Taxa de transferência
18tok/s

P50, melhor entre os provedores

Latência
0,36s

P50, melhor provedor

Disponibilidade

A disponibilidade é a porcentagem dos últimos 3 dias em que pelo menos um provedor estava respondendo às solicitações. A disponibilidade é a porcentagem de tempo em que a inferência foi realizada com sucesso. O OpenRouter monitora continuamente e usa o próximo melhor provedor quando um deles retorna um erro.

Disponibilidade (3d)O modelo estava acessível. Requisição roteada para um provedor.
100,00%
Disponibilidade (3d)O modelo retornou inferência de qualquer provedor. Erros e respostas vazias contam negativamente para essa métrica.
99,85%

Disponibilidade nos últimos 3 dias

Últimas 72 horas
Disponibilidade 99,85%
Há 3 diasHá 2 diasOntemAgora

Disponibilidade nas últimas 24 horas

OpenRouter Availability
100,00%

Quando ocorre um erro em um provedor upstream, podemos nos recuperar roteando para outro provedor saudável, se os filtros da sua solicitação permitirem. Você pode acessar os dados de disponibilidade por provedor de forma programática pela API de endpoints. Saiba mais sobre nossas opções de balanceamento de carga e roteamento de provedores.

Aplicativos

Aplicativos públicos que enviam mais tráfego para este modelo. Um bom indicador de como são as cargas de trabalho reais em produção — e uma pista sobre os casos de uso para os quais este modelo é mais adequado.

1.
27,5Mtokens
2.
Favicon de https://sillytavern.app/
SillyTavern
19,3Mtokens
4.
Favicon de https://janitorai.com/
Janitor AI
8,01Mtokens
5.
Favicon de https://chub.ai/
Chub AI
6,79Mtokens
Restante do OpenRouter
209K
5 principais aplicativos
5K

Atividade

Volume de tokens e tráfego de requisições para este modelo ao longo do tempo.

API

Código pronto para chamar este modelo. A API do OpenRouter é compatível com a OpenAI — a maioria dos SDKs funciona apenas trocando a URL base. A única coisa que muda entre os modelos é o slug do modelo abaixo.

Atualmente indisponível por meio do roteamento intrarregional da UE. Documentação de roteamento na região

Perguntas frequentes