Magnum v4 72B
anthracite-org/magnum-v4-72b
This is a series of models designed to replicate the prose quality of the Claude 3 models, specifically Sonnet(https://dynamicsinfo.com/anthropic/claude-3.5-sonnetOpens in new tab) and Opus(https://dynamicsinfo.com/anthropic/claude-3-opusOpens in new tab).
The model is fine-tuned on top of Qwen2.5 72BOpens in new tab.
Provedores
Este modelo é hospedado por um provedor. O OpenRouter encaminha todas as solicitações sem roteamento.
| US$ 2,50 | US$ 5,00 | US$ 2,50 | 1,02s | 16 tok/s |
- Entrada US$ 2,50 / Saída US$ 5,0016 tok/s100,00% de disponibilidade
Preços
O preço médio que os clientes realmente pagam por este modelo, ao lado dos preços publicados pelos provedores. O cache e os descontos fazem com que o preço efetivamente pago seja frequentemente bem inferior ao preço anunciado.
Média ponderada
Magnum v4 72B — Histórico de preços
| US$ 2,50 | US$ 5,00 | 47,9% | 100,0% |
- Em vigor em US$ 2,50 / Saída efetiva US$ 5,00Participação em tokens100,0%
Desempenho
A vazão indica a velocidade com que o modelo escreve (tokens por segundo — quanto maior, melhor). A latência é o tempo total de ida e volta (quanto menor, melhor). TTFT é o tempo até o primeiro token — quanto tempo leva para você ver algo aparecer (quanto menor, melhor).
P50, melhor entre os provedores
P50, melhor provedor
Disponibilidade
A disponibilidade é a porcentagem dos últimos 3 dias em que pelo menos um provedor estava respondendo às solicitações. A disponibilidade é a porcentagem de tempo em que a inferência foi realizada com sucesso. O OpenRouter monitora continuamente e usa o próximo melhor provedor quando um deles retorna um erro.
Disponibilidade nos últimos 3 dias
Últimas 72 horasDisponibilidade nas últimas 24 horas
Quando ocorre um erro em um provedor upstream, podemos nos recuperar roteando para outro provedor saudável, se os filtros da sua solicitação permitirem. Você pode acessar os dados de disponibilidade por provedor de forma programática pela API de endpoints. Saiba mais sobre nossas opções de balanceamento de carga e roteamento de provedores.
Aplicativos
Aplicativos públicos que enviam mais tráfego para este modelo. Um bom indicador de como são as cargas de trabalho reais em produção — e uma pista sobre os casos de uso para os quais este modelo é mais adequado.
Atividade
Volume de tokens e tráfego de requisições para este modelo ao longo do tempo.
API
Código pronto para chamar este modelo. A API do OpenRouter é compatível com a OpenAI — a maioria dos SDKs funciona apenas trocando a URL base. A única coisa que muda entre os modelos é o slug do modelo abaixo.
Atualmente indisponível por meio do roteamento intrarregional da UE. Documentação de roteamento na região
Perguntas frequentes
This is a series of models designed to replicate the prose quality of the Claude 3 models, specifically Sonnet(https://dynamicsinfo.com/anthropic/claude-3.5-sonnetOpens in new tab) and Opus(https://dynamicsinfo.com/anthropic/claude-3-opusOpens in new tab). The model is fine-tuned on top of Qwen2.5 72B.
Magnum v4 72B custa US$ 2,50/M de tokens de entrada e US$ 5,00/M de tokens de saída, com taxas separadas para Cache Read por US$ 2,50/M tokens.
Magnum v4 72B tem uma janela de contexto de 32.768 tokens. Ele aceita até 4.096 tokens de conclusão.
Não. Magnum v4 72B não aceita tools, portanto a chamada de funções não está disponível. Também oferece suporte a saídas estruturadas por meio de um esquema JSON em response_format.
Magnum v4 72B é servido por 1 provedor no OpenRouter: Mancer.
Magnum v4 72B foi lançado em 22 de outubro de 2024. Seu conhecimento vai até 30 de junho de 2024.