
Mistral: Mixtral 8x22B Instruct
mistralai/mixtral-8x22b-instruct
Mistral's official instruct fine-tuned version of Mixtral 8x22B. It uses 39B active parameters out of 141B, offering unparalleled cost efficiency for its size. Its strengths include:
- strong math, coding, and reasoning
- large context length (64k)
- fluency in English, French, Italian, German, and Spanish
See benchmarks on the launch announcement hereOpens in new tab. #moe
Provedores
Diferentes empresas hospedam o mesmo modelo. O OpenRouter roteia sua solicitação para uma delas com base no modo de roteamento escolhido: Balanced (preço + velocidade), Nitro (mais rápido) ou Floor (mais barato).
| US$ 2,00 | US$ 6,00 | US$ 0,20 | 0,53s | 106 tok/s | ||
| US$ 2,20 | US$ 6,60 | US$ 0,22 | 0,55s | 113 tok/s |
Entrada US$ 2,00 / Saída US$ 6,00106 tok/s99,25% de disponibilidade
Entrada US$ 2,20 / Saída US$ 6,60113 tok/s95,45% de disponibilidade
Preços
O preço médio que os clientes realmente pagam por este modelo, ao lado dos preços publicados pelos provedores. O cache e os descontos fazem com que o preço efetivamente pago seja frequentemente bem inferior ao preço anunciado.
Média ponderada
Mixtral 8x22B Instruct — Histórico de preços
| US$ 1,35 | US$ 6,00 | 36,1% | 75,3% | ||
| US$ 1,83 | US$ 6,60 | 18,6% | 24,7% |
- Em vigor em US$ 1,35 / Saída efetiva US$ 6,00Participação em tokens75,3%
- Em vigor em US$ 1,83 / Saída efetiva US$ 6,60Participação em tokens24,7%
Desempenho
A vazão indica a velocidade com que o modelo escreve (tokens por segundo — quanto maior, melhor). A latência é o tempo total de ida e volta (quanto menor, melhor). TTFT é o tempo até o primeiro token — quanto tempo leva para você ver algo aparecer (quanto menor, melhor).
P50, melhor entre os provedores
P50, melhor provedor
Disponibilidade
A disponibilidade é a porcentagem dos últimos 3 dias em que pelo menos um provedor estava respondendo às solicitações. A disponibilidade é a porcentagem de tempo em que a inferência foi realizada com sucesso. O OpenRouter monitora continuamente e usa o próximo melhor provedor quando um deles retorna um erro.
Disponibilidade nos últimos 3 dias
Últimas 72 horasDisponibilidade nas últimas 24 horas
Quando ocorre um erro em um provedor upstream, podemos nos recuperar roteando para outro provedor saudável, se os filtros da sua solicitação permitirem. Você pode acessar os dados de disponibilidade por provedor de forma programática pela API de endpoints. Saiba mais sobre nossas opções de balanceamento de carga e roteamento de provedores.
Avaliações de desempenho
Pontuações em avaliações padronizadas e as próprias saídas deste modelo para prompts compartilhados de testes de desempenho. Porcentagens maiores são melhores — e cada posição mostra onde este modelo fica entre os modelos avaliados naquela fonte.
| Fonte | Avaliação comparativa | Pontuação |
|---|---|---|
| Artificial Analysis | Mixtral 8x22B Instruct GPQA Diamond | 33.2% |
| Artificial Analysis | Mixtral 8x22B Instruct HLE | 4.0% |
| Artificial Analysis | Mixtral 8x22B Instruct LiveCodeBench | 14.8% |
| Artificial Analysis | Mixtral 8x22B Instruct MMLU-Pro | 53.7% |
| Artificial Analysis | Mixtral 8x22B Instruct AIME | 0.0% |
| Artificial Analysis | Mixtral 8x22B Instruct MATH-500 | 54.5% |
Aplicativos
Aplicativos públicos que enviam mais tráfego para este modelo. Um bom indicador de como são as cargas de trabalho reais em produção — e uma pista sobre os casos de uso para os quais este modelo é mais adequado.
Atividade
Volume de tokens e tráfego de requisições para este modelo ao longo do tempo.
API
Código pronto para chamar este modelo. A API do OpenRouter é compatível com a OpenAI — a maioria dos SDKs funciona apenas trocando a URL base. A única coisa que muda entre os modelos é o slug do modelo abaixo.
Disponível por meio do roteamento intrarregional da UE
Mistral: Mixtral 8x22B Instruct está disponível por meio do roteamento regional na UE. As solicitações enviadas para eu.dynamicsinfo.com são descriptografadas na UE e roteadas apenas para endpoints compartilhados de provedores na Europa (UE/EEE, Reino Unido e Suíça).
- Provedores na Europa
- Mistral
- Preços na Europa
- Mistral: US$ 2,20/M tokens de entrada, US$ 6,60/M tokens de saída
- URL base
https://eu.dynamicsinfo.com/api/v1- Plano
- Requer Business ou Enterprise. Autoatendimento no Business: sem contrato, sem mínimo mensal. OpenRouter Business para roteamento dentro da região da UE
Falha em modo fechado: se nenhum endpoint de provedor compartilhado na Europa estiver disponível, a solicitação retorna um erro em vez de sair da região. As solicitações atendidas pela sua própria chave BYOK vão para a região da sua implantação, que você controla. Documentação de roteamento na região
Perguntas frequentes
Mistral's official instruct fine-tuned version of Mixtral 8x22B. It uses 39B active parameters out of 141B, offering unparalleled cost efficiency for its size. Its strengths include: - strong math, coding, and reasoning - large context length (64k) - fluency in English, French, Italian, German, and Spanish See benchmarks on the launch announcement here. #moe
Mixtral 8x22B Instruct custa US$ 2,00/M de tokens de entrada e US$ 6,00/M de tokens de saída, com taxas separadas para Cache Read por US$ 0,20/M tokens.
Mixtral 8x22B Instruct tem uma janela de contexto de 65.536 tokens.
Sim. Mixtral 8x22B Instruct aceita tools e tool_choice para chamadas de função. Também oferece suporte a saídas estruturadas por meio de um esquema JSON em response_format.
Mixtral 8x22B Instruct aceita texto e arquivos como PDFs como entrada e retorna texto.
Mixtral 8x22B Instruct é servido por 1 provedor no OpenRouter: Mistral.
Mistral Large 4, Mistral Medium 3.5, Mistral Small 4 e mais 16 são outros modelos de texto de Mistral.
Mixtral 8x22B Instruct foi lançado em 17 de abril de 2024. Seu conhecimento vai até 31 de janeiro de 2024.