Favicon de openai

OpenAI: GPT-4o-mini

openai/gpt-4o-mini

GPT-4o mini is OpenAI's newest model after GPT-4 Omni, supporting both text and image inputs with text outputs.

As their most advanced small model, it is many multiples more affordable than other recent frontier models, and more than 60% cheaper than GPT-3.5 Turbo. It maintains SOTA intelligence, while being significantly more cost-effective.

GPT-4o mini achieves an 82% score on MMLU and presently ranks higher than GPT-4 on chat preferences common leaderboards.

Check out the launch announcement to learn more.

#multimodal

Modalidades
Preço de entrada / saída
US$ 0,15 / US$ 0,60por 1M
Contexto
128K
Lançado
18 de jul. de 2024
Data de corte do conhecimento
out. de 2023

Provedores

Diferentes empresas hospedam o mesmo modelo. O OpenRouter roteia sua solicitação para uma delas com base no modo de roteamento escolhido: Balanced (preço + velocidade), Nitro (mais rápido) ou Floor (mais barato).

  • Não utilizado no roteamento Standard:Por que estes endpoints não são usados

Preços

O preço médio que os clientes realmente pagam por este modelo, ao lado dos preços publicados pelos provedores. O cache e os descontos fazem com que o preço efetivamente pago seja frequentemente bem inferior ao preço anunciado.

Média ponderada

Entrada
US$ 0,1276/M tokens
Saída
US$ 0,597/M tokens
Histórico de preços
Nenhum dado de preço efetivo para esta seleção
  • Não utilizado no roteamento Standard:Por que estes endpoints não são usados

Desempenho

A vazão indica a velocidade com que o modelo escreve (tokens por segundo — quanto maior, melhor). A latência é o tempo total de ida e volta (quanto menor, melhor). TTFT é o tempo até o primeiro token — quanto tempo leva para você ver algo aparecer (quanto menor, melhor).

Taxa de transferência
90tok/s

P50, melhor entre os provedores

Latência
0,49s

P50, melhor provedor

Disponibilidade

A disponibilidade é a porcentagem dos últimos 3 dias em que pelo menos um provedor estava respondendo às solicitações. A disponibilidade é a porcentagem de tempo em que a inferência foi realizada com sucesso. O OpenRouter monitora continuamente e usa o próximo melhor provedor quando um deles retorna um erro.

Disponibilidade (3d)O modelo estava acessível. Requisição roteada para um provedor.
100,00%
Disponibilidade (3d)O modelo retornou inferência de qualquer provedor. Erros e respostas vazias contam negativamente para essa métrica.
99,98%

Disponibilidade nos últimos 3 dias

Últimas 72 horas
Disponibilidade 99,98%
Há 3 diasHá 2 diasOntemAgora

Disponibilidade nas últimas 24 horas

OpenRouter Availability
99,99%
Without Routing
98,64%

Quando ocorre um erro em um provedor upstream, podemos nos recuperar roteando para outro provedor saudável, se os filtros da sua solicitação permitirem. Você pode acessar os dados de disponibilidade por provedor de forma programática pela API de endpoints. Saiba mais sobre nossas opções de balanceamento de carga e roteamento de provedores.

Avaliações de desempenho

Pontuações em avaliações padronizadas e as próprias saídas deste modelo para prompts compartilhados de testes de desempenho. Porcentagens maiores são melhores — e cada posição mostra onde este modelo fica entre os modelos avaliados naquela fonte.

Resumo das pontuações de avaliações comparativas para OpenAI: GPT-4o-mini (Artificial Analysis)
FonteAvaliação comparativaPontuação
Artificial AnalysisGPT-4o mini Coding Index11,4
Artificial AnalysisGPT-4o mini GPQA Diamond42.6%
Artificial AnalysisGPT-4o mini HLE4.2%
Artificial AnalysisGPT-4o mini IFBench31.0%
Artificial AnalysisGPT-4o mini τ-Bench Banking2.9%
Artificial AnalysisGPT-4o mini GDPval-AA0.0%
Artificial AnalysisGPT-4o mini LiveCodeBench23.4%
Artificial AnalysisGPT-4o mini Terminal-Bench 2.15.6%
Artificial AnalysisGPT-4o mini MMLU-Pro64.8%
Artificial AnalysisGPT-4o mini AIME 202514.7%
Artificial AnalysisGPT-4o mini AIME11.7%
Artificial AnalysisGPT-4o mini MATH-50078.9%

Aplicativos

Aplicativos públicos que enviam mais tráfego para este modelo. Um bom indicador de como são as cargas de trabalho reais em produção — e uma pista sobre os casos de uso para os quais este modelo é mais adequado.

2.
7,18Btokens
3.
6,33Btokens
4.
Favicon de https://nousresearch.com
Hermes Agent
5,48Btokens
5.
4,23Btokens
Restante do OpenRouter
11,3B
5 principais aplicativos
792M

Atividade

Volume de tokens e tráfego de requisições para este modelo ao longo do tempo.

API

Código pronto para chamar este modelo. A API do OpenRouter é compatível com a OpenAI — a maioria dos SDKs funciona apenas trocando a URL base. A única coisa que muda entre os modelos é o slug do modelo abaixo.

Disponível por meio do roteamento intrarregional da UE

OpenAI: GPT-4o-mini está disponível por meio do roteamento regional na UE. As solicitações enviadas para eu.dynamicsinfo.com são descriptografadas na UE e roteadas apenas para endpoints compartilhados de provedores na Europa (UE/EEE, Reino Unido e Suíça).

Provedores na Europa
Azure
Preços na Europa
  • Azure: US$ 0,165/M tokens de entrada, US$ 0,66/M tokens de saída
URL base
https://eu.dynamicsinfo.com/api/v1
Plano
Requer Business ou Enterprise. Autoatendimento no Business: sem contrato, sem mínimo mensal. OpenRouter Business para roteamento dentro da região da UE

Falha em modo fechado: se nenhum endpoint de provedor compartilhado na Europa estiver disponível, a solicitação retorna um erro em vez de sair da região. As solicitações atendidas pela sua própria chave BYOK vão para a região da sua implantação, que você controla. Documentação de roteamento na região

Perguntas frequentes