Favicon de openai

OpenAI: GPT-4 Turbo (batch)

openai/gpt-4-turbo:batch

The latest GPT-4 Turbo model with vision capabilities. Vision requests can now use JSON mode and function calling.

Training data: up to December 2023.

Modalidades
Preço de entrada / saída
US$ 5 / US$ 15por 1M
Contexto
128K
Lançado
9 de abr. de 2024
Data de corte do conhecimento
dez. de 2023

Provedores

Este modelo é hospedado por um provedor. O OpenRouter encaminha todas as solicitações sem roteamento.

Preços

O preço médio que os clientes realmente pagam por este modelo, ao lado dos preços publicados pelos provedores. O cache e os descontos fazem com que o preço efetivamente pago seja frequentemente bem inferior ao preço anunciado.

Histórico de preços

Desempenho

A vazão indica a velocidade com que o modelo escreve (tokens por segundo — quanto maior, melhor). A latência é o tempo total de ida e volta (quanto menor, melhor). TTFT é o tempo até o primeiro token — quanto tempo leva para você ver algo aparecer (quanto menor, melhor).

Disponibilidade

A disponibilidade é a porcentagem dos últimos 3 dias em que pelo menos um provedor estava respondendo às solicitações. A disponibilidade é a porcentagem de tempo em que a inferência foi realizada com sucesso. O OpenRouter monitora continuamente e usa o próximo melhor provedor quando um deles retorna um erro.

Ainda não há dados de disponibilidade suficientes para exibição.

Quando ocorre um erro em um provedor upstream, podemos nos recuperar roteando para outro provedor saudável, se os filtros da sua solicitação permitirem. Você pode acessar os dados de disponibilidade por provedor de forma programática pela API de endpoints. Saiba mais sobre nossas opções de balanceamento de carga e roteamento de provedores.

Avaliações de desempenho

Pontuações em avaliações padronizadas e as próprias saídas deste modelo para prompts compartilhados de testes de desempenho. Porcentagens maiores são melhores — e cada posição mostra onde este modelo fica entre os modelos avaliados naquela fonte.

Resumo das pontuações de avaliações comparativas para OpenAI: GPT-4 Turbo (batch) (Artificial Analysis)
FonteAvaliação comparativaPontuação
Artificial AnalysisGPT-4 Turbo Coding Index21,5
Artificial AnalysisGPT-4 Turbo HLE3.1%
Artificial AnalysisGPT-4 Turbo LiveCodeBench29.1%
Artificial AnalysisGPT-4 Turbo MMLU-Pro69.4%
Artificial AnalysisGPT-4 Turbo AIME15.0%
Artificial AnalysisGPT-4 Turbo MATH-50073.7%

Aplicativos

Aplicativos públicos que enviam mais tráfego para este modelo. Um bom indicador de como são as cargas de trabalho reais em produção — e uma pista sobre os casos de uso para os quais este modelo é mais adequado.

Ainda não há dados suficientes sobre aplicativos que usam este modelo.

Atividade

Volume de tokens e tráfego de requisições para este modelo ao longo do tempo.

API

Código pronto para chamar este modelo. A API do OpenRouter é compatível com a OpenAI — a maioria dos SDKs funciona apenas trocando a URL base. A única coisa que muda entre os modelos é o slug do modelo abaixo.

Atualmente indisponível por meio do roteamento intrarregional da UE. Documentação de roteamento na região

Perguntas frequentes