openai의 파비콘

OpenAI: GPT-4 Turbo (batch)

openai/gpt-4-turbo:batch

The latest GPT-4 Turbo model with vision capabilities. Vision requests can now use JSON mode and function calling.

Training data: up to December 2023.

모달리티
입력 / 출력 가격
US$5 / US$151M당
컨텍스트
128K
출시일
2024년 4월 9일
지식 기준일
2023년 12월

제공업체

이 모델은 한 제공업체에서 호스팅합니다. OpenRouter는 라우팅 없이 모든 요청을 전달합니다.

요금

고객이 이 모델에 실제로 지불하는 평균 가격을 제공업체가 게시한 가격과 나란히 표시합니다. 캐싱과 할인으로 인해 실제 지불 가격은 정가보다 훨씬 낮은 경우가 많습니다.

가격 변동 내역

성능

처리량은 모델의 출력 속도입니다(초당 토큰 수 — 높을수록 좋습니다). 지연 시간은 전체 왕복 시간입니다(낮을수록 좋습니다). TTFT는 첫 토큰까지 걸리는 시간, 즉 출력이 나타나기까지 걸리는 시간입니다(낮을수록 좋습니다).

가동 시간

가동 시간은 지난 3일 동안 하나 이상의 제공업체가 요청에 응답한 시간의 비율입니다. 가용성은 추론이 성공적으로 제공된 시간의 비율입니다. OpenRouter는 지속적으로 모니터링하며 제공업체가 오류를 반환하면 차선의 제공업체를 사용합니다.

아직 표시할 가동 시간 데이터가 충분하지 않습니다.

업스트림 제공업체에서 오류가 발생하면 요청 필터가 허용하는 경우 정상 상태인 다른 제공업체로 라우팅하여 복구할 수 있습니다. 제공업체별 가동 시간 데이터에 프로그래밍 방식으로 액세스할 때 사용하는 API는 엔드포인트 API입니다. 자세히 알아볼 수 있는 관련 옵션은 부하 분산 및 제공업체 라우팅 옵션입니다.

벤치마크

표준화된 평가 점수와 공통 벤치마크 프롬프트에 대한 이 모델 자체의 출력입니다. 백분율이 높을수록 좋으며, 각 순위는 해당 출처에서 평가한 모델 중 이 모델의 위치를 보여 줍니다.

벤치마크 점수 요약: OpenAI: GPT-4 Turbo (batch) (Artificial Analysis)
출처벤치마크점수
Artificial AnalysisGPT-4 Turbo Coding Index21.5
Artificial AnalysisGPT-4 Turbo HLE3.1%
Artificial AnalysisGPT-4 Turbo LiveCodeBench29.1%
Artificial AnalysisGPT-4 Turbo MMLU-Pro69.4%
Artificial AnalysisGPT-4 Turbo AIME15.0%
Artificial AnalysisGPT-4 Turbo MATH-50073.7%

앱

이 모델에 가장 많은 트래픽을 보내는 공개 앱입니다. 실제 프로덕션 워크로드의 모습을 보여주는 유용한 지표이자 이 모델이 어떤 사용 사례에 가장 적합한지 알려주는 단서입니다.

이 모델을 사용하는 앱에 대한 데이터가 아직 충분하지 않습니다.

활동

시간에 따른 이 모델의 토큰 사용량 및 요청 트래픽.

API

이 모델을 호출하는 데 바로 사용할 수 있는 코드입니다. OpenRouter의 API는 OpenAI와 호환되므로 대부분의 SDK는 기본 URL만 바꾸면 작동합니다. 모델 간에 달라지는 것은 아래 모델 슬러그뿐입니다.

현재 EU 역내 라우팅을 통해 사용할 수 없습니다. 리전 내 라우팅 문서

자주 묻는 질문