openai의 파비콘

OpenAI: GPT-4o-mini (batch)

openai/gpt-4o-mini:batch

GPT-4o mini is OpenAI's newest model after GPT-4 Omni, supporting both text and image inputs with text outputs.

As their most advanced small model, it is many multiples more affordable than other recent frontier models, and more than 60% cheaper than GPT-3.5 Turbo. It maintains SOTA intelligence, while being significantly more cost-effective.

GPT-4o mini achieves an 82% score on MMLU and presently ranks higher than GPT-4 on chat preferences common leaderboards.

Check out the launch announcement to learn more.

#multimodal

모달리티
입력 / 출력 가격
US$0.075 / US$0.301M당
컨텍스트
128K
출시일
2024년 7월 18일
지식 기준일
2023년 10월

제공업체

여러 회사가 동일한 모델을 호스팅합니다. OpenRouter는 선택한 라우팅 모드인 Balanced(가격 + 속도), Nitro(가장 빠름), Floor(가장 저렴함)에 따라 그중 한 곳으로 요청을 라우팅합니다.

요금

고객이 이 모델에 실제로 지불하는 평균 가격을 제공업체가 게시한 가격과 나란히 표시합니다. 캐싱과 할인으로 인해 실제 지불 가격은 정가보다 훨씬 낮은 경우가 많습니다.

가중 평균

입력
US$0/M 토큰
출력
US$0/M 토큰
가격 변동 내역
이 선택 항목의 실효 가격 데이터 없음

성능

처리량은 모델의 출력 속도입니다(초당 토큰 수 — 높을수록 좋습니다). 지연 시간은 전체 왕복 시간입니다(낮을수록 좋습니다). TTFT는 첫 토큰까지 걸리는 시간, 즉 출력이 나타나기까지 걸리는 시간입니다(낮을수록 좋습니다).

가동 시간

가동 시간은 지난 3일 동안 하나 이상의 제공업체가 요청에 응답한 시간의 비율입니다. 가용성은 추론이 성공적으로 제공된 시간의 비율입니다. OpenRouter는 지속적으로 모니터링하며 제공업체가 오류를 반환하면 차선의 제공업체를 사용합니다.

아직 표시할 가동 시간 데이터가 충분하지 않습니다.

업스트림 제공업체에서 오류가 발생하면 요청 필터가 허용하는 경우 정상 상태인 다른 제공업체로 라우팅하여 복구할 수 있습니다. 제공업체별 가동 시간 데이터에 프로그래밍 방식으로 액세스할 때 사용하는 API는 엔드포인트 API입니다. 자세히 알아볼 수 있는 관련 옵션은 부하 분산 및 제공업체 라우팅 옵션입니다.

벤치마크

표준화된 평가 점수와 공통 벤치마크 프롬프트에 대한 이 모델 자체의 출력입니다. 백분율이 높을수록 좋으며, 각 순위는 해당 출처에서 평가한 모델 중 이 모델의 위치를 보여 줍니다.

벤치마크 점수 요약: OpenAI: GPT-4o-mini (batch) (Artificial Analysis)
출처벤치마크점수
Artificial AnalysisGPT-4o mini Coding Index11.4
Artificial AnalysisGPT-4o mini GPQA Diamond42.6%
Artificial AnalysisGPT-4o mini HLE4.2%
Artificial AnalysisGPT-4o mini IFBench31.0%
Artificial AnalysisGPT-4o mini τ-Bench Banking2.9%
Artificial AnalysisGPT-4o mini GDPval-AA0.0%
Artificial AnalysisGPT-4o mini LiveCodeBench23.4%
Artificial AnalysisGPT-4o mini Terminal-Bench 2.15.6%
Artificial AnalysisGPT-4o mini MMLU-Pro64.8%
Artificial AnalysisGPT-4o mini AIME 202514.7%
Artificial AnalysisGPT-4o mini AIME11.7%
Artificial AnalysisGPT-4o mini MATH-50078.9%

앱

이 모델에 가장 많은 트래픽을 보내는 공개 앱입니다. 실제 프로덕션 워크로드의 모습을 보여주는 유용한 지표이자 이 모델이 어떤 사용 사례에 가장 적합한지 알려주는 단서입니다.

이 모델을 사용하는 앱에 대한 데이터가 아직 충분하지 않습니다.

활동

시간에 따른 이 모델의 토큰 사용량 및 요청 트래픽.

API

이 모델을 호출하는 데 바로 사용할 수 있는 코드입니다. OpenRouter의 API는 OpenAI와 호환되므로 대부분의 SDK는 기본 URL만 바꾸면 작동합니다. 모델 간에 달라지는 것은 아래 모델 슬러그뿐입니다.

현재 EU 역내 라우팅을 통해 사용할 수 없습니다. 리전 내 라우팅 문서

자주 묻는 질문