
Meta: Llama 3.3 70B Instruct
meta-llama/llama-3.3-70b-instruct
모델 가중치The Meta Llama 3.3 multilingual large language model (LLM) is a pretrained and instruction tuned generative model in 70B (text in/text out). The Llama 3.3 instruction tuned text only model is optimized for multilingual dialogue use cases and outperforms many of the available open source and closed chat models on common industry benchmarks.
Supported languages: English, German, French, Italian, Portuguese, Hindi, Spanish, and Thai.
제공업체
여러 회사가 동일한 모델을 호스팅합니다. OpenRouter는 선택한 라우팅 모드인 Balanced(가격 + 속도), Nitro(가장 빠름), Floor(가장 저렴함)에 따라 그중 한 곳으로 요청을 라우팅합니다.
| US$0.710 | US$0.710 | US$0.710 | 0.22s | 85 tok/s | ||
| US$0.600 | US$1.200 | -- | 0.87s | 133 tok/s | ||
| US$0.220 | US$0.500 | US$0.110 | 0.78s | 36 tok/s | ||
| US$0.200 | US$0.520 | US$0.100 | 0.56s | 31 tok/s | ||
BYOK 전용 | US$0.720 | US$0.720 | -- | -- | -- | |
BYOK 전용 | US$0.720 | US$0.720 | -- | -- | -- | |
| US$0.590 | US$0.790 | US$0.295 | 0.48s | 214 tok/s | ||
| US$0.100 | US$0.320 | -- | 0.55s | 10 tok/s | ||
| US$0.293 | US$2.253 | -- | 1.24s | 32 tok/s |
- 입력 US$0.71 / 출력 US$0.7185 tok/s가동 시간 97.46%
- 입력 US$0.60 / 출력 US$1.20133 tok/s가동 시간 99.80%
- 입력 US$0.22 / 출력 US$0.5036 tok/s가동 시간 99.39%
- 입력 US$0.20 / 출력 US$0.5231 tok/s가동 시간 100.00%
- 입력 US$0.72 / 출력 US$0.72-- tok/s가동 시간 --BYOK 전용
- 입력 US$0.72 / 출력 US$0.72-- tok/s가동 시간 --BYOK 전용
- 입력 US$0.59 / 출력 US$0.79214 tok/s가동 시간 100.00%
입력 US$0.10 / 출력 US$0.3210 tok/s가동 시간 98.72%- 입력 US$0.293 / 출력 US$2.25332 tok/s가동 시간 97.00%
요금
고객이 이 모델에 실제로 지불하는 평균 가격을 제공업체가 게시한 가격과 나란히 표시합니다. 캐싱과 할인으로 인해 실제 지불 가격은 정가보다 훨씬 낮은 경우가 많습니다.
가중 평균
Llama 3.3 70B Instruct — 가격 이력
| US$0.0997 | US$0.316 | 0.0% | 6.7% | ||
| US$0.1392 | US$0.516 | 60.5% | 14.1% | ||
| US$0.1807 | US$0.498 | 35.4% | 18.8% | ||
| US$0.2927 | US$2.248 | 0.0% | 4.0% | ||
| US$0.5897 | US$0.786 | 0.0% | 17.1% | ||
| US$0.5996 | US$1.194 | 0.0% | 9.3% | ||
| US$0.7095 | US$0.705 | 51.1% | 30.1% | ||
| — | — | — | — | ||
| — | — | — | — |
- 적용 시점 US$0.0997 / 실효 출력 US$0.316토큰 점유율6.7%
- 적용 시점 US$0.1392 / 실효 출력 US$0.516토큰 점유율14.1%
- 적용 시점 US$0.1807 / 실효 출력 US$0.498토큰 점유율18.8%
- 적용 시점 US$0.2927 / 실효 출력 US$2.248토큰 점유율4.0%
- 적용 시점 US$0.5897 / 실효 출력 US$0.786토큰 점유율17.1%
- 적용 시점 US$0.5996 / 실효 출력 US$1.194토큰 점유율9.3%
- 적용 시점 US$0.7095 / 실효 출력 US$0.705토큰 점유율30.1%
- 적용 시점 — / 실효 출력 —토큰 점유율 —
- 적용 시점 — / 실효 출력 —토큰 점유율 —
성능
처리량은 모델의 출력 속도입니다(초당 토큰 수 — 높을수록 좋습니다). 지연 시간은 전체 왕복 시간입니다(낮을수록 좋습니다). TTFT는 첫 토큰까지 걸리는 시간, 즉 출력이 나타나기까지 걸리는 시간입니다(낮을수록 좋습니다).
P50, 제공업체 중 최고
P50, 최상의 제공업체
가동 시간
가동 시간은 지난 3일 동안 하나 이상의 제공업체가 요청에 응답한 시간의 비율입니다. 가용성은 추론이 성공적으로 제공된 시간의 비율입니다. OpenRouter는 지속적으로 모니터링하며 제공업체가 오류를 반환하면 차선의 제공업체를 사용합니다.
지난 3일간 가용성
최근 72시간지난 24시간 동안의 가용성
업스트림 제공업체에서 오류가 발생하면 요청 필터가 허용하는 경우 정상 상태인 다른 제공업체로 라우팅하여 복구할 수 있습니다. 제공업체별 가동 시간 데이터에 프로그래밍 방식으로 액세스할 때 사용하는 API는 엔드포인트 API입니다. 자세히 알아볼 수 있는 관련 옵션은 부하 분산 및 제공업체 라우팅 옵션입니다.
벤치마크
표준화된 평가 점수와 공통 벤치마크 프롬프트에 대한 이 모델 자체의 출력입니다. 백분율이 높을수록 좋으며, 각 순위는 해당 출처에서 평가한 모델 중 이 모델의 위치를 보여 줍니다.
| 출처 | 벤치마크 | 점수 |
|---|---|---|
| Artificial Analysis | Llama 3.3 Instruct 70B Coding Index | 11.9 |
| Artificial Analysis | Llama 3.3 Instruct 70B GPQA Diamond | 49.8% |
| Artificial Analysis | Llama 3.3 Instruct 70B HLE | 3.6% |
| Artificial Analysis | Llama 3.3 Instruct 70B IFBench | 47.1% |
| Artificial Analysis | Llama 3.3 Instruct 70B τ²-Bench Telecom | 26.6% |
| Artificial Analysis | Llama 3.3 Instruct 70B AA-LCR | 15.7% |
| Artificial Analysis | Llama 3.3 Instruct 70B GDPval-AA | 0.0% |
| Artificial Analysis | Llama 3.3 Instruct 70B CritPt | 0.0% |
| Artificial Analysis | Llama 3.3 Instruct 70B LiveCodeBench | 28.8% |
| Artificial Analysis | Llama 3.3 Instruct 70B Terminal-Bench Hard | 3.0% |
| Artificial Analysis | Llama 3.3 Instruct 70B Terminal-Bench 2.1 | 4.9% |
| Artificial Analysis | Llama 3.3 Instruct 70B MMLU-Pro | 71.3% |
| Artificial Analysis | Llama 3.3 Instruct 70B AIME 2025 | 7.7% |
| Artificial Analysis | Llama 3.3 Instruct 70B AIME | 30.0% |
| Artificial Analysis | Llama 3.3 Instruct 70B MATH-500 | 77.3% |
앱
이 모델에 가장 많은 트래픽을 보내는 공개 앱입니다. 실제 프로덕션 워크로드의 모습을 보여주는 유용한 지표이자 이 모델이 어떤 사용 사례에 가장 적합한지 알려주는 단서입니다.
활동
시간에 따른 이 모델의 토큰 사용량 및 요청 트래픽.
API
이 모델을 호출하는 데 바로 사용할 수 있는 코드입니다. OpenRouter의 API는 OpenAI와 호환되므로 대부분의 SDK는 기본 URL만 바꾸면 작동합니다. 모델 간에 달라지는 것은 아래 모델 슬러그뿐입니다.
현재 EU 역내 라우팅을 통해 사용할 수 없습니다. 리전 내 라우팅 문서
문서
OpenRouter에서 Meta: Llama 3.3 70B Instruct을 활용해 개발하기 위한 가이드, 쿡북, 블로그 게시물 및 도구입니다.
자주 묻는 질문
The Meta Llama 3.3 multilingual large language model (LLM) is a pretrained and instruction tuned generative model in 70B (text in/text out). The Llama 3.3 instruction tuned text only model is optimized for multilingual dialogue use cases and outperforms many of the available open source and closed chat models on common industry benchmarks.
OpenRouter의 Llama 3.3 70B Instruct 문서에는 Price Drops and Llama 3.3 70b 블로그 게시물이 포함되어 있습니다. 빠른 시작에서는 API 키와 첫 요청을 다루며, API 참조에는 모든 매개변수가 나열되어 있습니다.
Llama 3.3 70B Instruct의 비용은 US$0.10/M 입력 토큰 및 US$0.32/백만 출력 토큰입니다.
Llama 3.3 70B Instruct의 컨텍스트 윈도우는 131,072토큰입니다. 최대 16,384개의 완성 토큰을 지원합니다.
예. Llama 3.3 70B Instruct은 이를 제공하는 8개 제공업체 중 5개에서 함수 호출을 위한 tools와 tool_choice를 지원하며, 도구를 전송하는 요청은 해당 제공업체로 라우팅됩니다. 또한 response_format의 JSON 스키마를 통해 구조화된 출력을 지원합니다.
Llama 3.3 70B Instruct은 OpenRouter에서 8개 제공업체가 제공합니다: DeepInfra (Turbo), AkashML, Parasail, Cloudflare, Groq, SambaNova Turbo, CoreWeave 및 Google Vertex. 요청은 사용 가능한 최적의 제공업체로 라우팅되며 장애 발생 시 다른 제공업체로 자동 전환되고, 제공업체 라우팅을 통해 제공업체를 고정하거나 제외할 수 있습니다.
Llama 3.3 70B Instruct의 출시일은 2024년 12월 6일입니다. 지식 기준일은 2023년 12월 31일입니다.