meta-llama의 파비콘

Meta: Llama 3.2 3B Instruct

meta-llama/llama-3.2-3b-instruct

모델 가중치

Llama 3.2 3B is a 3-billion-parameter multilingual large language model, optimized for advanced natural language processing tasks like dialogue generation, reasoning, and summarization. Designed with the latest transformer architecture, it supports eight languages, including English, Spanish, and Hindi, and is adaptable for additional languages.

Trained on 9 trillion tokens, the Llama 3.2 3B model excels in instruction-following, complex reasoning, and tool use. Its balanced performance makes it ideal for applications needing accuracy and efficiency in text generation across multilingual settings.

Click here for the original model card.

Usage of this model is subject to Meta's Acceptable Use Policy.

모달리티
입력 / 출력 가격
US$0.05 / US$0.331M당
컨텍스트
131K
출시일
2024년 9월 25일
지식 기준일
2023년 12월

제공업체

여러 회사가 동일한 모델을 호스팅합니다. OpenRouter는 선택한 라우팅 모드인 Balanced(가격 + 속도), Nitro(가장 빠름), Floor(가장 저렴함)에 따라 그중 한 곳으로 요청을 라우팅합니다.

요금

고객이 이 모델에 실제로 지불하는 평균 가격을 제공업체가 게시한 가격과 나란히 표시합니다. 캐싱과 할인으로 인해 실제 지불 가격은 정가보다 훨씬 낮은 경우가 많습니다.

가중 평균

입력
US$0.04968/M 토큰
출력
US$0.3243/M 토큰
가격 변동 내역
이 선택 항목의 실효 가격 데이터 없음

성능

처리량은 모델의 출력 속도입니다(초당 토큰 수 — 높을수록 좋습니다). 지연 시간은 전체 왕복 시간입니다(낮을수록 좋습니다). TTFT는 첫 토큰까지 걸리는 시간, 즉 출력이 나타나기까지 걸리는 시간입니다(낮을수록 좋습니다).

처리량
228토큰/초

P50, 제공업체 중 최고

지연 시간
0.21초

P50, 최상의 제공업체

가동 시간

가동 시간은 지난 3일 동안 하나 이상의 제공업체가 요청에 응답한 시간의 비율입니다. 가용성은 추론이 성공적으로 제공된 시간의 비율입니다. OpenRouter는 지속적으로 모니터링하며 제공업체가 오류를 반환하면 차선의 제공업체를 사용합니다.

가동 시간 (3일)모델에 연결할 수 있었습니다. 요청이 제공업체로 라우팅되었습니다.
100.00%
가용성(3일)모델이 제공업체 중 한 곳에서 추론 결과를 반환했습니다. 오류와 빈 응답은 실패로 집계됩니다.
99.99%

지난 3일간 가용성

최근 72시간
가용성 99.99%
3일 전2일 전어제현재

지난 24시간 동안의 가용성

OpenRouter Availability
99.98%
Without Routing
81.33%

업스트림 제공업체에서 오류가 발생하면 요청 필터가 허용하는 경우 정상 상태인 다른 제공업체로 라우팅하여 복구할 수 있습니다. 제공업체별 가동 시간 데이터에 프로그래밍 방식으로 액세스할 때 사용하는 API는 엔드포인트 API입니다. 자세히 알아볼 수 있는 관련 옵션은 부하 분산 및 제공업체 라우팅 옵션입니다.

벤치마크

표준화된 평가 점수와 공통 벤치마크 프롬프트에 대한 이 모델 자체의 출력입니다. 백분율이 높을수록 좋으며, 각 순위는 해당 출처에서 평가한 모델 중 이 모델의 위치를 보여 줍니다.

벤치마크 점수 요약: Meta: Llama 3.2 3B Instruct (Artificial Analysis)
출처벤치마크점수
Artificial AnalysisLlama 3.2 Instruct 3B GPQA Diamond25.5%
Artificial AnalysisLlama 3.2 Instruct 3B HLE5.3%
Artificial AnalysisLlama 3.2 Instruct 3B IFBench26.2%
Artificial AnalysisLlama 3.2 Instruct 3B τ²-Bench Telecom21.1%
Artificial AnalysisLlama 3.2 Instruct 3B AA-LCR4.3%
Artificial AnalysisLlama 3.2 Instruct 3B LiveCodeBench8.3%
Artificial AnalysisLlama 3.2 Instruct 3B MMLU-Pro34.7%
Artificial AnalysisLlama 3.2 Instruct 3B AIME 20253.3%
Artificial AnalysisLlama 3.2 Instruct 3B AIME6.7%
Artificial AnalysisLlama 3.2 Instruct 3B MATH-50048.9%

앱

이 모델에 가장 많은 트래픽을 보내는 공개 앱입니다. 실제 프로덕션 워크로드의 모습을 보여주는 유용한 지표이자 이 모델이 어떤 사용 사례에 가장 적합한지 알려주는 단서입니다.

1.
171M토큰
2.
31.5M토큰
4.
24.3M토큰
5.
https://api.spin.inductionlabs.com/의 파비콘
Spin
신규
19.1M토큰
OpenRouter의 다른 영역
60.7M
상위 5개 앱
3.7M

활동

시간에 따른 이 모델의 토큰 사용량 및 요청 트래픽.

API

이 모델을 호출하는 데 바로 사용할 수 있는 코드입니다. OpenRouter의 API는 OpenAI와 호환되므로 대부분의 SDK는 기본 URL만 바꾸면 작동합니다. 모델 간에 달라지는 것은 아래 모델 슬러그뿐입니다.

현재 EU 역내 라우팅을 통해 사용할 수 없습니다. 리전 내 라우팅 문서

자주 묻는 질문

더 많은 모델 탐색