nvidia의 파비콘

NVIDIA: Switchyard

nvidia/switchyard

Switchyard is an open-source model routing system that switches between multiple models to optimize the cost of requests. By default it will use OpenRouter market data to select the most popular low and high cost models. You can pass in two choices in the models parameter as well as specify any of the routing algorithms Switchyard offers. Details in the Switchyard docs. OpenRouter then applies its normal provider routing, fallbacks and billing for the chosen model.

API

이 모델을 호출하는 데 바로 사용할 수 있는 코드입니다. OpenRouter의 API는 OpenAI와 호환되므로 대부분의 SDK는 기본 URL만 바꾸면 작동합니다. 모델 간에 달라지는 것은 아래 모델 슬러그뿐입니다.

현재 EU 역내 라우팅을 통해 사용할 수 없습니다. 리전 내 라우팅 문서

문서

OpenRouter에서 NVIDIA: Switchyard을 활용해 개발하기 위한 가이드, 쿡북, 블로그 게시물 및 도구입니다.

자주 묻는 질문