NVIDIA-NeMo/Switchyard

LLM 트래픽 라우팅 라이브러리

AI 에이전트가 각 요청을 처리할 모델을 선택하도록 라우팅 결정을 내린다. OpenAI와 Anthropic API 호환성을 유지하며 비용과 지연 시간을 균형 있게 관리한다.