portkey-ai/gateway는 하나의 API로 1,600개가 넘는 LLM과 50종 이상의 AI 가드레일을 연결하는 MIT 라이선스 오픈소스 AI 게이트웨이다. README는 이 저장소를 언어·비전·오디오·이미지 모델에 빠르고 안정적으로 연결하기 위한 경량 AI Gateway로 설명한다. 저장소가 만들어진 시점은 2023년 8월이고, 최신 릴리스는 v1.15.2다.
여러 모델 공급자를 하나의 API 뒤에 두고, 자동 재시도와 폴백(fallback), 부하 분산, 조건부 라우팅, 가드레일 정책, 멀티모달을 적용하는 것이 이 프로젝트의 실용적인 지점이다. 폴백은 요청이 실패했을 때 다른 모델 경로로 넘겨 처리하는 기능이고, 부하 분산은 요청을 여러 경로에 나눠 보내는 기능이다. 요청 조건에 따라 라우팅 경로를 바꿀 수 있으며, 별도로 MCP Gateway가 조직 내부 MCP(Model Context Protocol) 서버의 인증과 접근 제어, 관측성을 맡는다. 구현 언어는 TypeScript이며 GitHub 별은 13235개다.
다만 제공된 릴리스 정보에는 v1.15.2의 변경 항목이 없다. 새로 추가된 기능이나 고쳐진 내용이 무엇인지는 알 수 없고, 성능 측정치도 함께 주어지지 않는다. 평가 점수는 관심도(momentum) 4.1만 채워져 있다. 기능의 폭과 MIT 라이선스만으로 실사용 성능과 안정성까지 기대하기는 어렵고, 그 판단은 별도 검증이 필요한 영역이다.