OpenRouter vs LiteLLM vs Portkey: 2026 AI 게이트웨이 비교
2026년에 AI 게이트웨이를 선택하는 것은 여러분이 내리는 가장 큰 영향력을 가진 인프라 결정 중 하나입니다. 올바른 게이트웨이는 AI 비용을 5-20% 절감하고, 공급업체가 속도 제한을 할 때 대체 경로를 제공하며, 여러 LLM에 걸쳐 관측 가능성을 제공합니다. 잘못된 게이트웨이는 가치 없이 마찰만 더할 뿐입니다.
세 가지 게이트웨이가 실제 사용에서 지배적입니다: OpenRouter (관리형, 다중 공급업체), LiteLLM (오픈소스 자체 호스팅), Portkey (엔터프라이즈 관측 가능성). 각각 다른 접근 방식을 취합니다. 대부분의 팀에게 게이트웨이는 여러분이 라우팅하는 무료 크레딧보다 덜 중요합니다 - 그리고 AI Perks는 모든 주요 공급업체에 대한 크레딧 프로그램을 다룹니다.
헤드라인 비교
| 게이트웨이 | 유형 | 가격 | 최적 |
|---|---|---|---|
| OpenRouter | 관리형 SaaS | 크레딧에 대한 5.5% 수수료 | 개인 개발자, 소규모 팀 |
| LiteLLM | 오픈소스 자체 호스팅 | 무료 (또는 클라우드 구독) | 프로덕션 AI 앱 |
| Portkey | 엔터프라이즈 관측 가능성 | 구독 + 무료 등급 | 규정 준수 + 거버넌스 |
세 가지는 서로 다른 문제를 해결합니다. 대부분의 팀은 하나를 선택하고 충실하게 사용합니다. 헤비 유저들은 때때로 다른 워크로드를 위해 두 가지를 실행합니다.
OpenRouter: 쉬운 선택
OpenRouter는 단일 API 키 뒤에 200개 이상의 모델을 제공하는 관리형 API 게이트웨이입니다.
장점
- 인프라 제로 - 가입, API 키 붙여넣기, 끝
- Claude, GPT, Gemini, Grok, DeepSeek, 모든 Llama 변형을 포함한 200개 이상의 모델
- 공급업체가 속도 제한을 할 때 자동 대체
- BYOK 지원 - 자체 공급업체 키를 OpenRouter를 통해 라우팅
- 통합 청구 - 모든 모델에 대한 단일 청구서
- 선택된 오픈소스 모델에 대한 넉넉한 무료 등급
- 선불 크레딧을 통한 종량제
단점
- 사용된 모든 크레딧에 대한 5.5% 마크업 ("OpenRouter 세금")
- 관리형 = OpenRouter 라우팅 로직에 대한 종속
- Portkey보다 낮은 관측 가능성
- 라우팅 로직을 자체 호스팅할 수 없음
최적: 개인 개발자, 소규모 팀, 프로토타입, 인프라 설정이 전혀 필요 없는 모든 사람.
LiteLLM: 파워 유저 오픈소스 선택
LiteLLM은 통합된 OpenAI 호환 인터페이스 뒤에 100개 이상의 LLM API를 노출하는 오픈소스 Python 프록시입니다.
장점
- 무료 오픈소스 코어 - 구독 불필요
- 자체 호스팅 - 라우팅 로직을 직접 소유
- 프론트에서 OpenAI 호환 API - 기존 코드에 바로 적용 가능
- Claude, GPT, Gemini, Grok, Bedrock, Vertex를 포함한 100개 이상의 공급업체 통합
- 캐싱, 대체, 재시도, 관측 가능성 모두 내장
- 필요한 경우 관리형 옵션을 위한 LiteLLM Cloud
- 요청별 세분화된 비용 추적
단점
- 자체 호스팅 복잡성 - 프록시를 직접 관리해야 함
- Portkey보다 낮은 완성도의 UI
- 문서 읽기가 필요함 - 항상 직관적이지는 않음
- 자체 호스팅하지 않을 경우 클라우드 구독
최적: 완전한 제어를 통해 프로덕션 AI 앱을 구축하는 엔지니어링 팀.
Portkey: 엔터프라이즈 선택
Portkey는 AI를 위한 엔터프라이즈 관측 가능성 및 라우팅 플랫폼입니다.
장점
- 최고 수준의 관측 가능성 - 추적, 메트릭, 팀별 비용
- 프롬프트 버전 관리 및 A/B 테스트
- 사용자 지정 TTL을 통한 캐싱
- RBAC를 통한 팀 관리
- 규정 준수 등급 감사 로그
- AI 플랫폼을 위한 멀티테넌트
- 개인 사용에 충분히 넉넉한 무료 등급
단점
- 대규모 구독 필요 (월 $199-$999+)
- 더 많은 기능 세트는 개인 개발자에게 과할 수 있음
- OpenRouter보다 "바로 적용"하기 덜 간단함
최적: 규정 준수, 모니터링 및 다중 팀 요구 사항을 가진 엔터프라이즈 AI 플랫폼.
상세 기능 비교
| 기능 | OpenRouter | LiteLLM | Portkey |
|---|---|---|---|
| 공급업체 수 | 200+ | 100+ | 100+ |
| 오픈 소스 | 아니요 | 예 | 부분적 |
| 자체 호스팅 | 아니요 | 예 | 예 (클라우드) |
| BYOK 지원 | 예 | 예 | 예 |
| 대체 라우팅 | 내장 | 구성 가능 | 내장 |
| 캐싱 | 내장 | 예 | 예, 고급 |
| 관측 가능성 | 기본 대시보드 | OSS 메트릭 | 최고 수준 |
| 비용 추적 | 예 | 예 | 예, 팀별 |
| 프롬프트 버전 관리 | 아니요 | 제한적 | 예 |
| A/B 테스트 | 아니요 | 제한적 | 예 |
| 규정 준수 / SOC 2 | 제한적 | DIY | 예 (Pro+) |
| 가격 | 5.5% 수수료 | 무료 OSS | $0-$999+/월 |
비용 계산: 실제 워크로드
월 $5,000의 원시 API 비용을 소모하는 프로덕션 AI 앱의 경우:
| 게이트웨이 | 월별 비용 | 실제 AI 지출 |
|---|---|---|
| 직접 공급업체 (게이트웨이 없음) | $5,000 | $5,000 |
| OpenRouter | $5,000 + 5.5% = $5,275 | $5,275 |
| LiteLLM 자체 호스팅 | $5,000 + ~$50 인프라 | ~$5,050 |
| LiteLLM Cloud | $5,000 + $99-$499 구독 | $5,099-$5,499 |
| Portkey | $5,000 + $199-$999 구독 | $5,199-$5,999 |
대규모에서 LiteLLM 자체 호스팅이 가장 저렴합니다. Portkey는 가장 비싸지만 엔터프라이즈 기능으로 비용을 정당화합니다.
무료 크레딧이 있는 사용자의 경우, 게이트웨이 선택은 덜 중요합니다 - 크레딧이 게이트웨이 비용을 흡수합니다.
무료 크레딧이 계산을 변경하는 방법
Anthropic, OpenAI, Gemini 등에서 누적된 $25,000 이상의 무료 크레딧이 있는 경우:
| 게이트웨이 | 실제 비용 (무료 크레딧) |
|---|---|
| OpenRouter | 크레딧 풀의 5.5% ($1,375 실제) |
| LiteLLM 자체 호스트 | 월 $50 인프라 |
| LiteLLM Cloud | $99-$499 구독 |
| Portkey | $199-$999 구독 |
최대 크레딧 효율성을 위해, LiteLLM 자체 호스팅은 전체 무료 크레딧 풀을 보존합니다. OpenRouter의 5.5% 수수료는 $25K 크레딧 예산에서 $1,375를 소모합니다.
이 스택을 지원하는 크레딧 프로그램은 AI Perks에서 확인할 수 있습니다.
언제 무엇을 선택해야 하는가
OpenRouter를 선택해야 하는 경우
- 개인 개발자 또는 소규모 팀 (1-5명)인 경우
- 인프라 제로를 원하는 경우
- 5.5% 수수료가 중요할 정도로 많이 소모하지 않을 경우
- 가장 빠른 다중 공급업체 라우팅 시간을 원하는 경우
LiteLLM을 선택해야 하는 경우
- 인프라 역량을 갖춘 엔지니어링 팀인 경우
- 대규모 프로덕션 AI 제품을 출시하는 경우
- 라우팅 로직에 대한 완전한 제어를 원하는 경우
- 대규모에서 최대 크레딧 효율성을 원하는 경우
Portkey를 선택해야 하는 경우
- 엔터프라이즈 AI 플랫폼인 경우
- 규정 준수 및 거버넌스가 필요한 경우
- 공유 인프라에서 여러 팀을 관리하는 경우
- 구독 가격을 정당화할 수 있는 경우
게이트웨이 없이 실행해야 하는 경우
- 단일 공급업체만 사용하는 경우 (Anthropic만 또는 OpenAI만)
- 다중 공급업체 요구 사항 없이 프로토타이핑 중인 경우
- 대체 처리를 앱 코드에서 수행하는 경우
게이트웨이에 걸쳐 무료 크레딧 쌓기
게이트웨이 선택에 관계없이, 가장 큰 비용 레버는 공급업체 간의 무료 크레딧입니다:
| 출처 | 사용 가능한 크레딧 | 얻는 방법 |
|---|---|---|
| 무료 Anthropic 크레딧 | $1,000 - $25,000+ | AI Perks 가이드 |
| 무료 OpenAI 크레딧 | $500 - $50,000+ | AI Perks 가이드 |
| 무료 Gemini / Vertex 크레딧 | $300 - $100,000+ | AI Perks 가이드 |
| 무료 xAI / Grok 크레딧 | $25 - $5,000 | AI Perks 가이드 |
| 무료 DeepSeek / Together AI | $25 - $1,000 | AI Perks 가이드 |
| 무료 Mistral 크레딧 | $50 - $5,000 | AI Perks 가이드 |
총 누적 잠재력: $1,900 - $186,000+ 공급업체 간 크레딧
정확한 프로그램 이름과 신청 순서는 AI Perks 내부에 있습니다. AI Perks 팀은 Y Combinator, Techstars, Antler, 500 Global, Google for Startups 출신입니다.
실제 설정: 무료 크레딧을 이용한 LiteLLM
대부분의 프로덕션 팀을 위한 최적의 설정:
# litellm.yaml
model_list:
- model_name: smart-claude
litellm_params:
model: anthropic/claude-sonnet-4-6
api_key: $ANTHROPIC_API_KEY # 무료 크레딧에 연결됨
- model_name: smart-gpt
litellm_params:
model: openai/gpt-5-5
api_key: $OPENAI_API_KEY # 무료 크레딧에 연결됨
- model_name: cheap-fallback
litellm_params:
model: deepseek/deepseek-v4
api_key: $DEEPSEEK_API_KEY
router_settings:
routing_strategy: usage-based-routing
fallbacks:
- model: smart-claude
providers: [smart-gpt, cheap-fallback]
앱은 smart-claude를 호출합니다. LiteLLM은 Anthropic으로 라우팅하고, 속도 제한 시 GPT로 대체하고, 둘 다 실패하면 DeepSeek로 대체합니다. 모두 무료 크레딧을 사용합니다.
단계별: 게이트웨이 설정
1단계: AI Perks를 통해 모든 주요 공급업체에 걸쳐 무료 크레딧 받기
2단계: 팀 규모에 따라 게이트웨이 선택: OpenRouter (개인), LiteLLM (팀), Portkey (엔터프라이즈).
3단계: 무료 크레딧 계정에 연결된 공급업체 API 키 구성
4단계: 속도 제한 처리를 위한 대체 라우팅 규칙 설정
5단계: 공급업체별 비용 모니터링 및 남은 무료 크레딧이 있는 공급업체로 트래픽 이동
6단계: 무료 크레딧이 만료되고 AI Perks를 통해 소스를 새로 고침함에 따라 분기별 재평가
헤비 유저들의 이야기
2026년 5월 Hacker News 및 dev Twitter에서:
- "무료 Anthropic 크레딧을 이용한 LiteLLM 자체 호스팅이 가장 저렴한 진지한 설정입니다. OpenRouter의 5.5%는 대규모에서 더해집니다."
- "OpenRouter는 개인 개발자에게 올바른 답입니다. 5.5%는 제로 인프라에 대한 공정한 가격입니다."
- "Portkey는 SOC 2 감사 중에 우리를 구했습니다. 감사 로그와 팀 RBAC는 최고 수준입니다."
- "프로덕션을 위해 LiteLLM을, 프로토타입을 위해 OpenRouter를 실행합니다. 다른 속도를 위한 다른 도구들."
다중 게이트웨이 패턴은 헤비 유저들 사이에서 일반적입니다.
자주 묻는 질문
OpenRouter 대 LiteLLM - 어느 것이 더 나은가?
개인 개발자와 소규모 팀 (제로 인프라)을 위한 OpenRouter. 프로덕션 팀 (마크업 수수료 없음, 완전한 제어)을 위한 LiteLLM. 둘 다 AI Perks의 무료 크레딧으로 BYOK를 지원합니다.
OpenRouter는 5.5% 수수료만큼 가치가 있는가?
개인 개발자와 소규모 팀의 경우, 예 - 제로 인프라에서 오는 시간 절약은 수수료보다 가치가 높습니다. 월 $5K 이상을 소모하는 프로덕션 팀의 경우, LiteLLM 자체 호스팅이 더 비용 효율적입니다.
Claude Code와 LiteLLM을 함께 사용할 수 있는가?
예, LiteLLM은 OpenAI 호환 API를 노출하며 Claude Code는 이를 사용하도록 구성할 수 있습니다. AI Perks의 무료 Anthropic 크레딧과 함께 사용하세요.
Portkey에 무료 등급이 있는가?
예, Portkey는 개인 및 소규모 팀 사용을 위한 넉넉한 무료 등급을 제공합니다. 엔터프라이즈 기능 (규정 준수, RBAC, 사용자 지정 보존)은 월 $199부터 시작하는 유료 등급이 필요합니다.
가장 저렴한 게이트웨이는 무엇인가?
LiteLLM 자체 호스팅은 마크업이 없고 월 $50의 인프라 비용만 듭니다. AI Perks를 통한 무료 크레딧을 사용하면 전체 크레딧 풀을 보존합니다. 가장 저렴하고 진지한 설정입니다.
여러 게이트웨이를 사용할 수 있는가?
예, 일반적인 패턴은 프로토타입은 OpenRouter, 프로덕션은 LiteLLM입니다. 동일한 크레딧 풀이 둘 다 작동합니다. AI Perks의 무료 크레딧은 두 설정 모두를 지원합니다.
어떤 게이트웨이에 공급업체가 가장 많은가?
OpenRouter는 200개 이상의 모델로 선두를 달리고 있습니다. LiteLLM은 100개 이상의 공급업체를 보유하고 있습니다. Portkey는 100개를 다룹니다. 모든 주요 최첨단 공급업체는 세 가지 모두에서 지원됩니다.
결론
OpenRouter는 단순함에서 승리합니다. LiteLLM은 대규모 비용 효율성에서 승리합니다. Portkey는 엔터프라이즈 거버넌스에서 승리합니다. 올바른 선택은 팀 규모와 단계에 따라 달라집니다. 어떤 게이트웨이 아래에서도, AI Perks의 공급업체 간 무료 크레딧이 실제 비용 레버입니다 - 이를 쌓아두면 게이트웨이 선택이 부차적이 됩니다.
AI 추론에 대한 과다 지불을 중단하세요. getaiperks.com에서 $1,900-$186,000 이상의 누적 크레딧을 받으세요.