OpenRouter vs LiteLLM vs Portkey: Der Vergleich der KI-Gateways 2026
Die Wahl eines KI-Gateways im Jahr 2026 ist eine der wirkungsvollsten Infrastrukturentscheidungen, die Sie treffen. Das richtige Gateway spart 5-20 % der KI-Kosten, bietet Fallback bei Ratenbegrenzungen von Anbietern und gibt Ihnen Einblick in mehrere LLMs. Das falsche Gateway fügt Reibung ohne Mehrwert hinzu.
Drei Gateways dominieren die Produktionsnutzung: OpenRouter (verwaltet, Multi-Anbieter), LiteLLM (Open-Source, selbst gehostet) und Portkey (Enterprise-Observability). Jeder Ansatz ist anders. Für die meisten Teams ist das Gateway weniger wichtig als die kostenlosen Credits, die Sie darüber leiten – und AI Perks deckt Kreditprogramme für jeden wichtigen Anbieter ab.
Vergleich der Überschriften
| Gateway | Typ | Preisgestaltung | Am besten geeignet für |
|---|---|---|---|
| OpenRouter | Verwalteter SaaS | 5,5 % Gebühr auf Credits | Einzelentwickler, kleine Teams |
| LiteLLM | Open-Source, selbst gehostet | Kostenlos (oder Cloud-Abonnement) | Produktions-KI-Apps |
| Portkey | Enterprise-Observability | Abonnement + kostenlose Stufe | Compliance + Governance |
Die drei lösen unterschiedliche Probleme. Die meisten Teams wählen eines und bleiben loyal. Power-User betreiben manchmal zwei für unterschiedliche Workloads.
OpenRouter: Die einfache Wahl
OpenRouter ist ein verwaltetes API-Gateway mit über 200 Modellen hinter einem einzigen API-Schlüssel.
Stärken
- Null Infrastruktur – anmelden, API-Schlüssel einfügen, fertig
- Über 200 Modelle, darunter Claude, GPT, Gemini, Grok, DeepSeek, alle Llama-Varianten
- Automatischer Fallback, wenn ein Anbieter eine Ratenbegrenzung hat
- BYOK-Unterstützung – leiten Sie Ihre eigenen Anbieter-Schlüssel über OpenRouter
- Konsolidierte Abrechnung – eine Rechnung für alle Modelle
- Großzügige kostenlose Stufe für ausgewählte Open-Source-Modelle
- Pay-as-you-go mit Prepaid-Credits
Schwächen
- 5,5 % Aufschlag auf alle genutzten Credits (die „OpenRouter-Steuer“)
- Verwaltet = Vendor Lock-in für die Routing-Logik von OpenRouter
- Weniger Observability als Portkey
- Kann die Routing-Logik nicht selbst hosten
Am besten geeignet für: Einzelentwickler, kleine Teams, Prototypen, alle, die keine Infrastruktur-Einrichtung wünschen.
LiteLLM: Die Open-Source-Wahl für Power-User
LiteLLM ist ein Open-Source-Python-Proxy, der über 100 LLM-APIs hinter einer einheitlichen, OpenAI-kompatiblen Schnittstelle bereitstellt.
Stärken
- Kostenloser Open-Source-Kern – kein Abonnement erforderlich
- Selbst gehostet – Sie besitzen die Routing-Logik
- OpenAI-kompatible API von vornherein – Drop-in für bestehenden Code
- Über 100 Anbieter-Integrationen, darunter Claude, GPT, Gemini, Grok, Bedrock, Vertex
- Caching, Fallback, Wiederholungsversuche, Observability sind integriert
- LiteLLM Cloud für eine verwaltete Option, falls erforderlich
- Kostenverfolgung mit Granularität pro Anfrage
Schwächen
- Komplexität beim Selbsthosten – Sie verwalten den Proxy
- Weniger polierte Benutzeroberfläche als Portkey
- Dokumentation erfordert Lektüre – nicht immer intuitiv
- Cloud-Abonnement, wenn Sie nicht selbst hosten
Am besten geeignet für: Engineering-Teams, die Produktions-KI-Apps mit voller Kontrolle entwickeln.
Portkey: Die Wahl für Unternehmen
Portkey ist eine Enterprise-Observability- und Routing-Plattform für KI.
Stärken
- Best-in-Class-Observability – Traces, Metriken, Kosten pro Team
- Prompt-Versioning und A/B-Tests
- Caching mit benutzerdefinierten TTLs
- Teammanagement mit RBAC
- Compliance-würdige Audit-Logs
- Multi-Tenant für KI-Plattformen
- Kostenlose Stufe, großzügig genug für die Solo-Nutzung
Schwächen
- Abonnement erforderlich im großen Maßstab (199-999 $/Monat)
- Umfangreicheres Funktionsset kann für Solo-Entwickler übertrieben sein
- Weniger "Drop-in"-einfach als OpenRouter
Am besten geeignet für: Enterprise-KI-Plattformen mit Anforderungen an Compliance, Überwachung und Multi-Team-Management.
Detaillierter Funktionsvergleich
| Merkmal | OpenRouter | LiteLLM | Portkey |
|---|---|---|---|
| Anzahl der Anbieter | 200+ | 100+ | 100+ |
| Open Source | Nein | Ja | Teilweise |
| Selbsthosten | Nein | Ja | Ja (Cloud) |
| BYOK-Unterstützung | Ja | Ja | Ja |
| Fallback-Routing | Integriert | Konfigurierbar | Integriert |
| Caching | Integriert | Ja | Ja, erweitert |
| Observability | Grundlegendes Dashboard | OSS-Metriken | Best in Class |
| Kostenverfolgung | Ja | Ja | Ja, pro Team |
| Prompt-Versioning | Nein | Begrenzt | Ja |
| A/B-Tests | Nein | Begrenzt | Ja |
| Compliance / SOC 2 | Begrenzt | DIY | Ja (Pro+) |
| Preisgestaltung | 5,5 % Gebühr | Kostenloses OSS | 0-999 $/Monat |
Kostenberechnung: Reale Arbeitslast
Für eine Produktions-KI-App, die 5.000 $/Monat an rohen API-Kosten verbraucht:
| Gateway | Monatliche Kosten | Effektiver KI-Aufwand |
|---|---|---|
| Direkter Anbieter (kein Gateway) | 5.000 $ | 5.000 $ |
| OpenRouter | 5.000 $ + 5,5 % = 5.275 $ | 5.275 $ |
| LiteLLM selbst gehostet | 5.000 $ + ca. 50 $ Infrastruktur | ca. 5.050 $ |
| LiteLLM Cloud | 5.000 $ + 99-499 $ Abonnement | 5.099-5.499 $ |
| Portkey | 5.000 $ + 199-999 $ Abonnement | 5.199-5.999 $ |
LiteLLM selbst gehostet ist im großen Maßstab am günstigsten. Portkey ist am teuersten, rechtfertigt die Kosten aber durch Enterprise-Funktionen.
Für Nutzer mit kostenlosen Credits spielt die Wahl des Gateways eine geringere Rolle – die Credits absorbieren die Gateway-Kosten.
Wie kostenlose Credits die Berechnung ändern
Mit über 25.000 $ gestapelten kostenlosen Credits bei Anthropic, OpenAI, Gemini und anderen:
| Gateway | Effektive Kosten (Kostenlose Credits) |
|---|---|
| OpenRouter | 5,5 % des Kreditpools (effektiv 1.375 $) |
| LiteLLM selbst-hosten | 50 $/Monat Infrastruktur |
| LiteLLM Cloud | 99-499 $ Abonnement |
| Portkey | 199-999 $ Abonnement |
Für maximale Krediteffizienz bewahrt LiteLLM selbst gehostet den vollen Pool an kostenlosen Credits. Die 5,5 % Gebühr von OpenRouter frisst 1.375 $ eines Kreditbudgets von 25.000 $.
Die Kreditprogramme, die diesen Stapel finanzieren, finden Sie unter AI Perks.
Wann man was wählt
Wählen Sie OpenRouter, wenn
- Sie ein Einzelentwickler oder kleines Team (1-5 Personen) sind
- Sie keine Infrastruktur wünschen
- Sie nicht genug verbrauchen, um die 5,5 % Gebühr wesentlich zu machen
- Sie die schnellste Zeit für Multi-Anbieter-Routing wünschen
Wählen Sie LiteLLM, wenn
- Sie ein Engineering-Team mit Infrastrukturkapazitäten sind
- Sie Produktions-KI-Produkte im großen Maßstab liefern
- Sie volle Kontrolle über die Routing-Logik wünschen
- Sie maximale Krediteffizienz im großen Maßstab wünschen
Wählen Sie Portkey, wenn
- Sie eine Enterprise-KI-Plattform sind
- Sie Compliance und Governance benötigen
- Sie mehrere Teams auf gemeinsamer Infrastruktur verwalten
- Sie Abonnementpreise rechtfertigen können
Betreiben Sie kein Gateway, wenn
- Sie nur einen Anbieter verwenden (nur Anthropic oder nur OpenAI)
- Sie prototypen ohne Multi-Anbieter-Anforderungen
- Sie Fallbacks im App-Code behandeln
Stapeln von kostenlosen Credits über Gateways hinweg
Unabhängig von der Wahl des Gateways sind kostenlose Credits von Anbietern der größte Kostenhebel:
| Quelle | Verfügbare Credits | Wie man sie bekommt |
|---|---|---|
| Kostenlose Anthropic-Credits | 1.000 $ - 25.000 $+ | AI Perks Leitfaden |
| Kostenlose OpenAI-Credits | 500 $ - 50.000 $+ | AI Perks Leitfaden |
| Kostenlose Gemini / Vertex-Credits | 300 $ - 100.000 $+ | AI Perks Leitfaden |
| Kostenlose xAI / Grok-Credits | 25 $ - 5.000 $ | AI Perks Leitfaden |
| Kostenlose DeepSeek / Together AI | 25 $ - 1.000 $ | AI Perks Leitfaden |
| Kostenlose Mistral-Credits | 50 $ - 5.000 $ | AI Perks Leitfaden |
Gesamtpotenzial gestapelt: 1.900 $ - 186.000 $+ an anbieterübergreifenden Credits
Die genauen Programmnamen und die Reihenfolge der Bewerbung finden Sie unter AI Perks. Das AI Perks-Team kommt von Y Combinator, Techstars, Antler, 500 Global und Google for Startups.
Reale Einrichtung: LiteLLM mit kostenlosen Credits
Die optimale Einrichtung für die meisten Produktionsteams:
# litellm.yaml
model_list:
- model_name: smart-claude
litellm_params:
model: anthropic/claude-sonnet-4-6
api_key: $ANTHROPIC_API_KEY # verbunden mit kostenlosen Credits
- model_name: smart-gpt
litellm_params:
model: openai/gpt-5-5
api_key: $OPENAI_API_KEY # verbunden mit kostenlosen Credits
- model_name: cheap-fallback
litellm_params:
model: deepseek/deepseek-v4
api_key: $DEEPSEEK_API_KEY
router_settings:
routing_strategy: usage-based-routing
fallbacks:
- model: smart-claude
providers: [smart-gpt, cheap-fallback]
Die App ruft smart-claude auf. LiteLLM leitet zu Anthropic weiter, fällt auf GPT zurück, wenn es eine Ratenbegrenzung gibt, und fällt auf DeepSeek zurück, wenn beide fehlschlagen. Alle nutzen kostenlose Credits.
Schritt für Schritt: Richten Sie Ihr Gateway ein
Schritt 1: Holen Sie sich kostenlose Credits über AI Perks von allen wichtigen Anbietern.
Schritt 2: Wählen Sie das Gateway basierend auf Ihrer Teamgröße: OpenRouter (Solo), LiteLLM (Team), Portkey (Enterprise).
Schritt 3: Konfigurieren Sie die Anbieter-API-Schlüssel, die mit kostenlosen Kreditkonten verknüpft sind.
Schritt 4: Legen Sie Fallback-Routing-Regeln für die Behandlung von Ratenbegrenzungen fest.
Schritt 5: Überwachen Sie die Kosten pro Anbieter und verschieben Sie den Datenverkehr zu Anbietern mit verbleibenden kostenlosen Credits.
Schritt 6: Bewerten Sie vierteljährlich neu, da kostenlose Credits ablaufen und Quellen über AI Perks aktualisiert werden.
Was Power-User sagen
Von Hacker News und Dev Twitter im Mai 2026:
- "LiteLLM selbst gehostet mit kostenlosen Anthropic-Credits ist die günstigste ernsthafte Einrichtung. OpenRouters 5,5 % summieren sich im großen Maßstab."
- "OpenRouter ist die richtige Antwort für Solo-Entwickler. Die 5,5 % sind ein fairer Preis für keine Infrastruktur."
- "Portkey hat uns während einer SOC 2-Prüfung gerettet. Die Audit-Logs und das Team-RBAC sind best-in-class."
- "Ich betreibe LiteLLM für die Produktion und OpenRouter für Prototypen. Unterschiedliche Werkzeuge für unterschiedliche Geschwindigkeiten."
Das Multi-Gateway-Muster ist bei Power-Usern üblich.
Häufig gestellte Fragen
OpenRouter vs. LiteLLM – was ist besser?
OpenRouter für Einzelentwickler und kleine Teams (keine Infrastruktur). LiteLLM für Produktionsteams (keine Markup-Gebühr, volle Kontrolle). Beide unterstützen BYOK mit kostenlosen Credits von AI Perks.
Ist OpenRouter die 5,5 % Gebühr wert?
Für Einzelentwickler und kleine Teams ja – die Zeitersparnis durch Null-Infrastruktur überwiegt die Gebühr. Für Produktionsteams, die 5.000 $/Monat verbrauchen, ist LiteLLM selbst gehostet kostengünstiger.
Kann ich LiteLLM mit Claude Code verwenden?
Ja, LiteLLM stellt eine OpenAI-kompatible API bereit, für die Claude Code konfiguriert werden kann. Stapeln Sie mit kostenlosen Anthropic-Credits von AI Perks.
Hat Portkey eine kostenlose Stufe?
Ja, Portkey hat eine großzügige kostenlose Stufe für Solo- und kleine Teams. Enterprise-Funktionen (Compliance, RBAC, benutzerdefinierte Aufbewahrung) erfordern kostenpflichtige Stufen ab 199 $/Monat.
Was ist das günstigste Gateway?
LiteLLM selbst gehostet hat keine Aufschläge und nur 50 $/Monat Infrastrukturkosten. Mit kostenlosen Credits über AI Perks bewahrt es den vollen Kreditpool. Die günstigste ernsthafte Einrichtung.
Kann ich mehrere Gateways verwenden?
Ja, ein gängiges Muster ist OpenRouter für Prototypen und LiteLLM für die Produktion. Dieselben Kreditpools funktionieren bei beiden. Kostenlose Credits bei AI Perks decken beide Einrichtungen ab.
Welches Gateway hat die meisten Anbieter?
OpenRouter führt mit über 200 Modellen. LiteLLM hat über 100 Anbieter. Portkey deckt 100+ ab. Alle wichtigen Frontier-Anbieter werden über alle drei unterstützt.
Das Urteil
OpenRouter gewinnt bei der Einfachheit. LiteLLM gewinnt bei der Kosteneffizienz im großen Maßstab. Portkey gewinnt bei der Enterprise-Governance. Die richtige Wahl hängt von der Teamgröße und dem Stadium ab. Unter jedem Gateway sind kostenlose Credits von Anbietern über AI Perks der eigentliche Kostenhebel – stapeln Sie sie, und die Wahl des Gateways wird zweitrangig.
Abonnieren Sie auf getaiperks.com →
Hören Sie auf, zu viel für KI-Inferenz zu bezahlen. Holen Sie sich 1.900 $-186.000 $+ an gestapelten Credits unter getaiperks.com.