LLM gateway

4 ferramentas de llm gateway, com modelo de preços, plano gratuito e status de código aberto.

Caching, rate-limiting and analytics in front of any LLM API.

· Free (usage of underlying Workers/logs may bill)

AI plugins for the Kong API gateway - routing, prompt guarding.

código abertoauto-hospedável· Kong Gateway OSS is free

LiteLLM ↗ freemium · a partir de $250/mo

Open-source proxy - one OpenAI-format API for 100+ providers.

código abertoauto-hospedável· Open-source proxy is free; self-host

Portkey ↗ freemium · a partir de $49/mo

AI gateway with routing, caching, guardrails and observability.

código abertoauto-hospedávelafiliado· 10k requests/mo, all core features

"afiliado" = um programa de parceiros conhecido, confirmado à medida que entramos nele. Confirme os preços no site da ferramenta.