Flipters
Assine

Downloads · Categoria

Gateways e roteadores de LLM

Serviços e proxies que dão uma API única para vários provedores de modelos, com roteamento, fallback, controle de gastos e registro das chamadas.

8 programas no catálogo

8 programas nesta categoria

  • Bifrost

    Maxim AI · Gateways e roteadores de LLM

    Gateway de IA de código aberto da Maxim AI, feito para baixa latência e alto volume de requisições

    Código aberto (Apache-2.0)

    • Servidor próprio
    • API
    • 8.585 no GitHub

  • Cloudflare AI Gateway

    Cloudflare · Gateways e roteadores de LLM

    Proxy grátis da Cloudflare para chamadas de IA, com cache, limites de uso, logs e análise de custos

    Em português

    Grátis com planos pagos

    • API
    • Navegador

  • Helicone

    Helicone (Mintlify) · Gateways e roteadores de LLM

    Observabilidade de LLM e gateway de IA de código aberto, em modo de manutenção desde a compra pela Mintlify

    Código aberto (Apache-2.0)

    • API
    • Navegador
    • Servidor próprio
    • 6.201 no GitHub

  • LiteLLM

    BerriAI · Gateways e roteadores de LLM

    Gateway e SDK de código aberto que unificam mais de 100 provedores de LLM no formato da API da OpenAI

    Código aberto: MIT (recursos enterprise sob licença comercial)

    • Servidor próprio
    • API
    • Navegador
    • 60,2 mil no GitHub

  • OpenRouter

    OpenRouter · Gateways e roteadores de LLM

    API única para centenas de modelos de dezenas de provedores, com fallback automático e cobrança por créditos

    Grátis com planos pagos

    • API
    • Navegador

  • Portkey

    Portkey (Palo Alto Networks) · Gateways e roteadores de LLM

    Gateway de IA de código aberto com guardrails e observabilidade, hoje parte da Palo Alto Networks

    Código aberto: MIT (plataforma hospedada proprietária)

    • API
    • Navegador
    • Servidor próprio
    • 13,1 mil no GitHub

  • Requesty

    Requesty · Gateways e roteadores de LLM

    Roteador de LLM com mais de 600 modelos, cache, fallback e residência de dados na Europa

    Grátis com planos pagos

    • API
    • Navegador

  • Vercel AI Gateway

    Vercel · Gateways e roteadores de LLM

    Gateway de IA da Vercel com centenas de modelos, uma chave e preço de lista sem margem

    Grátis com planos pagos

    • API
    • Navegador