Goose
GOOSE_PROVIDER=openai
OPENAI_HOST=...
OPENAI_API_KEY=...Caffeine InferenceAcesso antecipado
Abrir Caffeine InferenceIA econômica e roteamento inteligente.
O que estamos construindo: o Caffeine Inference quer entregar roteamento inteligente e econômico. Você não precisa escolher modelos, nosso roteamento faz isso por você. O que existe hoje: inference econômica.
Funciona com a assinatura Caffeine.
Roteamento, não um menu.
Quando o roteamento inteligente chegar, a Caffeine vai ler a requisição, pesar quanto cada modelo custaria e com que rapidez estão respondendo naquele momento, e enviá-la para um deles. Quando um modelo estiver ocupado ou lento, a requisição irá para outro lugar em vez de falhar.
Aponte para a Caffeine asferramentas que você já usa.
Claude Code e qualquer outra coisa que aceite uma URL base personalizada. Copie a configuração, cole e siga trabalhando.
Claude Code
ANTHROPIC_BASE_URL=...
ANTHROPIC_AUTH_TOKEN=...Qualquer outra coisa
base URL + key
same request shapeQuatro passos até a primeira chamada.
Escolha uma ferramenta, copie a configuração e envie uma chamada. O Caffeine entrega os ajustes no formato que essa ferramenta espera.
1.Visão geral
Perguntas que preferimos responder aqui.
Entrada custa US$ 0,2 por milhão de tokens, entrada em cache US$ 0,05 e saída US$ 0,5. Os preços podem mudar conforme o roteamento evolui.
Caffeine Inference
Funciona com o orçamento Caffeine que já está na sua conta, e faltam três linhas para a sua configuração atual funcionar.
Acesso antecipado. Sem cobrança separada, sem conta separada.