osFoundry / Platform
Rate limiting de app público
Limites de taxa ajustáveis por IP e por token em apps públicos. Padrões que aguentam o efeito de abraço fatal.
O que é
O limite de taxa para apps públicos do osFoundry coloca um regulador configurável na frente de qualquer app que você publique. Os limites são definidos de duas formas que atuam juntas: por IP, que restringe quantas requisições um mesmo endereço de cliente pode fazer em uma janela de tempo, e por token, que restringe o uso vinculado a um token de acesso ou chave de API específica. O limite por IP amortece uma enxurrada vinda de uma única origem; o limite por token impede que uma credencial compartilhada ou vazada devore sua cota. Como o osFoundry funciona com suas próprias chaves (BYOK), as requisições que seu app público distribui entre os modelos acabam gastando contra chaves que são suas, então um endpoint sem limites não é só um problema de carga: é um problema de faturamento. Os limites de taxa são a fronteira que impede um pico de virar surpresa na fatura do seu provedor.
Dentro do osFoundry, isso vive na camada Apps & Backend, ao lado do restante da forma como você empacota e expõe um app. Ao tornar um app público, os limites já estão ativos com padrões escolhidos para sobreviver à enxurrada de acessos, aquele momento em que um link é compartilhado amplamente e o tráfego chega mais rápido do que você planejou. Em vez de cair ou esvaziar uma chave, as requisições excedentes são recusadas na borda para que o tráfego legítimo continue fluindo. A partir daí, todo limite é ajustável: eleve o teto de um app que você espera movimentado, aperte-o em algo experimental ou defina limites por token por credencial para que cada consumidor receba um orçamento diferente.
Isso importa porque um app de IA público tem uma superfície de custo que a maioria dos sites estáticos não tem. Uma única URL compartilhada, um scraper ou um cliente descontrolado podem gerar milhares de chamadas ao modelo em minutos. Os limites por IP e por token dão a você um pior caso previsível: você decide o gasto e a carga máximos que seu app pode assumir antes de começar a dizer não. Combinado ao modelo local-first e sem sobrepreço de revenda do osFoundry, você mantém suas chaves, seus dados e, agora, também a exposição dos endpoints atrás dos quais essas chaves ficam.
Principais recursos
- Defina limites de requisição por IP para restringir o quanto um mesmo endereço de cliente pode atingir um app público em uma dada janela
- Defina limites por token para que um token de acesso ou chave de API específica tenha seu próprio orçamento de uso, independente do IP de origem
- Já vem com padrões calibrados para absorver a enxurrada de acessos, um pico repentino por link compartilhado, sem nenhuma configuração manual
- Recusa na borda as requisições excedentes para que uma enxurrada não esvazie as chaves BYOK do provedor contra as quais seu app gasta
- Ajuste cada teto para cima ou para baixo, por app e por credencial, à medida que o tráfego real do app fica claro
Casos de uso
- Desenvolvedor independente: compartilha um link de demo público que viraliza sem esperar e conta com os limites padrão para mantê-lo no ar em vez de queimar uma chave de API da noite para o dia
- Líder de equipe: emite tokens de acesso separados para parceiros e define um orçamento por token em cada um, para que uma integração não sufoque as demais
- Desenvolvedor com foco em operações: aperta os limites por IP de um endpoint experimental para limitar o custo e a carga do pior caso antes de promovê-lo à produção
Perguntas frequentes
Qual é a diferença entre limites de taxa por IP e por token?
O limite por IP restringe requisições de um mesmo endereço de cliente, o que barra uma enxurrada vinda de uma única origem. O limite por token restringe o uso vinculado a um token de acesso ou chave de API específica, seja de onde for chamada, o que contém uma credencial compartilhada ou vazada. Você pode usar os dois ao mesmo tempo: por IP para o tráfego público anônimo e por token para dar a consumidores identificados seus próprios orçamentos.
O que acontece quando meu app público recebe muito tráfego de repente?
Apps públicos já vêm com limites padrão escolhidos para lidar com a enxurrada de acessos, um link compartilhado bem além do esperado. As requisições acima do limite são recusadas em vez de passar, então um pico não consegue esvaziar a chave do provedor contra a qual seu app gasta nem derrubar o app. Você pode elevar os limites nos apps que espera movimentados.
Preciso configurar os limites de taxa antes de tornar um app público?
Não. Ao tornar um app público, padrões sensatos já estão em vigor, então você fica protegido sem nenhuma configuração. Tudo é ajustável quando você quiser: suba ou desça o teto por IP, ou defina limites por token por credencial, mas a base segura está ativa desde o início.