LLM Gateway (one-api)
LLM Gateway (one-api) é um(a) app no catálogo da comunidade osFoundry. Endpoint único compatível com OpenAI que distribui chamadas para OpenAI, Anthropic, Google, Mistral, Groq, Ollama, Azure, Bedrock e mais de 30 provedores. Gerencie chaves por canal, defina cotas de orçamento por token por usuário, registre cada requisição e ofereça uma API /v1/chat/completions uniforme a todas as suas aplicações. Movido por songquanpeng/one-api — a forma auto-hospedada mais simples de padronizar o acesso a LLMs em uma organização.
Detalhes
- Workspace: osfoundry
- Categoria: AI
- Preço: Free
- Acesso: Community
Recursos
- Single /v1/chat/completions endpoint fans out to OpenAI, Anthropic, Google, Mistral, Groq, Ollama, Azure, Bedrock + 30 more
- Per-token quotas + cost ledger per user — set budgets, see usage, suspend over-spenders
- Issue per-app API keys without exposing upstream provider keys to downstream apps
- Every request logged with token count + estimated cost — searchable + exportable
- Channel failover — mark a channel as backup, auto-route when primary errors
- SQLite bundled — switch to MySQL via SQL_DSN env when you outgrow one process
Documentação
A documentação é mantida em inglês pelo projeto original.
# LLM Gateway (one-api)
## First-boot setup
Default admin login is `root` / `123456` — **change it immediately** at Settings → Personal Settings → Password.
## Add a channel (upstream provider)
Channels are how one-api connects to upstream LLM providers.
1. **Channels** tab → **Add new channel**
2. Pick the provider (OpenAI, Anthropic, Google AI Studio, Azure, Mistral, Groq, Ollama, ...)
3. Paste the upstream API key (the platform never sees it)
4. Pick which model names this channel handles
5. Save
## Issue keys to your apps
After channels are configured, **Tokens** tab → **Add token** → set quota (in 1k-token units) → copy the `sk-...` key. Point any OpenAI-compatible SDK at:
```
base_url: https://<your-public-url>/v1
api_key: sk-<the issued token>
```
## Routing
Requests flow: client → one-api → matching channel (by model name) → upstream API → response back. one-api logs every request with token count + cost, lets you set per-user quotas, and lets you swap channels without touching client code.
## Storage
SQLite at `/data/one-api.db`. For high-throughput multi-tenant setups, switch to MySQL via `SQL_DSN` env (not bundled here).
Como usar LLM Gateway (one-api) no osFoundry
Instale LLM Gateway (one-api) no seu workspace com um clique e, em seguida, faça um fork no osStudio para personalizar prompts, ferramentas ou configurações para a sua stack. Qualquer pessoa do seu workspace pode continuar de onde você parou.
Outros itens da categoria apps da comunidade
- CRM — Gestão de relacionamento com clientes com contatos, negócios e acompanhamento de pipeline.
- Kanban Board — Um quadro kanban e de projeto estilo Trello com cartões, quadros, visualizações de calendário e tabela e propriedades por quadro. Movido pelo Focalboard (servidor pessoal standalone). SQLite embutido em um volume persistente.
- Helpdesk — Triagem de tickets e caixa de entrada de suporte ao cliente com acompanhamento de SLA.
- Page Builder — Construtor visual de páginas arrastar-e-soltar com seções, temas, SEO e publicação
- Website Builder — Construtor de site de múltiplas páginas com coleções de CMS, navegação global, rodapé, temas e publicação
- Loja Virtual — Loja de e-commerce com catálogo de produtos, carrinho e checkout.