LLM Gateway (one-api)
LLM Gateway (one-api) es un(a) aplicación en el catálogo de la comunidad de osFoundry. Un único endpoint compatible con OpenAI que distribuye peticiones a OpenAI, Anthropic, Google, Mistral, Groq, Ollama, Azure, Bedrock y más de 30 proveedores. Gestiona claves por canal, define cuotas por presupuesto de tokens por usuario, registra cada petición y ofrece una API uniforme /v1/chat/completions a todas tus aplicaciones. Basado en songquanpeng/one-api: la forma más sencilla de autoalojar y estandarizar el acceso a LLM en una organización.
Detalles
- Espacio de trabajo: osfoundry
- Categoría: AI
- Precio: Free
- Acceso: Community
Características
- Single /v1/chat/completions endpoint fans out to OpenAI, Anthropic, Google, Mistral, Groq, Ollama, Azure, Bedrock + 30 more
- Per-token quotas + cost ledger per user — set budgets, see usage, suspend over-spenders
- Issue per-app API keys without exposing upstream provider keys to downstream apps
- Every request logged with token count + estimated cost — searchable + exportable
- Channel failover — mark a channel as backup, auto-route when primary errors
- SQLite bundled — switch to MySQL via SQL_DSN env when you outgrow one process
Documentación
La documentación es mantenida en inglés por el proyecto original.
# LLM Gateway (one-api)
## First-boot setup
Default admin login is `root` / `123456` — **change it immediately** at Settings → Personal Settings → Password.
## Add a channel (upstream provider)
Channels are how one-api connects to upstream LLM providers.
1. **Channels** tab → **Add new channel**
2. Pick the provider (OpenAI, Anthropic, Google AI Studio, Azure, Mistral, Groq, Ollama, ...)
3. Paste the upstream API key (the platform never sees it)
4. Pick which model names this channel handles
5. Save
## Issue keys to your apps
After channels are configured, **Tokens** tab → **Add token** → set quota (in 1k-token units) → copy the `sk-...` key. Point any OpenAI-compatible SDK at:
```
base_url: https://<your-public-url>/v1
api_key: sk-<the issued token>
```
## Routing
Requests flow: client → one-api → matching channel (by model name) → upstream API → response back. one-api logs every request with token count + cost, lets you set per-user quotas, and lets you swap channels without touching client code.
## Storage
SQLite at `/data/one-api.db`. For high-throughput multi-tenant setups, switch to MySQL via `SQL_DSN` env (not bundled here).
Cómo usar LLM Gateway (one-api) en osFoundry
Instalen LLM Gateway (one-api) en su espacio de trabajo con un solo clic y luego bifúrquenlo en osStudio para personalizar los prompts, las herramientas o la configuración según su stack. Cualquier persona de su espacio de trabajo podrá continuar desde donde lo dejaron.
Otros aplicaciones de la comunidad
- CRM — Gestión de relaciones con clientes con contactos, oportunidades y seguimiento del pipeline de ventas.
- Kanban Board — Un tablero kanban y de proyectos estilo Trello con tarjetas, tableros, vistas de calendario y tabla, y propiedades por tablero. Funciona con Focalboard (servidor personal independiente). SQLite embebido en un volumen persistente.
- Mesa de Ayuda — Triaje de tickets y bandeja de atención al cliente con seguimiento de SLA.
- Page Builder — Constructor visual de páginas con arrastrar y soltar, con secciones, temas, SEO y publicación
- Website Builder — Constructor de sitios web de varias páginas con colecciones CMS, navegación global, pie de página, temas y publicación
- Tienda Online — Escaparate de e-commerce con catálogo de productos, carrito y proceso de pago.