LLM Gateway (one-api)
LLM Gateway (one-api) è un/una app nel catalogo della community osFoundry. Un unico endpoint OpenAI-compatibile che smista le richieste verso OpenAI, Anthropic, Google, Mistral, Groq, Ollama, Azure, Bedrock e oltre 30 altri provider. Gestisci le chiavi per canale, imposta quote per utente basate sul budget di token, registra ogni richiesta ed esponi un'API uniforme /v1/chat/completions a tutte le tue app downstream. Basato su songquanpeng/one-api — è il modo self-hosted più semplice per standardizzare l'accesso agli LLM in tutta l'organizzazione, perché unifica provider eterogenei sotto un'unica interfaccia.
Dettagli
- Workspace: osfoundry
- Categoria: AI
- Prezzo: Free
- Accesso: Community
Funzionalità
- Single /v1/chat/completions endpoint fans out to OpenAI, Anthropic, Google, Mistral, Groq, Ollama, Azure, Bedrock + 30 more
- Per-token quotas + cost ledger per user — set budgets, see usage, suspend over-spenders
- Issue per-app API keys without exposing upstream provider keys to downstream apps
- Every request logged with token count + estimated cost — searchable + exportable
- Channel failover — mark a channel as backup, auto-route when primary errors
- SQLite bundled — switch to MySQL via SQL_DSN env when you outgrow one process
Documentazione
La documentazione è mantenuta in inglese dal progetto di origine.
# LLM Gateway (one-api)
## First-boot setup
Default admin login is `root` / `123456` — **change it immediately** at Settings → Personal Settings → Password.
## Add a channel (upstream provider)
Channels are how one-api connects to upstream LLM providers.
1. **Channels** tab → **Add new channel**
2. Pick the provider (OpenAI, Anthropic, Google AI Studio, Azure, Mistral, Groq, Ollama, ...)
3. Paste the upstream API key (the platform never sees it)
4. Pick which model names this channel handles
5. Save
## Issue keys to your apps
After channels are configured, **Tokens** tab → **Add token** → set quota (in 1k-token units) → copy the `sk-...` key. Point any OpenAI-compatible SDK at:
```
base_url: https://<your-public-url>/v1
api_key: sk-<the issued token>
```
## Routing
Requests flow: client → one-api → matching channel (by model name) → upstream API → response back. one-api logs every request with token count + cost, lets you set per-user quotas, and lets you swap channels without touching client code.
## Storage
SQLite at `/data/one-api.db`. For high-throughput multi-tenant setups, switch to MySQL via `SQL_DSN` env (not bundled here).
Come utilizzare LLM Gateway (one-api) in osFoundry
Installi LLM Gateway (one-api) nel suo workspace con un clic, quindi ne esegua il fork in osStudio per personalizzare i prompt, gli strumenti o la configurazione per il suo stack. Chiunque nel suo workspace potrà riprendere il lavoro dove l'ha lasciato.
Altri app dalla community
- CRM — Gestione delle relazioni con i clienti con contatti, trattative e tracciamento della pipeline.
- Kanban Board — Una board kanban e di progetto in stile Trello con card, board, viste calendario e tabella, e proprietà per board. Basata su Focalboard (server personale standalone). SQLite integrato su un volume persistente.
- Helpdesk — Smistamento ticket e inbox di assistenza clienti con tracciamento SLA.
- Page Builder — Page builder visuale drag-and-drop con sezioni, temi, SEO e pubblicazione
- Website Builder — Website builder multi-pagina con raccolte CMS, navigazione globale, footer, temi e pubblicazione
- Vetrina E-commerce — Vetrina e-commerce con catalogo prodotti, carrello e checkout.