LLM Gateway (one-api)
LLM Gateway (one-api) ist ein App im osFoundry Community-Katalog. Ein einziger OpenAI-kompatibler Endpunkt, der Anfragen an OpenAI, Anthropic, Google, Mistral, Groq, Ollama, Azure, Bedrock und über 30 weitere Anbieter weiterleitet. Verwalten Sie Schlüssel pro Kanal, legen Sie Token-Budget-Kontingente pro Benutzer fest, protokollieren Sie jede Anfrage und stellen Sie all Ihren nachgelagerten Anwendungen eine einheitliche /v1/chat/completions-API bereit. Angetrieben von songquanpeng/one-api – die einfachste selbstgehostete Möglichkeit, den LLM-Zugriff organisationsweit zu standardisieren.
Details
- Workspace: osfoundry
- Kategorie: AI
- Preis: Free
- Zugriff: Community
Funktionen
- Single /v1/chat/completions endpoint fans out to OpenAI, Anthropic, Google, Mistral, Groq, Ollama, Azure, Bedrock + 30 more
- Per-token quotas + cost ledger per user — set budgets, see usage, suspend over-spenders
- Issue per-app API keys without exposing upstream provider keys to downstream apps
- Every request logged with token count + estimated cost — searchable + exportable
- Channel failover — mark a channel as backup, auto-route when primary errors
- SQLite bundled — switch to MySQL via SQL_DSN env when you outgrow one process
Dokumentation
Die Dokumentation wird vom Upstream-Projekt auf Englisch gepflegt.
# LLM Gateway (one-api)
## First-boot setup
Default admin login is `root` / `123456` — **change it immediately** at Settings → Personal Settings → Password.
## Add a channel (upstream provider)
Channels are how one-api connects to upstream LLM providers.
1. **Channels** tab → **Add new channel**
2. Pick the provider (OpenAI, Anthropic, Google AI Studio, Azure, Mistral, Groq, Ollama, ...)
3. Paste the upstream API key (the platform never sees it)
4. Pick which model names this channel handles
5. Save
## Issue keys to your apps
After channels are configured, **Tokens** tab → **Add token** → set quota (in 1k-token units) → copy the `sk-...` key. Point any OpenAI-compatible SDK at:
```
base_url: https://<your-public-url>/v1
api_key: sk-<the issued token>
```
## Routing
Requests flow: client → one-api → matching channel (by model name) → upstream API → response back. one-api logs every request with token count + cost, lets you set per-user quotas, and lets you swap channels without touching client code.
## Storage
SQLite at `/data/one-api.db`. For high-throughput multi-tenant setups, switch to MySQL via `SQL_DSN` env (not bundled here).
LLM Gateway (one-api) in osFoundry verwenden
Installieren Sie LLM Gateway (one-api) mit einem Klick in Ihren Workspace und forken Sie es anschließend in osStudio, um Prompts, Tools oder die Konfiguration an Ihren Stack anzupassen. Alle Mitglieder Ihres Workspace können dort weitermachen, wo Sie aufgehört haben.
Weitere apps aus der Community
- CRM — Kundenbeziehungsmanagement mit Kontakten, Deals und Pipeline-Tracking.
- Kanban Board — Ein Kanban- und Projekt-Board im Trello-Stil mit Karten, Boards, Kalender- und Tabellenansichten und Eigenschaften pro Board. Basiert auf Focalboard (Standalone Personal Server). Eingebettetes SQLite auf einem persistenten Volume.
- Helpdesk — Ticket-Triage und Kundensupport-Postfach mit SLA-Tracking.
- Page Builder — Visueller Drag-and-Drop-Page-Builder mit Sections, Themes, SEO und Publishing
- Website Builder — Mehrseitiger Website-Builder mit CMS-Collections, globaler Navigation, Footer, Themes und Publishing
- Storefront — E-Commerce-Storefront mit Produktkatalog, Warenkorb und Checkout.