LLM Gateway (one-api)

LLM Gateway (one-api) adalah aplikasi di katalog komunitas osFoundry. Endpoint tunggal yang kompatibel dengan OpenAI yang mendistribusikan permintaan ke OpenAI, Anthropic, Google, Mistral, Groq, Ollama, Azure, Bedrock, dan 30+ provider lainnya. Kelola kunci per channel, atur kuota anggaran per token per pengguna, catat setiap permintaan, dan sajikan API /v1/chat/completions yang seragam ke seluruh aplikasi downstream Anda. Didukung oleh songquanpeng/one-api — cara self-hosted paling sederhana untuk menstandarkan akses LLM di seluruh organisasi.

Detail

Workspace: osfoundry
Kategori: AI
Harga: Free
Akses: Community

Fitur

Single /v1/chat/completions endpoint fans out to OpenAI, Anthropic, Google, Mistral, Groq, Ollama, Azure, Bedrock + 30 more
Per-token quotas + cost ledger per user — set budgets, see usage, suspend over-spenders
Issue per-app API keys without exposing upstream provider keys to downstream apps
Every request logged with token count + estimated cost — searchable + exportable
Channel failover — mark a channel as backup, auto-route when primary errors
SQLite bundled — switch to MySQL via SQL_DSN env when you outgrow one process

Dokumentasi

Dokumentasi dipelihara dalam bahasa Inggris oleh proyek upstream.

# LLM Gateway (one-api)

## First-boot setup

Default admin login is `root` / `123456` — **change it immediately** at Settings → Personal Settings → Password.

## Add a channel (upstream provider)

Channels are how one-api connects to upstream LLM providers.

1. **Channels** tab → **Add new channel**
2. Pick the provider (OpenAI, Anthropic, Google AI Studio, Azure, Mistral, Groq, Ollama, ...)
3. Paste the upstream API key (the platform never sees it)
4. Pick which model names this channel handles
5. Save

## Issue keys to your apps

After channels are configured, **Tokens** tab → **Add token** → set quota (in 1k-token units) → copy the `sk-...` key. Point any OpenAI-compatible SDK at:

```
base_url: https://<your-public-url>/v1
api_key:  sk-<the issued token>
```

## Routing

Requests flow: client → one-api → matching channel (by model name) → upstream API → response back. one-api logs every request with token count + cost, lets you set per-user quotas, and lets you swap channels without touching client code.

## Storage

SQLite at `/data/one-api.db`. For high-throughput multi-tenant setups, switch to MySQL via `SQL_DSN` env (not bundled here).

Cara menggunakan LLM Gateway (one-api) di osFoundry

Instal LLM Gateway (one-api) ke workspace Anda dalam satu klik, lalu fork di osStudio untuk menyesuaikan prompt, tool, atau konfigurasi sesuai stack Anda. Siapa pun di workspace Anda dapat melanjutkan dari titik Anda berhenti.

aplikasi lainnya dari komunitas

CRM — Manajemen hubungan pelanggan dengan kontak, deal, dan pelacakan pipeline.
Kanban Board — Papan kanban dan proyek gaya Trello dengan kartu, papan, tampilan kalender dan tabel, dan properti per papan. Didukung oleh Focalboard (server pribadi standalone). SQLite tertanam pada volume persisten.
Helpdesk — Triase tiket dan inbox dukungan pelanggan dengan pelacakan SLA.
Page Builder — Page builder drag-and-drop visual dengan section, tema, SEO, dan publishing
Website Builder — Builder situs multi-halaman dengan koleksi CMS, navigasi global, footer, tema, dan publikasi
Storefront — Etalase e-commerce dengan katalog produk, keranjang, dan checkout.