LLM Gateway (one-api)

LLM Gateway (one-api) — это приложение в каталоге сообщества osFoundry. Единый OpenAI-совместимый endpoint, который маршрутизирует запросы к OpenAI, Anthropic, Google, Mistral, Groq, Ollama, Azure, Bedrock и более чем 30 другим провайдерам. Управляйте ключами по каналам, задавайте квоты по токенам на пользователя, логируйте каждый запрос и предоставляйте единый API /v1/chat/completions всем вашим приложениям. На базе songquanpeng/one-api — самый простой self-hosted способ стандартизировать доступ к LLM внутри организации.

Подробности

Рабочая область: osfoundry
Категория: AI
Цена: Free
Доступ: Community

Возможности

Single /v1/chat/completions endpoint fans out to OpenAI, Anthropic, Google, Mistral, Groq, Ollama, Azure, Bedrock + 30 more
Per-token quotas + cost ledger per user — set budgets, see usage, suspend over-spenders
Issue per-app API keys without exposing upstream provider keys to downstream apps
Every request logged with token count + estimated cost — searchable + exportable
Channel failover — mark a channel as backup, auto-route when primary errors
SQLite bundled — switch to MySQL via SQL_DSN env when you outgrow one process

Документация

Документация поддерживается на английском языке основным проектом.

# LLM Gateway (one-api)

## First-boot setup

Default admin login is `root` / `123456` — **change it immediately** at Settings → Personal Settings → Password.

## Add a channel (upstream provider)

Channels are how one-api connects to upstream LLM providers.

1. **Channels** tab → **Add new channel**
2. Pick the provider (OpenAI, Anthropic, Google AI Studio, Azure, Mistral, Groq, Ollama, ...)
3. Paste the upstream API key (the platform never sees it)
4. Pick which model names this channel handles
5. Save

## Issue keys to your apps

After channels are configured, **Tokens** tab → **Add token** → set quota (in 1k-token units) → copy the `sk-...` key. Point any OpenAI-compatible SDK at:

```
base_url: https://<your-public-url>/v1
api_key:  sk-<the issued token>
```

## Routing

Requests flow: client → one-api → matching channel (by model name) → upstream API → response back. one-api logs every request with token count + cost, lets you set per-user quotas, and lets you swap channels without touching client code.

## Storage

SQLite at `/data/one-api.db`. For high-throughput multi-tenant setups, switch to MySQL via `SQL_DSN` env (not bundled here).

Как использовать LLM Gateway (one-api) в osFoundry

Установите LLM Gateway (one-api) в свою рабочую область одним кликом, затем сделайте форк в osStudio, чтобы настроить промпты, инструменты или конфигурацию под ваш стек. Любой участник вашей рабочей области сможет продолжить с того места, где вы остановились.

Другие приложения от сообщества

CRM — Управление взаимоотношениями с клиентами: контакты, сделки и отслеживание воронки продаж.
Kanban Board — Проектная kanban-доска в стиле Trello с карточками, досками, видами календаря и таблицы и свойствами на доску. На базе Focalboard (отдельный персональный сервер). Встроенный SQLite на постоянном томе.
Служба поддержки — Сортировка тикетов и входящие сообщения службы поддержки с отслеживанием SLA.
Page Builder — Визуальный drag-and-drop конструктор страниц с секциями, темами, SEO и публикацией
Website Builder — Многостраничный конструктор сайтов с CMS-коллекциями, глобальной навигацией, футером, темами и публикацией
Витрина магазина — Витрина интернет-магазина с каталогом товаров, корзиной и оформлением заказа.