LLM Gateway (one-api)

LLM Gateway (one-api)은(는) osFoundry 커뮤니티 카탈로그에 등록된 앱입니다. OpenAI, Anthropic, Google, Mistral, Groq, Ollama, Azure, Bedrock 등 30여 개 공급자에 분산 요청하는 단일 OpenAI 호환 엔드포인트입니다. 채널별로 키를 관리하고 사용자별 토큰 예산 할당량을 설정하며, 모든 요청을 기록하고 다운스트림 앱에 동일한 /v1/chat/completions API를 제공합니다. songquanpeng/one-api 기반으로, 조직 전반에 걸쳐 LLM 액세스를 표준화하는 가장 간단한 셀프 호스팅 방식입니다.

세부 정보

워크스페이스: osfoundry
카테고리: AI
가격: Free
액세스: Community

기능

Single /v1/chat/completions endpoint fans out to OpenAI, Anthropic, Google, Mistral, Groq, Ollama, Azure, Bedrock + 30 more
Per-token quotas + cost ledger per user — set budgets, see usage, suspend over-spenders
Issue per-app API keys without exposing upstream provider keys to downstream apps
Every request logged with token count + estimated cost — searchable + exportable
Channel failover — mark a channel as backup, auto-route when primary errors
SQLite bundled — switch to MySQL via SQL_DSN env when you outgrow one process

문서

문서는 업스트림 프로젝트에서 영어로 관리됩니다.

# LLM Gateway (one-api)

## First-boot setup

Default admin login is `root` / `123456` — **change it immediately** at Settings → Personal Settings → Password.

## Add a channel (upstream provider)

Channels are how one-api connects to upstream LLM providers.

1. **Channels** tab → **Add new channel**
2. Pick the provider (OpenAI, Anthropic, Google AI Studio, Azure, Mistral, Groq, Ollama, ...)
3. Paste the upstream API key (the platform never sees it)
4. Pick which model names this channel handles
5. Save

## Issue keys to your apps

After channels are configured, **Tokens** tab → **Add token** → set quota (in 1k-token units) → copy the `sk-...` key. Point any OpenAI-compatible SDK at:

```
base_url: https://<your-public-url>/v1
api_key:  sk-<the issued token>
```

## Routing

Requests flow: client → one-api → matching channel (by model name) → upstream API → response back. one-api logs every request with token count + cost, lets you set per-user quotas, and lets you swap channels without touching client code.

## Storage

SQLite at `/data/one-api.db`. For high-throughput multi-tenant setups, switch to MySQL via `SQL_DSN` env (not bundled here).

osFoundry에서 LLM Gateway (one-api)을(를) 사용하는 방법

LLM Gateway (one-api)을(를) 원클릭으로 워크스페이스에 설치한 다음, osStudio에서 포크하여 프롬프트, 도구 또는 구성을 자신의 스택에 맞게 커스터마이즈하십시오. 워크스페이스의 누구나 작업을 이어받을 수 있습니다.

커뮤니티의 다른 앱

CRM — 연락처, 거래, 파이프라인 추적이 가능한 고객 관계 관리 도구입니다.
Kanban Board — 카드, 보드, 캘린더와 테이블 뷰, 보드별 속성을 갖춘 Trello 스타일 칸반 및 프로젝트 보드입니다. Focalboard (독립 실행형 개인 서버) 기반으로 동작합니다. 영구 볼륨에 내장 SQLite로 제공됩니다.
헬프데스크 — SLA 추적 기능을 갖춘 티켓 분류 및 고객 지원 인박스입니다.
Page Builder — 섹션, 테마, SEO, 게시 기능이 있는 시각적 드래그 앤 드롭 페이지 빌더입니다
Website Builder — CMS 컬렉션, 글로벌 내비게이션, 푸터, 테마, 게시 기능이 있는 다중 페이지 웹사이트 빌더
스토어프론트 — 상품 카탈로그, 장바구니, 결제 기능을 갖춘 이커머스 스토어프론트입니다.