홈 / 기능 / 모든 모델 실행 / BYOK 클라우드 API

osFoundry에서 BYOK Anthropic, OpenAI, Google, 모든 클라우드 API

osFoundry를 사용하면 Anthropic Claude, OpenAI GPT, Google Gemini, Mistral, Together, Groq, DeepSeek, 모든 OpenAI 호환 공급자에 대해 자체 키(BYOK)를 가져올 수 있습니다. 키는 암호화된 키체인에 저장되며, 소스 코드나 로그에는 절대 저장되지 않습니다. 공급자 계정에 직접 청구됩니다 — osFoundry는 토큰에 마크업을 추가하지 않습니다.

요점

BYOK 대화상자에 공급자 API 키 붙여넣기 — 저장 시 암호화됩니다.
키의 모델은 자동으로 발견되어 카탈로그에 추가됩니다.
토큰 마크업 없음 — 공급자가 직접 청구합니다.
요청별, 에이전트별, 또는 osStudio의 라우팅 규칙을 통해 모델을 전환합니다.

주요 기능

Anthropic, OpenAI, Google AI Studio + Vertex, Mistral, Together, Groq, DeepSeek, Cohere에 대한 사전 빌드된 공급자 통합.
모든 OpenAI 호환 엔드포인트가 몇 초 만에 추가됩니다(베이스 URL + 키).
키에서 사용 가능한 모델 자동 발견.
워크스페이스별 키 격리 — 키는 워크스페이스 경계를 넘지 않습니다.
자동 폴백 체인: 기본 모델이 429를 반환하면 다음 구성된 모델에서 재시도합니다.
실시간 모델 디스패치 — Maestro는 라우팅 규칙을 통해 요청별로 모델을 선택합니다.

osFoundry에서 하는 방법

BYOK 키 대화상자 열기 — Maestro 채팅 패널의 키 아이콘을 클릭하거나 설정 → 모델 → BYOK를 엽니다.
공급자 키 붙여넣기 — 공급자를 선택하고 키를 붙여넣습니다. osFoundry가 키를 검증하고 계정에서 사용 가능한 모델을 나열합니다.
Maestro 역할에 할당 — 파이프라인 탭에서 발견된 모델을 Maestro의 역할 중 하나(router, direct, orchestrator, fallback)에 할당합니다. 모든 채팅에서 라이브가 됩니다.

활용 사례

기존 Anthropic 지출이 있는 팀: 기존 Anthropic 키를 osFoundry에 연결합니다. 지출은 Anthropic 인보이스에서 계속됩니다. osFoundry는 마크업을 추가하지 않습니다. Maestro가 상위 오케스트레이터가 됩니다.
비용에 민감한 1인 개발자: 저렴한 저지연 추론을 위해 Groq에 BYOK하고, 어려운 추론을 위해 Anthropic에 BYOK합니다. 라우팅 규칙은 트래픽의 90%를 Groq로 보내고 어려운 꼬리만 Claude로 보냅니다.

자주 묻는 질문

BYOK는 무료입니까?

예 — 키를 가져오는 것은 osFoundry에서 추가 비용이 들지 않습니다. 토큰 사용량에 대해서는 공급자에게만 지불합니다.

내 API 키는 어디에 저장됩니까?

로컬 OS 키체인(macOS 키체인, Windows 자격 증명 관리자, Linux Secret Service)에. 클라우드 워크스페이스의 경우 키는 워크스페이스 제어 키로 암호화됩니다.

모든 워크스페이스에서 하나의 공급자 키를 사용할 수 있습니까?

격리를 위해 각 워크스페이스에는 자체 키 스토어가 있습니다. 필요한 경우 여러 워크스페이스에 키를 복사하세요.

키의 속도 제한에 도달하면 어떻게 됩니까?

osFoundry는 채팅에 오류를 표시하고 (구성된 경우) 라우팅 규칙으로 정의된 다른 모델로 폴백합니다.

osFoundry는 내 프롬프트를 봅니까?

클라우드 라우팅 프롬프트는 osFoundry를 통해 공급자로 전달됩니다(요청을 전달해야 합니다). 감사용으로 구성한 것 이상으로 로깅되지 않습니다. 로컬 모델은 기기를 떠나지 않습니다.

다운타임 없이 키를 순환할 수 있습니까?

예 — 먼저 새 키를 추가하면 osFoundry가 오버랩 윈도우 동안 둘 다 사용합니다. 그런 다음 이전 키를 삭제합니다.

요금

BYOK 자체는 osFoundry에서 무료입니다. 토큰에 대해 공급자에게만 지불합니다. osFoundry는 클라우드 공급자 가격 위에 아무것도 부과하지 않습니다.