홈 / 용어집 / 유출 없는 LLM 모드

What is 유출 없는 LLM 모드 (No-leak LLM Mode)?

유출 없는 LLM 모드는 모든 클라우드 경로를 비활성화하는 워크스페이스 설정입니다 — 모든 모델 호출은 로컬 또는 셀프 호스팅 엔드포인트로 해결되어야 합니다. osFoundry의 유출 없는 모드는 제공업체 중립적입니다: 어떤 것도 사용자의 범위를 벗어나지 않습니다.

Detail

BYOK도 여전히 클라우드 제공업체로 프롬프트를 전송합니다. 당사 클라우드의 셀프 호스팅 모델조차도 네트워크를 통해 이동합니다. 유출 없는 모드는 모든 모델 호출을 로컬 또는 사용자 네트워크 내 셀프 호스팅 엔드포인트로 강제합니다. 클라우드 BYOK, 호스팅된 GPU, 원격 도구는 모드가 활성화된 동안 모두 접근할 수 없게 됩니다.

규제 산업, 민감한 워크로드, 또는 확실한 보장을 원하는 모든 사람에게 유용합니다.

How osFoundry approaches 유출 없는 LLM 모드 (No-leak LLM Mode)

osFoundry의 유출 없는 모드는 감사 추적이 있는 워크스페이스 수준 토글입니다. 이를 켜면 디스패치 계층에서 모든 클라우드 경로가 비활성화됩니다.