Home / Glossary / No-leak LLM mode

What is No-leak LLM Mode?

No-leak LLM mode एक workspace setting है जो हर cloud route को disable करता है — हर model call को एक local या self-hosted endpoint पर resolve होना चाहिए। osFoundry का no-leak mode provider-neutral है: कुछ भी कभी आपके scope को नहीं छोड़ता।

Detail

BYOK अभी भी prompts cloud provider को भेजता है। यहाँ तक कि हमारे cloud में self-hosted models भी network पर जाते हैं। No-leak mode हर model call को आपके network के अंदर एक local या self-hosted endpoint के लिए force करता है। Cloud BYOK, hosted GPU, और remote tools mode active होने पर unreachable हो जाते हैं।

Regulated industries, sensitive workloads, या किसी भी जो hard guarantee चाहता है के लिए valuable।

How osFoundry approaches No-leak LLM Mode

osFoundry का no-leak mode एक workspace-level toggle है जिसमें एक audit trail है। इसे on करने पर dispatch layer पर हर cloud route disable हो जाता है।