Início / Glossário / Modo LLM sem vazamento

What is Modo LLM Sem Vazamento?

Modo LLM sem vazamento (no-leak LLM mode) é uma configuração de workspace que desabilita toda rota de nuvem — cada chamada de modelo deve resolver para um endpoint local ou self-hosted. O modo sem vazamento do osFoundry é neutro em relação a provedores: nada nunca sai do seu escopo.

Detail

BYOK ainda envia prompts para o provedor de nuvem. Até modelos self-hosted em nossa nuvem passam pela rede. O modo sem vazamento força cada chamada de modelo para um endpoint local ou self-hosted dentro da sua rede. BYOK em nuvem, GPU hospedada e ferramentas remotas tornam-se inalcançáveis enquanto o modo está ativo.

Valioso para indústrias reguladas, workloads sensíveis ou qualquer um que queira uma garantia rígida.

How osFoundry approaches Modo LLM Sem Vazamento

O modo sem vazamento do osFoundry é um toggle no nível do workspace com trilha de auditoria. Ativá-lo desabilita toda rota de nuvem na camada de despacho.