Accueil / Glossaire / Mode LLM sans fuite

What is Mode LLM sans fuite (No-leak)?

Le mode LLM sans fuite est un paramètre d’espace de travail qui désactive chaque route cloud — chaque appel de modèle doit se résoudre vers un endpoint local ou auto-hébergé. Le mode no-leak d’osFoundry est neutre vis-à-vis du fournisseur : rien ne quitte jamais votre périmètre.

Detail

BYOK envoie quand même les prompts au fournisseur cloud. Même les modèles auto-hébergés dans notre cloud passent par le réseau. Le mode no-leak force chaque appel de modèle vers un endpoint local ou auto-hébergé-dans-votre-réseau. Le BYOK cloud, le GPU hébergé et les outils distants deviennent inaccessibles pendant que le mode est actif.

Précieux pour les industries réglementées, les charges de travail sensibles, ou quiconque veut une garantie ferme.

How osFoundry approaches Mode LLM sans fuite (No-leak)

Le mode no-leak d’osFoundry est un toggle au niveau de l’espace de travail avec piste d’audit. L’activer désactive chaque route cloud au niveau de la couche de dispatch.