osFoundry / Platform
Entraînement
Fine-tunez ou adaptez des modèles avec LoRA sur vos propres données — en local, sur une Workstation ou dans le cloud.
Présentation
Le Training d'osFoundry vous permet d'adapter un modèle à vos propres données plutôt que de vous reposer uniquement sur les prompts. Vous pouvez faire un fine-tuning complet ou une adaptation LoRA plus légère, en nourrissant le modèle d'exemples de votre domaine : vos transcriptions de support, les conventions de votre code, votre voix rédactionnelle, vos enregistrements annotés, pour qu'il réponde comme votre travail l'exige réellement. Il vit aux côtés du reste d'osFoundry, donc le modèle que vous entraînez est un modèle utilisable aussitôt dans le chat, les agents et les apps du même espace de travail.
Comme osFoundry est bring-your-own-key et local-first, l'entraînement s'exécute là où vos données et votre matériel ont du sens : en local sur votre propre machine, sur une workstation dédiée dotée d'un GPU performant, ou dans le cloud quand vous avez besoin de plus de puissance que votre bureau ne peut fournir. Vous choisissez le runtime ; osFoundry ne fait pas transiter vos données d'entraînement par un revendeur et n'ajoute aucune marge sur le calcul. Quand l'entraînement tourne en local ou sur votre propre workstation, vos données peuvent rester sur votre appareil : rien n'a besoin d'en sortir pour devenir un modèle adapté. LoRA est le choix par défaut pragmatique pour la plupart : il entraîne un petit ensemble de poids d'adaptateur au lieu de réécrire tout le modèle, ce qui le rend moins cher, plus rapide et compatible avec un matériel plus modeste, tandis que le fine-tuning complet reste là quand vous devez modifier le modèle plus en profondeur.
Cela compte parce qu'un prompt ne peut porter qu'une quantité limitée d'information, et coller le même contexte dans chaque requête est coûteux et fragile. L'entraînement grave vos schémas dans les poids une fois pour toutes, si bien que le comportement reste cohérent sans dépendre du fait de vous réexpliquer à chaque fois. Associé au modèle BYOK d'osFoundry (vous fournissez les clés, il n'y a pas de tarif par siège, et vos connaissances et vos données vivent déjà dans le même espace de travail), l'entraînement boucle la boucle entre les données que vous possédez et le modèle contre lequel vous les exécutez réellement.
Fonctionnalités clés
- Fine-tunez ou adaptez en LoRA des modèles sur vos propres données : fine-tuning complet pour un changement profond, LoRA quand vous le voulez moins cher et plus rapide sur du matériel modeste
- Entraînez en local, sur une workstation GPU ou dans le cloud : vous choisissez le runtime selon vos données et votre matériel
- L'entraînement en local et sur workstation garde vos données sur votre appareil : rien n'a besoin d'en sortir pour produire un modèle adapté
- Apportez vos propres clés, sans coût par siège : aucune marge de revendeur posée sur votre calcul d'entraînement ou d'inférence
- Utilisez aussitôt le modèle entraîné dans le même espace de travail pour le chat, les agents et les apps
Cas d’usage
- Ingénieur ML : adaptez en LoRA un modèle ouvert aux conventions de code de votre équipe sur un GPU de workstation, puis branchez-le sur des agents de programmation dans le même espace de travail
- Spécialiste métier : fine-tunez un modèle sur des enregistrements annotés et des transcriptions pour qu'il emploie votre terminologie et réponde dans le style maison sans longs prompts
- Équipe sensible à la confidentialité : entraînez en local pour que les données propriétaires ou réglementées ne quittent jamais l'appareil, gardant le modèle adapté entièrement sous votre contrôle
Questions fréquentes
Quelle est la différence entre LoRA et le fine-tuning complet ici ?
Un fine-tuning complet met à jour tous les poids du modèle, changeant son comportement plus en profondeur mais coûtant plus de calcul et de mémoire. LoRA entraîne à la place un petit ensemble de poids d'adaptateur, donc c'est plus rapide, moins cher et cela tourne sur du matériel plus modeste. osFoundry prend en charge les deux : LoRA est le choix pratique pour la plupart des tâches, et le fine-tuning complet est disponible quand vous devez modifier le modèle plus à fond.
Mes données d'entraînement quittent-elles ma machine ?
Cela dépend de l'endroit où vous exécutez le job. Quand vous entraînez en local ou sur votre propre workstation, vos données peuvent rester sur votre appareil : osFoundry est local-first et n'exige pas de les envoyer où que ce soit pour produire un modèle adapté. Si vous choisissez d'entraîner dans le cloud pour plus de calcul, les données vont vers le runtime que vous sélectionnez ; vous faites ce compromis délibérément, pas par défaut.
Puis-je utiliser un modèle que j'ai entraîné juste après l'entraînement ?
Oui. Un modèle que vous adaptez dans osFoundry est disponible dans le même espace de travail, vous pouvez donc le mettre au travail dans le chat, les agents et les apps sans l'exporter ailleurs. Comme osFoundry est bring-your-own-key sans coût par siège, aucune marge de revendeur ni coût de siège supplémentaire ne s'intercale entre l'entraînement du modèle et son exécution.