osFoundry / Platform
Training
Fai fine-tuning o LoRA-adapt dei modelli sui tuoi dati — in locale, su una workstation o nel cloud.
Che cos’è
Il Training di osFoundry ti permette di adattare un modello ai tuoi dati invece di affidarti solo ai prompt. Puoi fare un fine-tuning completo o un adattamento LoRA più leggero, alimentando il modello con esempi del tuo dominio: le tue trascrizioni di supporto, le convenzioni del tuo codice, la tua voce di scrittura, i tuoi record etichettati, così che risponda come il tuo lavoro richiede davvero. Sta accanto al resto di osFoundry, quindi il modello che addestri è un modello che puoi usare subito in chat, agenti e app nello stesso spazio di lavoro.
Poiché osFoundry è bring-your-own-key e local-first, l'addestramento gira dove i tuoi dati e il tuo hardware hanno senso: in locale sulla tua macchina, su una workstation dedicata con una GPU capace, o nel cloud quando ti serve più potenza di quanta la tua scrivania possa dare. Scegli tu il runtime; osFoundry non costringe i tuoi dati di addestramento a passare per un rivenditore né applica un ricarico sul calcolo. Quando l'addestramento gira in locale o sulla tua workstation, i tuoi dati possono restare sul tuo dispositivo: nulla deve uscire per diventare un modello adattato. LoRA è la scelta predefinita pragmatica per la maggior parte: addestra un piccolo insieme di pesi adapter invece di riscrivere l'intero modello, quindi è più economico, più veloce e sta su hardware più modesto, mentre il fine-tuning completo resta lì per quando devi cambiare il modello più a fondo.
Questo conta perché un prompt può portare solo fino a un certo punto, e incollare lo stesso contesto in ogni richiesta è costoso e fragile. L'addestramento imprime i tuoi schemi nei pesi una volta sola, così il comportamento è coerente e non dipende dal doverti rispiegare ogni volta. Insieme al modello BYOK di osFoundry (le chiavi le fornisci tu, non c'è un prezzo per postazione, e la tua conoscenza e i tuoi dati vivono già nello stesso spazio di lavoro), l'addestramento chiude il cerchio tra i dati che possiedi e il modello con cui li usi davvero.
Funzionalità principali
- Fine-tuning o adattamento LoRA di modelli sui tuoi dati: fine-tuning completo per un cambiamento profondo, LoRA quando lo vuoi più economico e veloce su hardware modesto
- Addestra in locale, su una workstation con GPU o nel cloud: scegli il runtime in base ai tuoi dati e al tuo hardware
- L'addestramento in locale e su workstation tiene i tuoi dati sul tuo dispositivo: nulla deve uscire per produrre un modello adattato
- Porta le tue chiavi, nessun costo per postazione: nessun ricarico da rivenditore sul calcolo di addestramento o inferenza
- Usa il modello che hai addestrato subito, nello stesso spazio di lavoro, per chat, agenti e app
Casi d’uso
- Ingegnere ML: adatta con LoRA un modello aperto alle convenzioni di codice del tuo team su una GPU di workstation, poi collegalo ad agenti di programmazione nello stesso spazio di lavoro
- Specialista di dominio: fai fine-tuning di un modello su record etichettati e trascrizioni così che usi la tua terminologia e risponda nello stile aziendale senza prompt lunghi
- Team sensibile alla privacy: addestra in locale così che dati proprietari o regolamentati non lascino mai il dispositivo, mantenendo il modello adattato interamente sotto il tuo controllo
Domande frequenti
Qual è la differenza tra LoRA e fine-tuning completo qui?
Un fine-tuning completo aggiorna tutti i pesi del modello, cambiandone il comportamento più a fondo ma costando più calcolo e memoria. LoRA addestra invece un piccolo insieme di pesi adapter, quindi è più veloce, più economico e gira su hardware più modesto. osFoundry supporta entrambi: LoRA è la scelta pratica per la maggior parte delle attività, e il fine-tuning completo è disponibile quando devi cambiare il modello più a fondo.
I miei dati di addestramento lasciano la mia macchina?
Dipende da dove esegui il job. Quando addestri in locale o sulla tua workstation, i tuoi dati possono restare sul tuo dispositivo: osFoundry è local-first e non richiede di inviarli da nessuna parte per produrre un modello adattato. Se scegli di addestrare nel cloud per avere più calcolo, i dati vanno al runtime che selezioni; fai questo compromesso in modo deliberato, non per impostazione predefinita.
Posso usare un modello appena addestrato subito dopo l'addestramento?
Sì. Un modello che adatti in osFoundry è disponibile nello stesso spazio di lavoro, così puoi metterlo al lavoro in chat, agenti e app senza esportarlo altrove. Poiché osFoundry è bring-your-own-key senza costi per postazione, non c'è alcun ricarico da rivenditore né costo di postazione aggiuntivo tra l'addestrare il modello e l'eseguirlo.