osFoundry / Platform
GPU cloud
Noleggia istanze A100 / H100 / L40 direttamente dalla piattaforma. Paghi a ora, senza contratti.
Che cos’è
Cloud GPU ti permette di noleggiare istanze con acceleratori NVIDIA (hardware di classe A100, H100 e L40) direttamente dentro osFoundry e pagarle a ore, senza contratti e senza impegni di capacità riservata. Invece di aprire un account cloud, richiedere una quota di GPU e configurare da solo driver e CUDA, apri il selettore delle istanze, scegli una GPU per VRAM e regione, e la piattaforma la provisiona per te. Quando hai finito la rilasci e la fatturazione si ferma.
Dentro osFoundry la stessa GPU noleggiata sostiene tre flussi di lavoro senza alcuna configurazione aggiuntiva. Puoi eseguirci sopra job di fine-tuning gestiti, avviare un notebook con GPU per sperimentare, oppure distribuire un modello come endpoint con auto-scaling che provisiona GPU cloud su richiesta. Il selettore delle istanze recupera i prezzi in tempo reale dal server anziché da una tabella cablata, quindi la tariffa oraria che vedi (accanto al modello di GPU, alla memoria, alla vCPU, alla RAM e a un tempo di cold start stimato) è la tariffa che ti viene effettivamente addebitata. Se i prezzi reali non possono essere caricati, la piattaforma non mostra nulla da selezionare invece di indicare una cifra che non rispetterebbe.
Questo conta perché il tempo di GPU è costoso e facile da lasciare in esecuzione. La fatturazione a ore, che inizia al provisioning e termina al rilascio, senza durata minima, mantiene economico un esperimento di cinque minuti e rende visibile il costo di un'istanza dimenticata. Poiché osFoundry è local-first, i job piccoli restano gratuiti sulla GPU del tuo dispositivo, e ricorri a una A100 o H100 noleggiata solo quando un modello ha davvero bisogno di più VRAM di quanta ne abbia la tua macchina. È la stessa impostazione del resto dello spazio di lavoro: le tue chiavi, i tuoi dati dove possibile e infrastruttura a pagamento solo quando la scegli tu.
Funzionalità principali
- Noleggia istanze GPU NVIDIA di classe A100, H100 e L40 su richiesta, senza richieste di quota, senza processi di acquisto e senza contratti di capacità riservata
- Paga a ore: la fatturazione inizia quando l'istanza viene provisionata e si ferma quando la rilasci, niente da disdire e nessuna durata minima
- Scegli la tua istanza da un elenco in tempo reale con prezzi del server che mostra modello di GPU, VRAM, vCPU, RAM, regione e tempo di cold start stimato prima di impegnarti
- Usa la stessa GPU noleggiata per job di fine-tuning, notebook in stile Jupyter ed endpoint di modello con auto-scaling, tutto da un unico spazio di lavoro
- Mantieni gratuiti i job piccoli sul tuo hardware: la GPU del dispositivo gira senza costi, e passi alla GPU cloud solo quando un modello richiede più VRAM di quanta ne hai
Casi d’uso
- Ingegnere ML: fai il fine-tuning di un modello da 13B che non entra su un portatile noleggiando una H100 per la durata del training, poi rilasciandola nel momento in cui il job termina
- Ricercatrice: apri un notebook con GPU su una A100 per un pomeriggio di sperimentazione e paghi solo le ore in cui l'istanza è attiva, senza account né quota da configurare prima
- Team di prodotto: distribuisci un modello come endpoint con auto-scaling su GPU di classe L40, lasciando che la piattaforma provisioni e fatturi la capacità a ore mentre il volume di richieste sale e scende
Domande frequenti
Quali GPU posso noleggiare e quanto costano?
Puoi noleggiare istanze NVIDIA di classe A100, H100 e L40. I prezzi sono orari e serviti in tempo reale dentro il selettore delle istanze, che mostra modello, VRAM, vCPU, RAM, regione e tempo di cold start stimato di ogni GPU. osFoundry sceglie deliberatamente di non pubblicare un listino fisso nell'app, perché la tariffa addebitata è quella che il server indica nel momento in cui selezioni. Controlla il selettore in tempo reale per il costo orario attuale nella tua regione.
Come funziona la fatturazione a ore e ci sono contratti?
Non ci sono contratti, prenotazioni o durate minime. La fatturazione inizia quando l'istanza viene provisionata e si ferma quando la rilasci, quindi un esperimento breve costa solo una frazione d'ora e non c'è nulla da disdire. Nota che distribuire un endpoint provisiona e fattura una GPU non appena si avvia, anche prima che il modello sia del tutto pronto, quindi rilascia le istanze che non usi più.
Devo per forza usare la GPU cloud o posso eseguire i modelli in locale?
Puoi eseguire i modelli gratuitamente sulla GPU del tuo dispositivo: osFoundry è local-first, e addestramento e inferenza locali non consumano crediti cloud. La GPU cloud serve per quando un modello ha bisogno di più VRAM di quanta ne abbia la tua macchina, o quando vuoi capacità di acceleratore dedicata per un job di fine-tuning o un endpoint in servizio. Decidi per ogni carico di lavoro se restare in locale o noleggiare.