osFoundry / Platform
GPU Cloud
Sewa instance A100 / H100 / L40 langsung dari platform. Bayar per jam, tanpa kontrak.
Apa itu
Cloud GPU memungkinkan Anda menyewa instance akselerator NVIDIA (perangkat keras kelas A100, H100, dan L40) langsung di dalam osFoundry dan membayarnya per jam, tanpa kontrak dan tanpa komitmen kapasitas cadangan. Alih-alih membuka akun cloud, meminta kuota GPU, dan menyiapkan driver serta CUDA sendiri, Anda membuka pemilih instance, memilih GPU berdasarkan VRAM dan region, lalu platform menyediakannya untuk Anda. Setelah selesai, Anda melepaskannya dan penagihan berhenti.
Di dalam osFoundry, GPU sewaan yang sama mendukung tiga alur kerja tanpa penyiapan tambahan. Anda bisa menjalankan job fine-tuning terkelola di atasnya, memunculkan notebook bertenaga GPU untuk bereksperimen, atau men-deploy model sebagai endpoint auto-scaling yang menyediakan GPU cloud sesuai permintaan. Pemilih instance mengambil harga secara langsung dari server, bukan dari tabel yang di-hardcode, sehingga tarif per jam yang Anda lihat (bersama model GPU, memori, vCPU, RAM, dan perkiraan waktu cold start) adalah tarif yang benar-benar ditagihkan kepada Anda. Jika harga sebenarnya tidak dapat dimuat, platform tidak menampilkan apa pun untuk dipilih alih-alih mengutip angka yang tidak akan dipenuhinya.
Ini penting karena waktu GPU itu mahal dan mudah dibiarkan menyala. Penagihan per jam yang dimulai saat penyediaan dan berakhir saat pelepasan, tanpa masa minimum, menjaga eksperimen lima menit tetap murah dan membuat biaya instance yang terlupakan tetap terlihat. Karena osFoundry bersifat local-first, job kecil tetap gratis di GPU perangkat Anda sendiri, dan Anda baru beralih ke A100 atau H100 sewaan ketika sebuah model benar-benar butuh VRAM lebih besar daripada yang dimiliki mesin Anda. Sikapnya sama dengan bagian lain workspace: kunci Anda, data Anda sebisa mungkin tetap di tempat, dan infrastruktur berbayar hanya saat Anda memilihnya.
Kemampuan utama
- Sewa instance GPU NVIDIA kelas A100, H100, dan L40 sesuai permintaan, tanpa permintaan kuota, tanpa proses pengadaan, dan tanpa kontrak kapasitas cadangan
- Bayar per jam: penagihan dimulai saat instance disediakan dan berhenti saat Anda melepaskannya, tidak ada yang perlu dibatalkan dan tanpa masa minimum
- Pilih instance Anda dari daftar langsung berharga server yang menampilkan model GPU, VRAM, vCPU, RAM, region, dan perkiraan waktu cold start sebelum Anda memutuskan
- Gunakan GPU sewaan yang sama untuk job fine-tuning, notebook ala Jupyter, dan endpoint model auto-scaling, semuanya dari satu workspace
- Biarkan job kecil tetap gratis di perangkat keras Anda sendiri: GPU perangkat berjalan tanpa biaya, dan Anda baru memakai GPU cloud saat model butuh VRAM lebih besar daripada yang Anda punya
Kasus penggunaan
- Insinyur ML: fine-tune model 13B yang tidak muat di laptop dengan menyewa H100 selama durasi training, lalu melepaskannya begitu job selesai
- Peneliti: buka notebook GPU pada A100 untuk satu sore eksperimen dan bayar hanya untuk jam saat instance menyala, tanpa perlu menyiapkan akun atau kuota lebih dulu
- Tim produk: deploy model sebagai endpoint auto-scaling di GPU kelas L40, biarkan platform menyediakan dan menagih kapasitas per jam seiring naik-turunnya volume permintaan
Pertanyaan yang sering diajukan
GPU apa saja yang bisa saya sewa dan berapa biayanya?
Anda bisa menyewa instance NVIDIA kelas A100, H100, dan L40. Harga dihitung per jam dan disajikan langsung di dalam pemilih instance, yang menampilkan model, VRAM, vCPU, RAM, region, dan perkiraan waktu cold start setiap GPU. osFoundry sengaja tidak memublikasikan tabel harga tetap di aplikasi, karena tarif yang ditagihkan adalah tarif yang dikutip server pada saat Anda memilih. Cek pemilih langsung untuk biaya per jam terkini di region Anda.
Bagaimana cara kerja penagihan per jam, dan apakah ada kontrak?
Tidak ada kontrak, reservasi, atau masa minimum. Penagihan dimulai saat instance disediakan dan berhenti saat Anda melepaskannya, sehingga eksperimen singkat hanya menelan biaya sebagian kecil jam dan tidak ada yang perlu dibatalkan. Perlu dicatat, men-deploy endpoint akan menyediakan dan menagih GPU begitu ia menyala, bahkan sebelum model benar-benar siap, jadi lepaskan instance yang tidak lagi Anda gunakan.
Apakah saya harus memakai GPU cloud, atau bisa menjalankan model secara lokal?
Anda bisa menjalankan model di GPU perangkat Anda sendiri secara gratis: osFoundry bersifat local-first, dan training serta inferensi lokal tidak memakai kredit cloud. GPU cloud hadir untuk saat sebuah model butuh VRAM lebih besar daripada yang dimiliki mesin Anda, atau saat Anda menginginkan kapasitas akselerator khusus untuk job fine-tuning atau endpoint yang dilayani. Anda menentukan per beban kerja: tetap lokal atau menyewa.