osFoundry / Platform
Pelatihan
Fine-tune atau adaptasi LoRA model pada data Anda sendiri — secara lokal, di Workstation, atau di cloud.
Apa itu
Training di osFoundry memungkinkan Anda menyesuaikan model ke data Anda sendiri, bukan hanya mengandalkan prompt. Anda bisa melakukan fine-tune penuh atau adaptasi LoRA yang lebih ringan, dengan memberi model contoh dari domain Anda: transkrip support Anda, konvensi codebase Anda, gaya tulisan Anda, record berlabel Anda, sehingga model merespons sesuai kebutuhan kerja Anda yang sebenarnya. Ia berdampingan dengan bagian lain osFoundry, jadi model yang Anda latih adalah model yang bisa langsung Anda pakai di chat, agent, dan app dalam workspace yang sama.
Karena osFoundry bersifat bring-your-own-key dan local-first, training berjalan di tempat yang masuk akal bagi data dan hardware Anda: lokal di mesin Anda sendiri, di workstation khusus dengan GPU yang mumpuni, atau di cloud saat Anda butuh tenaga lebih dari yang bisa disediakan meja Anda. Anda yang memilih runtime; osFoundry tidak memaksa data training Anda melewati reseller dan tidak menaruh markup di atas komputasi. Saat training berjalan lokal atau di workstation Anda sendiri, data Anda bisa tetap di perangkat Anda: tidak ada yang harus keluar untuk menjadi model yang teradaptasi. LoRA adalah default pragmatis bagi kebanyakan orang: ia melatih sekumpulan kecil bobot adapter alih-alih menulis ulang seluruh model, sehingga lebih murah, lebih cepat, dan muat di hardware yang lebih sederhana, sementara fine-tune penuh tersedia saat Anda perlu mengubah model lebih dalam.
Ini penting karena sebuah prompt hanya bisa membawa sekian banyak, dan menempelkan konteks yang sama ke setiap permintaan itu mahal dan rapuh. Training memanggang pola Anda ke dalam bobot satu kali, sehingga perilakunya konsisten dan tidak bergantung pada Anda menjelaskan ulang setiap kali. Dipadukan dengan model BYOK osFoundry (Anda menyediakan API key, tidak ada harga per kursi, dan pengetahuan serta data Anda sudah berada di workspace yang sama), training menutup lingkaran antara data yang Anda miliki dan model yang benar-benar Anda jalankan terhadapnya.
Kemampuan utama
- Fine-tune atau adaptasi LoRA model dengan data Anda sendiri: fine-tuning penuh untuk perubahan mendalam, LoRA saat ingin lebih murah dan cepat di hardware sederhana
- Jalankan training lokal, di workstation GPU, atau di cloud: Anda pilih runtime sesuai data dan hardware
- Training lokal dan di workstation menjaga data Anda tetap di perangkat: tidak ada yang harus keluar untuk menghasilkan model teradaptasi
- Bawa key sendiri, tanpa biaya per kursi: tanpa markup reseller di atas komputasi training atau inference Anda
- Pakai model yang Anda latih langsung di workspace yang sama untuk chat, agent, dan app
Kasus penggunaan
- ML engineer: adaptasi LoRA sebuah model terbuka ke konvensi codebase tim Anda di GPU workstation, lalu sambungkan ke coding agent di workspace yang sama
- Spesialis domain: fine-tune model dengan record berlabel dan transkrip agar ia memakai terminologi Anda dan menjawab dengan gaya rumah tanpa prompt panjang
- Tim yang sensitif privasi: latih secara lokal agar data proprietary atau teregulasi tak pernah keluar dari perangkat, menjaga model teradaptasi sepenuhnya dalam kendali Anda
Pertanyaan yang sering diajukan
Apa bedanya LoRA dan fine-tuning penuh di sini?
Fine-tune penuh memperbarui seluruh bobot model, mengubah perilakunya lebih dalam tetapi memakan lebih banyak komputasi dan memori. LoRA justru melatih sekumpulan kecil bobot adapter, jadi lebih cepat, lebih murah, dan berjalan di hardware yang lebih sederhana. osFoundry mendukung keduanya: LoRA adalah pilihan praktis untuk kebanyakan tugas, dan fine-tuning penuh tersedia saat Anda perlu mengubah model secara lebih menyeluruh.
Apakah data training saya keluar dari mesin saya?
Itu tergantung di mana Anda menjalankan job-nya. Saat Anda melatih secara lokal atau di workstation sendiri, data Anda bisa tetap di perangkat Anda: osFoundry bersifat local-first dan tidak mengharuskan mengirimnya ke mana pun untuk menghasilkan model teradaptasi. Jika Anda memilih melatih di cloud demi komputasi lebih besar, data pergi ke runtime yang Anda pilih; Anda mengambil trade-off itu secara sengaja, bukan secara default.
Bisakah saya memakai model yang saya latih tepat setelah melatihnya?
Bisa. Model yang Anda adaptasi di osFoundry tersedia di workspace yang sama, jadi Anda bisa langsung memakainya di chat, agent, dan app tanpa mengekspornya ke tempat lain. Karena osFoundry bring-your-own-key tanpa biaya per kursi, tidak ada markup reseller atau biaya kursi tambahan yang menyelip antara melatih model dan menjalankannya.