What is LoRA?

Abbreviation: LoRA

LoRA (Low-Rank Adaptation) fine-tune hanya sejumlah kecil parameter "adapter" di atas base model yang dibekukan, secara drastis mengurangi biaya training. osFoundry fine-tune salah satu dari 60+ base model open-weight dengan LoRA dalam alur UI — tanpa notebook diperlukan.

Detail

Alih-alih memperbarui semua parameter model selama fine-tuning (lambat, memori berat), LoRA menyisipkan matriks trainable kecil ke dalam lapisan attention. Base model tetap dibekukan; hanya bobot adapter yang dilatih. Hasil: 100-1000× lebih sedikit storage, 10× lebih sedikit waktu training, kualitas sebanding pada sebagian besar tugas.

Adapter LoRA sangat kecil (~MB alih-alih GB), portabel antar deployment, dan dapat ditumpuk — Anda dapat hot-swap beberapa adapter ke satu base model.

How osFoundry approaches LoRA

osFoundry melatih adapter LoRA dalam hitungan menit-hingga-jam, mendaftarkannya di katalog model Anda, dan hot-swap ke endpoint base-model pada waktu inference — banyak perilaku terspesialisasi pada satu GPU bersama.