Beranda / Glosarium / Parameter
What is Parameters?
Parameter adalah bobot terlatih dari neural network. Katalog osFoundry melabeli setiap model dengan jumlah parameternya (misalnya 7B, 70B) sehingga Anda dapat mencocokkan ukuran model dengan hardware dan kebutuhan kualitas Anda.
Detail
Jumlah parameter adalah proxy kasar untuk kapasitas LLM. Model 7B memiliki 7 miliar bobot terlatih; 70B memiliki 70 miliar. Lebih banyak parameter umumnya berarti kualitas lebih baik tetapi memori dan compute yang eksponensial lebih banyak. Model 7B Q4 membutuhkan ~6 GB VRAM; 70B Q4 membutuhkan ~50 GB.
Jumlah parameter bukan satu-satunya faktor kualitas — data pelatihan, arsitektur, dan post-training juga penting. Model 7B modern sering mengalahkan model 70B lama pada benchmark umum.
Related terms
Related features