Beranda / Glosarium / LLM
What is Large Language Model?
Abbreviation: LLM
Large language model (LLM) adalah neural network yang dilatih pada korpus teks yang sangat besar untuk memprediksi token berikutnya, menghasilkan output bahasa alami yang fasih. osFoundry merutekan request lintas 100+ LLM dari provider mana pun — lokal, cloud, atau self-hosted.
Detail
LLM adalah neural network berbasis transformer yang berkisar dari ~1B hingga lebih dari 1T parameter. Mereka menggerakkan chat, generasi kode, peringkasan, terjemahan, dan sebagian besar AI agentic saat ini. Kualitas bervariasi berdasarkan data pelatihan, arsitektur, dan post-training (RLHF, DPO).
LLM datang dalam dua mode distribusi: closed-source (diakses hanya melalui API — misalnya GPT-4, Claude) dan open-weight (dapat diunduh untuk self-hosting — misalnya Llama, Mistral, Qwen). Katalog osFoundry mengindeks 76.000 model open-weight plus 364 model API hosted.
How osFoundry approaches Large Language Model
osFoundry memperlakukan setiap LLM sebagai backend yang dapat ditukar. Bawa kunci API Anda sendiri (BYOK) untuk model hosted; install model open-weight untuk inference lokal; deploy endpoint GPU dedicated untuk kapasitas yang direservasi. Maestro merutekan per request berdasarkan aturan yang Anda definisikan di osStudio.
FAQ
Bagaimana osFoundry terkait dengan LLM?
osFoundry adalah lapisan orkestrasi di atas LLM. Ia tidak membuat LLM — ia memungkinkan Anda merutekan request lintas LLM lokal, cloud, dan self-hosted dari satu workspace.
LLM mana yang terbaik?
Tidak ada LLM tunggal yang terbaik dalam segala hal. osFoundry memungkinkan Anda A/B LLM berbeda per workload dan merutekan sesuai.
Bisakah saya menggunakan beberapa LLM dalam satu chat?
Ya. Maestro dapat berpindah model di tengah percakapan berdasarkan aturan routing osStudio.
Related terms
Related features