Llama Guard 3 8B
Llama Guard 3 8B (meta-llama, 2025) adalah sebuah model chat . Llama Guard 3 is a Llama-3.1-8B pretrained model, fine-tuned for content safety classification. Similar to previous versions, it can be used to classify content in both LLM inputs (prompt classification)...
by meta-llama · context window 131K token
Paling cocok untuk
- chat dan routing latensi rendah
- routing dan triase permintaan
- klasifikasi teks
Cara menggunakan Llama Guard 3 8B di osFoundry
Hubungkan dengan key Anda sendiri (BYOK)
Buka dialog key dan tempelkan API key meta-llama Anda. osFoundry menemukan Llama Guard 3 8B secara otomatis — tetapkan ke peran Maestro (router, direct, orchestrator, atau fallback) di tab Pipeline dan model ini langsung aktif di setiap chat. Key Anda, akun provider Anda — tanpa markup token.
Gunakan di Room App
Room App mendeklarasikan fitur AI di manifest mereka, lalu memanggilnya dengan invokeAI:
import { invokeAI } from '@osfoundry/app-sdk'
// 'summarize' is an AI feature declared in your app manifest.
const result = await invokeAI('summarize', userText)
Panggil dari aplikasi Anda sendiri
Setelah sebuah model terhubung ke workspace Anda, Anda dapat meng-host-nya sebagai API dan mengaksesnya dari layanan, skrip, atau CI Anda sendiri — di luar osFoundry.
Jalankan Llama Guard 3 8B sendiri
Llama Guard 3 8B juga tersedia sebagai open weights — self-host model ini untuk kontrol data penuh dan tanpa biaya per token. Lihat halaman tersebut untuk persyaratan GPU dan perbandingan biaya terhadap harga API.
Llama Guard 3 8B vs model serupa
| Model | Org | Parameter | Context | Harga input | Self-host |
|---|
| Llama Guard 3 8B | meta-llama | — | 131K | $ 0.480 /1M | Hanya API |
| Saba | Mistral | — | 33K | $ 0.200 /1M | Hanya API |
| o3 Mini High | OpenAI | — | 200K | $ 1.10 /1M | Hanya API |
| Sonar Deep Research | Perplexity | — | 128K | $ 2.00 /1M | Hanya API |
Lisensi
Hosted — usage subject to provider terms — Model ter-host saja — penggunaan diatur oleh ketentuan API provider. Bawa key provider Anda sendiri.
Tidak ada weights yang didistribusikan; penggunaan tunduk pada ketentuan provider.
Pertanyaan umum tentang Llama Guard 3 8B
Berapa biaya Llama Guard 3 8B?
Llama Guard 3 8B dikenakan biaya $ 0.480 /1M untuk input, dan $ 0.030 /1M untuk output. Bawa API key meta-llama Anda sendiri — osFoundry meneruskan harga provider tanpa markup.
Bisakah saya menggunakan Llama Guard 3 8B secara komersial?
Penggunaan komersial diizinkan dengan syarat. Model ter-host saja — penggunaan diatur oleh ketentuan API provider. Bawa key provider Anda sendiri. Tidak ada weights yang didistribusikan; penggunaan tunduk pada ketentuan provider.
Berapa context window dari Llama Guard 3 8B?
Llama Guard 3 8B mendukung context window 131K token.
Bisakah saya menjalankan Llama Guard 3 8B secara lokal?
Tidak — Llama Guard 3 8B hanya ter-host dan diakses melalui API meta-llama. Padanan open-weights tersedia untuk self-host — lihat tautan silang di atas.
Apa keunggulan utama Llama Guard 3 8B?
Llama Guard 3 8B sangat cocok untuk chat dan routing latensi rendah, routing dan triase permintaan, klasifikasi teks.
Bagaimana cara menggunakan Llama Guard 3 8B di osFoundry?
Tempelkan API key meta-llama Anda di dialog key (atau deploy open weights untuk model yang dapat di-self-host), tetapkan Llama Guard 3 8B ke peran Maestro di tab Pipeline, lalu gunakan di chat, di Room App via invokeAI, atau di aplikasi Anda sendiri.
Diterbitkan oleh meta-llama pada 12 Februari 2025. Sumber: https://openrouter.ai/meta-llama/llama-guard-3-8b