Llama Guard 3 8B
Llama Guard 3 8B (meta-llama, 2025) एक चैट model है। Llama Guard 3 is a Llama-3.1-8B pretrained model, fine-tuned for content safety classification. Similar to previous versions, it can be used to classify content in both LLM inputs (prompt classification)...
by meta-llama · 131K token context window
किसके लिए सर्वोत्तम
- कम-latency चैट और routing
- request routing और triage
- text classification
osFoundry में Llama Guard 3 8B का उपयोग करने के तरीके
अपनी key से जोड़ें (BYOK)
key dialog खोलें और अपनी meta-llama API key पेस्ट करें। osFoundry Llama Guard 3 8B को स्वचालित रूप से खोज लेता है — इसे Pipeline tab में किसी Maestro role (router, direct, orchestrator, या fallback) को असाइन करें और यह हर चैट में live हो जाता है। आपकी key, आपका provider account — कोई token markup नहीं।
Room App में उपयोग करें
Room Apps अपने manifest में AI features घोषित करते हैं, फिर उन्हें invokeAI के साथ कॉल करते हैं:
import { invokeAI } from '@osfoundry/app-sdk'
// 'summarize' is an AI feature declared in your app manifest.
const result = await invokeAI('summarize', userText)
अपने ऐप्स से इसे कॉल करें
एक बार जब model आपके workspace में wired हो जाता है, तो आप इसे API के रूप में host कर सकते हैं और इसे अपनी services, scripts, या CI से — osFoundry के बाहर — एक्सेस कर सकते हैं।
Llama Guard 3 8B स्वयं चलाएँ
Llama Guard 3 8B open weights के रूप में भी उपलब्ध है — पूर्ण data नियंत्रण और कोई per-token लागत नहीं के लिए इसे self-host करें। GPU आवश्यकताओं और API मूल्य के विरुद्ध लागत तुलना के लिए वह पेज देखें।
Llama Guard 3 8B बनाम समान models
| Model | संस्था | Params | Context | Input मूल्य | Self-host |
|---|
| Llama Guard 3 8B | meta-llama | — | 131K | $ 0.480 /1M | केवल API |
| Saba | Mistral | — | 33K | $ 0.200 /1M | केवल API |
| o3 Mini High | OpenAI | — | 200K | $ 1.10 /1M | केवल API |
| Sonar Deep Research | Perplexity | — | 128K | $ 2.00 /1M | केवल API |
लाइसेंस
Hosted — usage subject to provider terms — Hosted-only model — उपयोग provider के API terms द्वारा शासित। अपनी provider key लाएँ।
कोई weights distributed नहीं; उपयोग provider terms के अधीन।
Llama Guard 3 8B के बारे में अक्सर पूछे जाने वाले प्रश्न
Llama Guard 3 8B की लागत कितनी है?
Llama Guard 3 8B input के लिए $ 0.480 /1M पर metered है, और output के लिए $ 0.030 /1M। अपनी meta-llama API key लाएँ — osFoundry बिना markup के provider pricing pass-through करता है।
क्या मैं Llama Guard 3 8B का commercial उपयोग कर सकता हूँ?
Commercial उपयोग शर्तों के साथ अनुमत है। Hosted-only model — उपयोग provider के API terms द्वारा शासित। अपनी provider key लाएँ। कोई weights distributed नहीं; उपयोग provider terms के अधीन।
Llama Guard 3 8B का context window क्या है?
Llama Guard 3 8B 131K token context window का समर्थन करता है।
क्या मैं Llama Guard 3 8B को locally चला सकता हूँ?
नहीं — Llama Guard 3 8B केवल hosted है और meta-llama API के माध्यम से एक्सेस किया जाता है। एक open-weights समकक्ष self-host के लिए उपलब्ध है — ऊपर cross-link देखें।
Llama Guard 3 8B किसमें सर्वश्रेष्ठ है?
Llama Guard 3 8B कम-latency चैट और routing, request routing और triage, text classification के लिए उपयुक्त है।
मैं osFoundry में Llama Guard 3 8B का उपयोग कैसे करूँ?
key dialog में अपनी meta-llama API key पेस्ट करें (या self-hostable models के लिए open weights deploy करें), Pipeline tab में Llama Guard 3 8B को एक Maestro role को असाइन करें, फिर इसे चैट में, invokeAI के माध्यम से Room Apps में, या अपने ऐप्स में उपयोग करें।
meta-llama द्वारा प्रकाशित 12 फ़रवरी 2025 को। स्रोत: https://openrouter.ai/meta-llama/llama-guard-3-8b