WizardLM-2 8x22B
microsoft द्वारा 2024 में जारी, WizardLM-2 8x22B एक चैट model है। WizardLM-2 8x22B is Microsoft AI's most advanced Wizard model. It demonstrates highly competitive performance compared to leading proprietary models, and it consistently outperforms all existing state-of-the-art opensource models. It is...
by microsoft · 66K token context window
किसके लिए सर्वोत्तम
- कम-latency चैट और routing
- request routing और triage
- text classification
osFoundry में WizardLM-2 8x22B का उपयोग करने के तरीके
अपनी key से जोड़ें (BYOK)
key dialog खोलें और अपनी microsoft API key पेस्ट करें। osFoundry WizardLM-2 8x22B को स्वचालित रूप से खोज लेता है — इसे Pipeline tab में किसी Maestro role (router, direct, orchestrator, या fallback) को असाइन करें और यह हर चैट में live हो जाता है। आपकी key, आपका provider account — कोई token markup नहीं।
Room App में उपयोग करें
Room Apps अपने manifest में AI features घोषित करते हैं, फिर उन्हें invokeAI के साथ कॉल करते हैं:
import { invokeAI } from '@osfoundry/app-sdk'
// 'summarize' is an AI feature declared in your app manifest.
const result = await invokeAI('summarize', userText)
अपने ऐप्स से इसे कॉल करें
एक बार जब model आपके workspace में wired हो जाता है, तो आप इसे API के रूप में host कर सकते हैं और इसे अपनी services, scripts, या CI से — osFoundry के बाहर — एक्सेस कर सकते हैं।
WizardLM-2 8x22B बनाम समान models
लाइसेंस
Hosted — usage subject to provider terms — Hosted-only model — उपयोग provider के API terms द्वारा शासित। अपनी provider key लाएँ।
कोई weights distributed नहीं; उपयोग provider terms के अधीन।
WizardLM-2 8x22B के बारे में अक्सर पूछे जाने वाले प्रश्न
WizardLM-2 8x22B की लागत कितनी है?
WizardLM-2 8x22B input के लिए $ 0.620 /1M पर metered है, और output के लिए $ 0.620 /1M। अपनी microsoft API key लाएँ — osFoundry बिना markup के provider pricing pass-through करता है।
क्या मैं WizardLM-2 8x22B का commercial उपयोग कर सकता हूँ?
Commercial उपयोग शर्तों के साथ अनुमत है। Hosted-only model — उपयोग provider के API terms द्वारा शासित। अपनी provider key लाएँ। कोई weights distributed नहीं; उपयोग provider terms के अधीन।
WizardLM-2 8x22B का context window क्या है?
WizardLM-2 8x22B 66K token context window का समर्थन करता है।
क्या मैं WizardLM-2 8x22B को locally चला सकता हूँ?
नहीं — WizardLM-2 8x22B केवल hosted है और microsoft API के माध्यम से एक्सेस किया जाता है।
WizardLM-2 8x22B किसमें सर्वश्रेष्ठ है?
WizardLM-2 8x22B कम-latency चैट और routing, request routing और triage, text classification के लिए उपयुक्त है।
मैं osFoundry में WizardLM-2 8x22B का उपयोग कैसे करूँ?
key dialog में अपनी microsoft API key पेस्ट करें (या self-hostable models के लिए open weights deploy करें), Pipeline tab में WizardLM-2 8x22B को एक Maestro role को असाइन करें, फिर इसे चैट में, invokeAI के माध्यम से Room Apps में, या अपने ऐप्स में उपयोग करें।
microsoft द्वारा प्रकाशित 16 अप्रैल 2024 को। स्रोत: https://openrouter.ai/microsoft/wizardlm-2-8x22b