Mistral 7B Instruct v0.1
Mistral 7B Instruct v0.1 Mistral का एक चैट model है, 28 सितंबर 2023 को जारी। A 7.3B parameter model that outperforms Llama 2 13B on all benchmarks, with optimizations for speed and context length.
by Mistral · 3K token context window
किसके लिए सर्वोत्तम
- कम-latency चैट और routing
- request routing और triage
- text classification
osFoundry में Mistral 7B Instruct v0.1 का उपयोग करने के तरीके
अपनी key से जोड़ें (BYOK)
key dialog खोलें और अपनी Mistral API key पेस्ट करें। osFoundry Mistral 7B Instruct v0.1 को स्वचालित रूप से खोज लेता है — इसे Pipeline tab में किसी Maestro role (router, direct, orchestrator, या fallback) को असाइन करें और यह हर चैट में live हो जाता है। आपकी key, आपका provider account — कोई token markup नहीं।
Room App में उपयोग करें
Room Apps अपने manifest में AI features घोषित करते हैं, फिर उन्हें invokeAI के साथ कॉल करते हैं:
import { invokeAI } from '@osfoundry/app-sdk'
// 'summarize' is an AI feature declared in your app manifest.
const result = await invokeAI('summarize', userText)
अपने ऐप्स से इसे कॉल करें
एक बार जब model आपके workspace में wired हो जाता है, तो आप इसे API के रूप में host कर सकते हैं और इसे अपनी services, scripts, या CI से — osFoundry के बाहर — एक्सेस कर सकते हैं।
Mistral 7B Instruct v0.1 स्वयं चलाएँ
Mistral 7B Instruct v0.1 open weights के रूप में भी उपलब्ध है — पूर्ण data नियंत्रण और कोई per-token लागत नहीं के लिए इसे self-host करें। GPU आवश्यकताओं और API मूल्य के विरुद्ध लागत तुलना के लिए वह पेज देखें।
Mistral 7B Instruct v0.1 बनाम समान models
लाइसेंस
Hosted — usage subject to provider terms — Hosted-only model — उपयोग provider के API terms द्वारा शासित। अपनी provider key लाएँ।
कोई weights distributed नहीं; उपयोग provider terms के अधीन।
Mistral 7B Instruct v0.1 के बारे में अक्सर पूछे जाने वाले प्रश्न
Mistral 7B Instruct v0.1 की लागत कितनी है?
Mistral 7B Instruct v0.1 input के लिए $ 0.110 /1M पर metered है, और output के लिए $ 0.190 /1M। अपनी Mistral API key लाएँ — osFoundry बिना markup के provider pricing pass-through करता है।
क्या मैं Mistral 7B Instruct v0.1 का commercial उपयोग कर सकता हूँ?
Commercial उपयोग शर्तों के साथ अनुमत है। Hosted-only model — उपयोग provider के API terms द्वारा शासित। अपनी provider key लाएँ। कोई weights distributed नहीं; उपयोग provider terms के अधीन।
Mistral 7B Instruct v0.1 का context window क्या है?
Mistral 7B Instruct v0.1 3K token context window का समर्थन करता है।
क्या मैं Mistral 7B Instruct v0.1 को locally चला सकता हूँ?
नहीं — Mistral 7B Instruct v0.1 केवल hosted है और Mistral API के माध्यम से एक्सेस किया जाता है। एक open-weights समकक्ष self-host के लिए उपलब्ध है — ऊपर cross-link देखें।
Mistral 7B Instruct v0.1 किसमें सर्वश्रेष्ठ है?
Mistral 7B Instruct v0.1 कम-latency चैट और routing, request routing और triage, text classification के लिए उपयुक्त है।
मैं osFoundry में Mistral 7B Instruct v0.1 का उपयोग कैसे करूँ?
key dialog में अपनी Mistral API key पेस्ट करें (या self-hostable models के लिए open weights deploy करें), Pipeline tab में Mistral 7B Instruct v0.1 को एक Maestro role को असाइन करें, फिर इसे चैट में, invokeAI के माध्यम से Room Apps में, या अपने ऐप्स में उपयोग करें।
Mistral द्वारा प्रकाशित 28 सितंबर 2023 को। स्रोत: https://openrouter.ai/mistralai/mistral-7b-instruct-v0.1