Rocinante 12B
Rocinante 12B TheDrummer का एक चैट model है, 30 सितंबर 2024 को जारी। Rocinante 12B is designed for engaging storytelling and rich prose. Early testers have reported: - Expanded vocabulary with unique and expressive word choices - Enhanced creativity for vivid narratives -...
by TheDrummer · 33K token context window
किसके लिए सर्वोत्तम
- कम-latency चैट और routing
- request routing और triage
- text classification
osFoundry में Rocinante 12B का उपयोग करने के तरीके
अपनी key से जोड़ें (BYOK)
key dialog खोलें और अपनी TheDrummer API key पेस्ट करें। osFoundry Rocinante 12B को स्वचालित रूप से खोज लेता है — इसे Pipeline tab में किसी Maestro role (router, direct, orchestrator, या fallback) को असाइन करें और यह हर चैट में live हो जाता है। आपकी key, आपका provider account — कोई token markup नहीं।
Room App में उपयोग करें
Room Apps अपने manifest में AI features घोषित करते हैं, फिर उन्हें invokeAI के साथ कॉल करते हैं:
import { invokeAI } from '@osfoundry/app-sdk'
// 'summarize' is an AI feature declared in your app manifest.
const result = await invokeAI('summarize', userText)
अपने ऐप्स से इसे कॉल करें
एक बार जब model आपके workspace में wired हो जाता है, तो आप इसे API के रूप में host कर सकते हैं और इसे अपनी services, scripts, या CI से — osFoundry के बाहर — एक्सेस कर सकते हैं।
Rocinante 12B स्वयं चलाएँ
Rocinante 12B open weights के रूप में भी उपलब्ध है — पूर्ण data नियंत्रण और कोई per-token लागत नहीं के लिए इसे self-host करें। GPU आवश्यकताओं और API मूल्य के विरुद्ध लागत तुलना के लिए वह पेज देखें।
Rocinante 12B बनाम समान models
लाइसेंस
Hosted — usage subject to provider terms — Hosted-only model — उपयोग provider के API terms द्वारा शासित। अपनी provider key लाएँ।
कोई weights distributed नहीं; उपयोग provider terms के अधीन।
Rocinante 12B के बारे में अक्सर पूछे जाने वाले प्रश्न
Rocinante 12B की लागत कितनी है?
Rocinante 12B input के लिए $ 0.170 /1M पर metered है, और output के लिए $ 0.430 /1M। अपनी TheDrummer API key लाएँ — osFoundry बिना markup के provider pricing pass-through करता है।
क्या मैं Rocinante 12B का commercial उपयोग कर सकता हूँ?
Commercial उपयोग शर्तों के साथ अनुमत है। Hosted-only model — उपयोग provider के API terms द्वारा शासित। अपनी provider key लाएँ। कोई weights distributed नहीं; उपयोग provider terms के अधीन।
Rocinante 12B का context window क्या है?
Rocinante 12B 33K token context window का समर्थन करता है।
क्या मैं Rocinante 12B को locally चला सकता हूँ?
नहीं — Rocinante 12B केवल hosted है और TheDrummer API के माध्यम से एक्सेस किया जाता है। एक open-weights समकक्ष self-host के लिए उपलब्ध है — ऊपर cross-link देखें।
Rocinante 12B किसमें सर्वश्रेष्ठ है?
Rocinante 12B कम-latency चैट और routing, request routing और triage, text classification के लिए उपयुक्त है।
मैं osFoundry में Rocinante 12B का उपयोग कैसे करूँ?
key dialog में अपनी TheDrummer API key पेस्ट करें (या self-hostable models के लिए open weights deploy करें), Pipeline tab में Rocinante 12B को एक Maestro role को असाइन करें, फिर इसे चैट में, invokeAI के माध्यम से Room Apps में, या अपने ऐप्स में उपयोग करें।
TheDrummer द्वारा प्रकाशित 30 सितंबर 2024 को। स्रोत: https://openrouter.ai/thedrummer/rocinante-12b