Rocinante 12B
Rocinante 12B est un modèle chat de TheDrummer, publié le 30 septembre 2024. Rocinante 12B is designed for engaging storytelling and rich prose. Early testers have reported: - Expanded vocabulary with unique and expressive word choices - Enhanced creativity for vivid narratives -...
by TheDrummer · fenêtre de contexte de 33K tokens
Idéal pour
- chat et routage à faible latence
- routage et triage des requêtes
- classification de texte
Comment utiliser Rocinante 12B dans osFoundry
Connectez-vous avec votre propre clé (BYOK)
Ouvrez la fenêtre de clés et collez votre clé API TheDrummer. osFoundry détecte automatiquement Rocinante 12B — assignez-le à un rôle Maestro (router, direct, orchestrator ou fallback) dans l'onglet Pipeline et il est actif dans chaque conversation. Votre clé, votre compte fournisseur — sans majoration sur les tokens.
Utilisez-le dans une Room App
Les Room Apps déclarent leurs fonctionnalités IA dans leur manifeste, puis les appellent via invokeAI :
import { invokeAI } from '@osfoundry/app-sdk'
// 'summarize' is an AI feature declared in your app manifest.
const result = await invokeAI('summarize', userText)
Appelez-le depuis vos propres applications
Une fois un modèle intégré à votre espace de travail, vous pouvez l'héberger en tant qu'API et l'appeler depuis vos propres services, scripts ou CI — en dehors d'osFoundry.
Exécutez Rocinante 12B vous-même
Rocinante 12B est également disponible en open weights — hébergez-le vous-même pour un contrôle total des données et zéro coût au token. Consultez cette page pour les prérequis GPU et une comparaison des coûts avec la tarification API.
Rocinante 12B face aux modèles similaires
Licence
Hosted — usage subject to provider terms — Modèle hébergé uniquement — l'utilisation est régie par les conditions d'API du fournisseur. Apportez votre propre clé fournisseur.
Aucun poids distribué ; usage soumis aux conditions du fournisseur.
Questions fréquentes sur Rocinante 12B
Combien coûte Rocinante 12B ?
Rocinante 12B est facturé à $ 0.170 /1M en entrée et $ 0.430 /1M en sortie. Apportez votre propre clé API TheDrummer — osFoundry répercute la tarification du fournisseur sans majoration.
Puis-je utiliser Rocinante 12B à des fins commerciales ?
L'usage commercial est autorisé sous conditions. Modèle hébergé uniquement — l'utilisation est régie par les conditions d'API du fournisseur. Apportez votre propre clé fournisseur. Aucun poids distribué ; usage soumis aux conditions du fournisseur.
Quelle est la fenêtre de contexte de Rocinante 12B ?
Rocinante 12B prend en charge une fenêtre de contexte de 33K tokens.
Puis-je exécuter Rocinante 12B localement ?
Non — Rocinante 12B est uniquement hébergé et accessible via l'API TheDrummer. Un équivalent en open-weights est disponible en auto-hébergement — voir le lien croisé ci-dessus.
À quoi Rocinante 12B excelle-t-il ?
Rocinante 12B convient particulièrement bien à chat et routage à faible latence, routage et triage des requêtes, classification de texte.
Comment utiliser Rocinante 12B dans osFoundry ?
Collez votre clé API TheDrummer dans la fenêtre de clés (ou déployez les open weights pour les modèles auto-hébergeables), assignez Rocinante 12B à un rôle Maestro dans l'onglet Pipeline, puis utilisez-le en chat, dans les Room Apps via invokeAI, ou dans vos propres applications.
Publié par TheDrummer le 30 septembre 2024. Source : https://openrouter.ai/thedrummer/rocinante-12b