Rocinante 12B
Rocinante 12B adalah model chat dari TheDrummer, dirilis 30 September 2024. Rocinante 12B is designed for engaging storytelling and rich prose. Early testers have reported: - Expanded vocabulary with unique and expressive word choices - Enhanced creativity for vivid narratives -...
by TheDrummer · context window 33K token
Paling cocok untuk
- chat dan routing latensi rendah
- routing dan triase permintaan
- klasifikasi teks
Cara menggunakan Rocinante 12B di osFoundry
Hubungkan dengan key Anda sendiri (BYOK)
Buka dialog key dan tempelkan API key TheDrummer Anda. osFoundry menemukan Rocinante 12B secara otomatis — tetapkan ke peran Maestro (router, direct, orchestrator, atau fallback) di tab Pipeline dan model ini langsung aktif di setiap chat. Key Anda, akun provider Anda — tanpa markup token.
Gunakan di Room App
Room App mendeklarasikan fitur AI di manifest mereka, lalu memanggilnya dengan invokeAI:
import { invokeAI } from '@osfoundry/app-sdk'
// 'summarize' is an AI feature declared in your app manifest.
const result = await invokeAI('summarize', userText)
Panggil dari aplikasi Anda sendiri
Setelah sebuah model terhubung ke workspace Anda, Anda dapat meng-host-nya sebagai API dan mengaksesnya dari layanan, skrip, atau CI Anda sendiri — di luar osFoundry.
Jalankan Rocinante 12B sendiri
Rocinante 12B juga tersedia sebagai open weights — self-host model ini untuk kontrol data penuh dan tanpa biaya per token. Lihat halaman tersebut untuk persyaratan GPU dan perbandingan biaya terhadap harga API.
Rocinante 12B vs model serupa
Lisensi
Hosted — usage subject to provider terms — Model ter-host saja — penggunaan diatur oleh ketentuan API provider. Bawa key provider Anda sendiri.
Tidak ada weights yang didistribusikan; penggunaan tunduk pada ketentuan provider.
Pertanyaan umum tentang Rocinante 12B
Berapa biaya Rocinante 12B?
Rocinante 12B dikenakan biaya $ 0.170 /1M untuk input, dan $ 0.430 /1M untuk output. Bawa API key TheDrummer Anda sendiri — osFoundry meneruskan harga provider tanpa markup.
Bisakah saya menggunakan Rocinante 12B secara komersial?
Penggunaan komersial diizinkan dengan syarat. Model ter-host saja — penggunaan diatur oleh ketentuan API provider. Bawa key provider Anda sendiri. Tidak ada weights yang didistribusikan; penggunaan tunduk pada ketentuan provider.
Berapa context window dari Rocinante 12B?
Rocinante 12B mendukung context window 33K token.
Bisakah saya menjalankan Rocinante 12B secara lokal?
Tidak — Rocinante 12B hanya ter-host dan diakses melalui API TheDrummer. Padanan open-weights tersedia untuk self-host — lihat tautan silang di atas.
Apa keunggulan utama Rocinante 12B?
Rocinante 12B sangat cocok untuk chat dan routing latensi rendah, routing dan triase permintaan, klasifikasi teks.
Bagaimana cara menggunakan Rocinante 12B di osFoundry?
Tempelkan API key TheDrummer Anda di dialog key (atau deploy open weights untuk model yang dapat di-self-host), tetapkan Rocinante 12B ke peran Maestro di tab Pipeline, lalu gunakan di chat, di Room App via invokeAI, atau di aplikasi Anda sendiri.
Diterbitkan oleh TheDrummer pada 30 September 2024. Sumber: https://openrouter.ai/thedrummer/rocinante-12b