Mistral 7B Instruct v0.1
Mistral 7B Instruct v0.1 adalah model chat dari Mistral, dirilis 28 September 2023. A 7.3B parameter model that outperforms Llama 2 13B on all benchmarks, with optimizations for speed and context length.
by Mistral · context window 3K token
Paling cocok untuk
- chat dan routing latensi rendah
- routing dan triase permintaan
- klasifikasi teks
Cara menggunakan Mistral 7B Instruct v0.1 di osFoundry
Hubungkan dengan key Anda sendiri (BYOK)
Buka dialog key dan tempelkan API key Mistral Anda. osFoundry menemukan Mistral 7B Instruct v0.1 secara otomatis — tetapkan ke peran Maestro (router, direct, orchestrator, atau fallback) di tab Pipeline dan model ini langsung aktif di setiap chat. Key Anda, akun provider Anda — tanpa markup token.
Gunakan di Room App
Room App mendeklarasikan fitur AI di manifest mereka, lalu memanggilnya dengan invokeAI:
import { invokeAI } from '@osfoundry/app-sdk'
// 'summarize' is an AI feature declared in your app manifest.
const result = await invokeAI('summarize', userText)
Panggil dari aplikasi Anda sendiri
Setelah sebuah model terhubung ke workspace Anda, Anda dapat meng-host-nya sebagai API dan mengaksesnya dari layanan, skrip, atau CI Anda sendiri — di luar osFoundry.
Jalankan Mistral 7B Instruct v0.1 sendiri
Mistral 7B Instruct v0.1 juga tersedia sebagai open weights — self-host model ini untuk kontrol data penuh dan tanpa biaya per token. Lihat halaman tersebut untuk persyaratan GPU dan perbandingan biaya terhadap harga API.
Mistral 7B Instruct v0.1 vs model serupa
Lisensi
Hosted — usage subject to provider terms — Model ter-host saja — penggunaan diatur oleh ketentuan API provider. Bawa key provider Anda sendiri.
Tidak ada weights yang didistribusikan; penggunaan tunduk pada ketentuan provider.
Pertanyaan umum tentang Mistral 7B Instruct v0.1
Berapa biaya Mistral 7B Instruct v0.1?
Mistral 7B Instruct v0.1 dikenakan biaya $ 0.110 /1M untuk input, dan $ 0.190 /1M untuk output. Bawa API key Mistral Anda sendiri — osFoundry meneruskan harga provider tanpa markup.
Bisakah saya menggunakan Mistral 7B Instruct v0.1 secara komersial?
Penggunaan komersial diizinkan dengan syarat. Model ter-host saja — penggunaan diatur oleh ketentuan API provider. Bawa key provider Anda sendiri. Tidak ada weights yang didistribusikan; penggunaan tunduk pada ketentuan provider.
Berapa context window dari Mistral 7B Instruct v0.1?
Mistral 7B Instruct v0.1 mendukung context window 3K token.
Bisakah saya menjalankan Mistral 7B Instruct v0.1 secara lokal?
Tidak — Mistral 7B Instruct v0.1 hanya ter-host dan diakses melalui API Mistral. Padanan open-weights tersedia untuk self-host — lihat tautan silang di atas.
Apa keunggulan utama Mistral 7B Instruct v0.1?
Mistral 7B Instruct v0.1 sangat cocok untuk chat dan routing latensi rendah, routing dan triase permintaan, klasifikasi teks.
Bagaimana cara menggunakan Mistral 7B Instruct v0.1 di osFoundry?
Tempelkan API key Mistral Anda di dialog key (atau deploy open weights untuk model yang dapat di-self-host), tetapkan Mistral 7B Instruct v0.1 ke peran Maestro di tab Pipeline, lalu gunakan di chat, di Room App via invokeAI, atau di aplikasi Anda sendiri.
Diterbitkan oleh Mistral pada 28 September 2023. Sumber: https://openrouter.ai/mistralai/mistral-7b-instruct-v0.1