WizardLM-2 8x22B
Dirilis oleh microsoft pada 2024, WizardLM-2 8x22B adalah sebuah model chat . WizardLM-2 8x22B is Microsoft AI's most advanced Wizard model. It demonstrates highly competitive performance compared to leading proprietary models, and it consistently outperforms all existing state-of-the-art opensource models. It is...
by microsoft · context window 66K token
Paling cocok untuk
- chat dan routing latensi rendah
- routing dan triase permintaan
- klasifikasi teks
Cara menggunakan WizardLM-2 8x22B di osFoundry
Hubungkan dengan key Anda sendiri (BYOK)
Buka dialog key dan tempelkan API key microsoft Anda. osFoundry menemukan WizardLM-2 8x22B secara otomatis — tetapkan ke peran Maestro (router, direct, orchestrator, atau fallback) di tab Pipeline dan model ini langsung aktif di setiap chat. Key Anda, akun provider Anda — tanpa markup token.
Gunakan di Room App
Room App mendeklarasikan fitur AI di manifest mereka, lalu memanggilnya dengan invokeAI:
import { invokeAI } from '@osfoundry/app-sdk'
// 'summarize' is an AI feature declared in your app manifest.
const result = await invokeAI('summarize', userText)
Panggil dari aplikasi Anda sendiri
Setelah sebuah model terhubung ke workspace Anda, Anda dapat meng-host-nya sebagai API dan mengaksesnya dari layanan, skrip, atau CI Anda sendiri — di luar osFoundry.
WizardLM-2 8x22B vs model serupa
Lisensi
Hosted — usage subject to provider terms — Model ter-host saja — penggunaan diatur oleh ketentuan API provider. Bawa key provider Anda sendiri.
Tidak ada weights yang didistribusikan; penggunaan tunduk pada ketentuan provider.
Pertanyaan umum tentang WizardLM-2 8x22B
Berapa biaya WizardLM-2 8x22B?
WizardLM-2 8x22B dikenakan biaya $ 0.620 /1M untuk input, dan $ 0.620 /1M untuk output. Bawa API key microsoft Anda sendiri — osFoundry meneruskan harga provider tanpa markup.
Bisakah saya menggunakan WizardLM-2 8x22B secara komersial?
Penggunaan komersial diizinkan dengan syarat. Model ter-host saja — penggunaan diatur oleh ketentuan API provider. Bawa key provider Anda sendiri. Tidak ada weights yang didistribusikan; penggunaan tunduk pada ketentuan provider.
Berapa context window dari WizardLM-2 8x22B?
WizardLM-2 8x22B mendukung context window 66K token.
Bisakah saya menjalankan WizardLM-2 8x22B secara lokal?
Tidak — WizardLM-2 8x22B hanya ter-host dan diakses melalui API microsoft.
Apa keunggulan utama WizardLM-2 8x22B?
WizardLM-2 8x22B sangat cocok untuk chat dan routing latensi rendah, routing dan triase permintaan, klasifikasi teks.
Bagaimana cara menggunakan WizardLM-2 8x22B di osFoundry?
Tempelkan API key microsoft Anda di dialog key (atau deploy open weights untuk model yang dapat di-self-host), tetapkan WizardLM-2 8x22B ke peran Maestro di tab Pipeline, lalu gunakan di chat, di Room App via invokeAI, atau di aplikasi Anda sendiri.
Diterbitkan oleh microsoft pada 16 April 2024. Sumber: https://openrouter.ai/microsoft/wizardlm-2-8x22b