WizardLM-2 8x22B
由 microsoft 发布于 2024 年，WizardLM-2 8x22B 是一款 对话模型。WizardLM-2 8x22B is Microsoft AI's most advanced Wizard model. It demonstrates highly competitive performance compared to leading proprietary models, and it consistently outperforms all existing state-of-the-art opensource models. It is...
by microsoft · 66K token 上下文窗口
最佳适用场景
在 osFoundry 中使用 WizardLM-2 8x22B 的方式
使用您自己的密钥接入（BYOK）
打开密钥对话框并粘贴您的 microsoft API 密钥。osFoundry 会自动发现 WizardLM-2 8x22B——在 Pipeline 标签中将其分配给 Maestro 角色（router、direct、orchestrator 或 fallback），即可在每次对话中启用。您的密钥、您的服务商账户——零 token 加价。
在 Room App 中使用
Room App 在 manifest 中声明 AI 功能，然后通过 invokeAI 调用：
import { invokeAI } from '@osfoundry/app-sdk'
// 'summarize' is an AI feature declared in your app manifest.
const result = await invokeAI('summarize', userText)
从您自己的应用中调用
模型接入工作区后，您可将其托管为 API，并从您自己的服务、脚本或 CI 中（osFoundry 之外）访问。
WizardLM-2 8x22B 与同类模型对比
许可证
Hosted — usage subject to provider terms — 仅托管模型——使用受服务商 API 条款约束。请使用您自己的服务商密钥。
不分发权重；使用受服务商条款约束。
关于 WizardLM-2 8x22B 的常见问题
WizardLM-2 8x22B 的费用是多少？
WizardLM-2 8x22B 按输入 $ 0.620 /1M、输出 $ 0.620 /1M计费。使用您自己的 microsoft API 密钥——osFoundry 透传服务商定价，不加价。
我可以将 WizardLM-2 8x22B 用于商业用途吗？
允许有条件的商业使用。 仅托管模型——使用受服务商 API 条款约束。请使用您自己的服务商密钥。 不分发权重；使用受服务商条款约束。
WizardLM-2 8x22B 的上下文窗口有多大？
WizardLM-2 8x22B 支持 66K token 的上下文窗口。
我可以在本地运行 WizardLM-2 8x22B 吗？
不可以——WizardLM-2 8x22B 仅以托管方式提供，通过 microsoft API 访问。
WizardLM-2 8x22B 最擅长什么？
WizardLM-2 8x22B 非常适合低延迟对话与路由, 请求路由与分诊, 文本分类。
如何在 osFoundry 中使用 WizardLM-2 8x22B？
在密钥对话框中粘贴您的 microsoft API 密钥（若为可自托管的开源权重模型，则部署其权重），在 Pipeline 标签中将 WizardLM-2 8x22B 分配给某个 Maestro 角色，然后即可在对话、通过 invokeAI 的 Room App 或您自己的应用中使用。
由 microsoft 发布，发布日期 2024年4月16日。 来源：https://openrouter.ai/microsoft/wizardlm-2-8x22b