WizardLM-2 8x22B
Veröffentlicht von microsoft im Jahr 2024, ist WizardLM-2 8x22B ein Chat-Modell. WizardLM-2 8x22B is Microsoft AI's most advanced Wizard model. It demonstrates highly competitive performance compared to leading proprietary models, and it consistently outperforms all existing state-of-the-art opensource models. It is...
by microsoft · Kontextfenster von 66K Token
Am besten geeignet für
- Chat und Routing mit geringer Latenz
- Anfrage-Routing und Triage
- Textklassifikation
Möglichkeiten, WizardLM-2 8x22B in osFoundry zu nutzen
Mit eigenem Schlüssel verbinden (BYOK)
Öffnen Sie den Schlüssel-Dialog und fügen Sie Ihren microsoft-API-Key ein. osFoundry erkennt WizardLM-2 8x22B automatisch — weisen Sie es im Pipeline-Tab einer Maestro-Rolle (Router, Direct, Orchestrator oder Fallback) zu, und es ist in jedem Chat verfügbar. Ihr Key, Ihr Provider-Konto — kein Token-Aufschlag.
In einer Room App verwenden
Room Apps deklarieren KI-Funktionen in ihrem Manifest und rufen sie anschließend mit invokeAI auf:
import { invokeAI } from '@osfoundry/app-sdk'
// 'summarize' is an AI feature declared in your app manifest.
const result = await invokeAI('summarize', userText)
Aus eigenen Anwendungen aufrufen
Sobald ein Modell in Ihrem Workspace eingerichtet ist, können Sie es als API hosten und aus Ihren eigenen Diensten, Skripten oder CI — außerhalb von osFoundry — erreichen.
WizardLM-2 8x22B im Vergleich zu ähnlichen Modellen
Lizenz
Hosted — usage subject to provider terms — Nur gehostetes Modell — die Nutzung unterliegt den API-Bedingungen des Anbieters. Bringen Sie Ihren eigenen Provider-Key mit.
Keine Weights verteilt; Nutzung unterliegt den Anbieterbedingungen.
Häufige Fragen zu WizardLM-2 8x22B
Wie viel kostet WizardLM-2 8x22B?
WizardLM-2 8x22B wird mit $ 0.620 /1M für Input und $ 0.620 /1M für Output abgerechnet. Bringen Sie Ihren eigenen microsoft-API-Key mit — osFoundry reicht die Provider-Preise ohne Aufschlag durch.
Kann ich WizardLM-2 8x22B kommerziell nutzen?
Kommerzielle Nutzung ist unter bestimmten Bedingungen erlaubt. Nur gehostetes Modell — die Nutzung unterliegt den API-Bedingungen des Anbieters. Bringen Sie Ihren eigenen Provider-Key mit. Keine Weights verteilt; Nutzung unterliegt den Anbieterbedingungen.
Wie groß ist das Kontextfenster von WizardLM-2 8x22B?
WizardLM-2 8x22B unterstützt ein Kontextfenster von 66K Token.
Kann ich WizardLM-2 8x22B lokal betreiben?
Nein — WizardLM-2 8x22B ist nur gehostet verfügbar und wird über die microsoft-API genutzt.
Worin ist WizardLM-2 8x22B besonders gut?
WizardLM-2 8x22B eignet sich besonders für Chat und Routing mit geringer Latenz, Anfrage-Routing und Triage, Textklassifikation.
Wie verwende ich WizardLM-2 8x22B in osFoundry?
Fügen Sie Ihren microsoft-API-Key im Schlüssel-Dialog ein (oder stellen Sie bei selbst hostbaren Modellen die Open Weights bereit), weisen Sie WizardLM-2 8x22B im Pipeline-Tab einer Maestro-Rolle zu und nutzen Sie es anschließend im Chat, in Room Apps über invokeAI oder in Ihren eigenen Anwendungen.
Veröffentlicht von microsoft am 16. April 2024. Quelle: https://openrouter.ai/microsoft/wizardlm-2-8x22b