Mistral 7B Instruct v0.1
Mistral 7B Instruct v0.1 ist ein Chat-Modell von Mistral, veröffentlicht am 28. September 2023. A 7.3B parameter model that outperforms Llama 2 13B on all benchmarks, with optimizations for speed and context length.
by Mistral · Kontextfenster von 3K Token
Am besten geeignet für
- Chat und Routing mit geringer Latenz
- Anfrage-Routing und Triage
- Textklassifikation
Möglichkeiten, Mistral 7B Instruct v0.1 in osFoundry zu nutzen
Mit eigenem Schlüssel verbinden (BYOK)
Öffnen Sie den Schlüssel-Dialog und fügen Sie Ihren Mistral-API-Key ein. osFoundry erkennt Mistral 7B Instruct v0.1 automatisch — weisen Sie es im Pipeline-Tab einer Maestro-Rolle (Router, Direct, Orchestrator oder Fallback) zu, und es ist in jedem Chat verfügbar. Ihr Key, Ihr Provider-Konto — kein Token-Aufschlag.
In einer Room App verwenden
Room Apps deklarieren KI-Funktionen in ihrem Manifest und rufen sie anschließend mit invokeAI auf:
import { invokeAI } from '@osfoundry/app-sdk'
// 'summarize' is an AI feature declared in your app manifest.
const result = await invokeAI('summarize', userText)
Aus eigenen Anwendungen aufrufen
Sobald ein Modell in Ihrem Workspace eingerichtet ist, können Sie es als API hosten und aus Ihren eigenen Diensten, Skripten oder CI — außerhalb von osFoundry — erreichen.
Mistral 7B Instruct v0.1 selbst betreiben
Mistral 7B Instruct v0.1 ist auch als Open Weights verfügbar — selbst hosten für volle Datenkontrolle und ohne Kosten pro Token. Auf jener Seite finden Sie GPU-Anforderungen und einen Kostenvergleich mit API-Preisen.
Mistral 7B Instruct v0.1 im Vergleich zu ähnlichen Modellen
Lizenz
Hosted — usage subject to provider terms — Nur gehostetes Modell — die Nutzung unterliegt den API-Bedingungen des Anbieters. Bringen Sie Ihren eigenen Provider-Key mit.
Keine Weights verteilt; Nutzung unterliegt den Anbieterbedingungen.
Häufige Fragen zu Mistral 7B Instruct v0.1
Wie viel kostet Mistral 7B Instruct v0.1?
Mistral 7B Instruct v0.1 wird mit $ 0.110 /1M für Input und $ 0.190 /1M für Output abgerechnet. Bringen Sie Ihren eigenen Mistral-API-Key mit — osFoundry reicht die Provider-Preise ohne Aufschlag durch.
Kann ich Mistral 7B Instruct v0.1 kommerziell nutzen?
Kommerzielle Nutzung ist unter bestimmten Bedingungen erlaubt. Nur gehostetes Modell — die Nutzung unterliegt den API-Bedingungen des Anbieters. Bringen Sie Ihren eigenen Provider-Key mit. Keine Weights verteilt; Nutzung unterliegt den Anbieterbedingungen.
Wie groß ist das Kontextfenster von Mistral 7B Instruct v0.1?
Mistral 7B Instruct v0.1 unterstützt ein Kontextfenster von 3K Token.
Kann ich Mistral 7B Instruct v0.1 lokal betreiben?
Nein — Mistral 7B Instruct v0.1 ist nur gehostet verfügbar und wird über die Mistral-API genutzt. Ein Open-Weights-Äquivalent steht zum Selbsthosten zur Verfügung — siehe den Querverweis oben.
Worin ist Mistral 7B Instruct v0.1 besonders gut?
Mistral 7B Instruct v0.1 eignet sich besonders für Chat und Routing mit geringer Latenz, Anfrage-Routing und Triage, Textklassifikation.
Wie verwende ich Mistral 7B Instruct v0.1 in osFoundry?
Fügen Sie Ihren Mistral-API-Key im Schlüssel-Dialog ein (oder stellen Sie bei selbst hostbaren Modellen die Open Weights bereit), weisen Sie Mistral 7B Instruct v0.1 im Pipeline-Tab einer Maestro-Rolle zu und nutzen Sie es anschließend im Chat, in Room Apps über invokeAI oder in Ihren eigenen Anwendungen.
Veröffentlicht von Mistral am 28. September 2023. Quelle: https://openrouter.ai/mistralai/mistral-7b-instruct-v0.1