Mixtral 8x22B Instruct
Mixtral 8x22B Instruct (Mistral, 2024) est un modèle chat . Mistral's official instruct fine-tuned version of [Mixtral 8x22B](/models/mistralai/mixtral-8x22b). It uses 39B active parameters out of 141B, offering unparalleled cost efficiency for its size. Its strengths include: - strong math, coding,...
by Mistral · fenêtre de contexte de 66K tokens
Idéal pour
- chat et routage à faible latence
- routage et triage des requêtes
- classification de texte
Comment utiliser Mixtral 8x22B Instruct dans osFoundry
Connectez-vous avec votre propre clé (BYOK)
Ouvrez la fenêtre de clés et collez votre clé API Mistral. osFoundry détecte automatiquement Mixtral 8x22B Instruct — assignez-le à un rôle Maestro (router, direct, orchestrator ou fallback) dans l'onglet Pipeline et il est actif dans chaque conversation. Votre clé, votre compte fournisseur — sans majoration sur les tokens.
Utilisez-le dans une Room App
Les Room Apps déclarent leurs fonctionnalités IA dans leur manifeste, puis les appellent via invokeAI :
import { invokeAI } from '@osfoundry/app-sdk'
// 'summarize' is an AI feature declared in your app manifest.
const result = await invokeAI('summarize', userText)
Appelez-le depuis vos propres applications
Une fois un modèle intégré à votre espace de travail, vous pouvez l'héberger en tant qu'API et l'appeler depuis vos propres services, scripts ou CI — en dehors d'osFoundry.
Exécutez Mixtral 8x22B Instruct vous-même
Mixtral 8x22B Instruct est également disponible en open weights — hébergez-le vous-même pour un contrôle total des données et zéro coût au token. Consultez cette page pour les prérequis GPU et une comparaison des coûts avec la tarification API.
Mixtral 8x22B Instruct face aux modèles similaires
| Modèle | Organisation | Paramètres | Contexte | Prix en entrée | Auto-hébergement |
|---|
| Mixtral 8x22B Instruct | Mistral | — | 66K | $ 2.00 /1M | API uniquement |
| Llama 3 70B Instruct | Meta | — | 8K | $ 0.510 /1M | API uniquement |
| WizardLM-2 8x22B | microsoft | — | 66K | $ 0.620 /1M | API uniquement |
| Mistral Large | mistralai | — | 128K | $ 2.00 /1M | API uniquement |
Licence
Hosted — usage subject to provider terms — Modèle hébergé uniquement — l'utilisation est régie par les conditions d'API du fournisseur. Apportez votre propre clé fournisseur.
Aucun poids distribué ; usage soumis aux conditions du fournisseur.
Questions fréquentes sur Mixtral 8x22B Instruct
Combien coûte Mixtral 8x22B Instruct ?
Mixtral 8x22B Instruct est facturé à $ 2.00 /1M en entrée et $ 6.00 /1M en sortie. Apportez votre propre clé API Mistral — osFoundry répercute la tarification du fournisseur sans majoration.
Puis-je utiliser Mixtral 8x22B Instruct à des fins commerciales ?
L'usage commercial est autorisé sous conditions. Modèle hébergé uniquement — l'utilisation est régie par les conditions d'API du fournisseur. Apportez votre propre clé fournisseur. Aucun poids distribué ; usage soumis aux conditions du fournisseur.
Quelle est la fenêtre de contexte de Mixtral 8x22B Instruct ?
Mixtral 8x22B Instruct prend en charge une fenêtre de contexte de 66K tokens.
Puis-je exécuter Mixtral 8x22B Instruct localement ?
Non — Mixtral 8x22B Instruct est uniquement hébergé et accessible via l'API Mistral. Un équivalent en open-weights est disponible en auto-hébergement — voir le lien croisé ci-dessus.
À quoi Mixtral 8x22B Instruct excelle-t-il ?
Mixtral 8x22B Instruct convient particulièrement bien à chat et routage à faible latence, routage et triage des requêtes, classification de texte.
Comment utiliser Mixtral 8x22B Instruct dans osFoundry ?
Collez votre clé API Mistral dans la fenêtre de clés (ou déployez les open weights pour les modèles auto-hébergeables), assignez Mixtral 8x22B Instruct à un rôle Maestro dans l'onglet Pipeline, puis utilisez-le en chat, dans les Room Apps via invokeAI, ou dans vos propres applications.
Publié par Mistral le 17 avril 2024. Source : https://openrouter.ai/mistralai/mixtral-8x22b-instruct