Mistral 7B Instruct v0.1
Mistral 7B Instruct v0.1 es un modelo de chat de Mistral, publicado el 28 de septiembre de 2023. A 7.3B parameter model that outperforms Llama 2 13B on all benchmarks, with optimizations for speed and context length.
by Mistral · ventana de contexto de 3K tokens
Ideal para
- chat y enrutamiento de baja latencia
- enrutamiento y triaje de solicitudes
- clasificación de texto
Formas de utilizar Mistral 7B Instruct v0.1 en osFoundry
Conecten con su propia clave (BYOK)
Abran el diálogo de claves y peguen su clave de API de Mistral. osFoundry detecta Mistral 7B Instruct v0.1 automáticamente: asígnenlo a un rol de Maestro (router, direct, orchestrator o fallback) en la pestaña Pipeline y quedará activo en cada chat. Su clave, su cuenta de proveedor: sin recargo por tokens.
Úsenlo en una Room App
Las Room Apps declaran funciones de IA en su manifiesto y luego las invocan con invokeAI:
import { invokeAI } from '@osfoundry/app-sdk'
// 'summarize' is an AI feature declared in your app manifest.
const result = await invokeAI('summarize', userText)
Invóquenlo desde sus propias aplicaciones
Una vez que un modelo está integrado en su workspace, pueden alojarlo como API y consumirlo desde sus propios servicios, scripts o CI, fuera de osFoundry.
Ejecuten Mistral 7B Instruct v0.1 ustedes mismos
Mistral 7B Instruct v0.1 también está disponible como pesos abiertos: aloja tú mismo el modelo para tener control total de los datos y sin coste por token. Consulten esa página para conocer los requisitos de GPU y una comparativa de costes frente al precio de la API.
Mistral 7B Instruct v0.1 frente a modelos similares
| Modelo | Organización | Parámetros | Contexto | Precio de entrada | Autoalojamiento |
|---|
| Mistral 7B Instruct v0.1 | Mistral | — | 3K | $ 0.110 /1M | Solo API |
| GPT-4 Turbo (older v1106) | OpenAI | — | 128K | $ 10.00 /1M | Solo API |
| Weaver (alpha) | Mancer | — | 8K | $ 0.750 /1M | Solo API |
| Mistral Large | mistralai | — | 128K | $ 2.00 /1M | Solo API |
Licencia
Hosted — usage subject to provider terms — Modelo solo alojado: el uso se rige por los términos de API del proveedor. Aporten su propia clave del proveedor.
No se distribuyen los pesos; el uso está sujeto a los términos del proveedor.
Preguntas frecuentes sobre Mistral 7B Instruct v0.1
¿Cuánto cuesta Mistral 7B Instruct v0.1?
Mistral 7B Instruct v0.1 se factura a $ 0.110 /1M por entrada y $ 0.190 /1M por salida. Aporten su propia clave de API de Mistral: osFoundry traslada el precio del proveedor sin recargo.
¿Puedo utilizar Mistral 7B Instruct v0.1 comercialmente?
El uso comercial está permitido con condiciones. Modelo solo alojado: el uso se rige por los términos de API del proveedor. Aporten su propia clave del proveedor. No se distribuyen los pesos; el uso está sujeto a los términos del proveedor.
¿Cuál es la ventana de contexto de Mistral 7B Instruct v0.1?
Mistral 7B Instruct v0.1 admite una ventana de contexto de 3K tokens.
¿Puedo ejecutar Mistral 7B Instruct v0.1 localmente?
No: Mistral 7B Instruct v0.1 es solo alojado y se accede a través de la API de Mistral. Existe un equivalente de pesos abiertos para autoalojar: consulten el enlace cruzado de arriba.
¿En qué destaca Mistral 7B Instruct v0.1?
Mistral 7B Instruct v0.1 es muy adecuado para chat y enrutamiento de baja latencia, enrutamiento y triaje de solicitudes, clasificación de texto.
¿Cómo se utiliza Mistral 7B Instruct v0.1 en osFoundry?
Peguen su clave de API de Mistral en el diálogo de claves (o desplieguen los pesos abiertos para modelos autoalojables), asignen Mistral 7B Instruct v0.1 a un rol de Maestro en la pestaña Pipeline y úsenlo en chat, en Room Apps mediante invokeAI o en sus propias aplicaciones.
Publicado por Mistral el 28 de septiembre de 2023. Fuente: https://openrouter.ai/mistralai/mistral-7b-instruct-v0.1