Llama 3 Euryale 70B v2.1
Desarrollado por Sao10k, Llama 3 Euryale 70B v2.1 es un modelo de chat con una ventana de contexto de 8K tokens. Euryale 70B v2.1 is a model focused on creative roleplay from [Sao10k](https://ko-fi.com/sao10k). - Better prompt adherence. - Better anatomy / spatial awareness. - Adapts much better to unique and custom...
by Sao10k · ventana de contexto de 8K tokens
Ideal para
- chat y enrutamiento de baja latencia
- enrutamiento y triaje de solicitudes
- clasificación de texto
Formas de utilizar Llama 3 Euryale 70B v2.1 en osFoundry
Conecten con su propia clave (BYOK)
Abran el diálogo de claves y peguen su clave de API de Sao10k. osFoundry detecta Llama 3 Euryale 70B v2.1 automáticamente: asígnenlo a un rol de Maestro (router, direct, orchestrator o fallback) en la pestaña Pipeline y quedará activo en cada chat. Su clave, su cuenta de proveedor: sin recargo por tokens.
Úsenlo en una Room App
Las Room Apps declaran funciones de IA en su manifiesto y luego las invocan con invokeAI:
import { invokeAI } from '@osfoundry/app-sdk'
// 'summarize' is an AI feature declared in your app manifest.
const result = await invokeAI('summarize', userText)
Invóquenlo desde sus propias aplicaciones
Una vez que un modelo está integrado en su workspace, pueden alojarlo como API y consumirlo desde sus propios servicios, scripts o CI, fuera de osFoundry.
Ejecuten Llama 3 Euryale 70B v2.1 ustedes mismos
Llama 3 Euryale 70B v2.1 también está disponible como pesos abiertos: aloja tú mismo el modelo para tener control total de los datos y sin coste por token. Consulten esa página para conocer los requisitos de GPU y una comparativa de costes frente al precio de la API.
Llama 3 Euryale 70B v2.1 frente a modelos similares
| Modelo | Organización | Parámetros | Contexto | Precio de entrada | Autoalojamiento |
|---|
| Llama 3 Euryale 70B v2.1 | Sao10k | — | 8K | $ 1.48 /1M | Solo API |
| Gemma 2 27B | Google | — | 8K | $ 0.650 /1M | Solo API |
| Hermes 2 Pro - Llama-3 8B | NousResearch | — | 8K | $ 0.140 /1M | Solo API |
| Mistral Nemo | Mistral | — | 131K | $ 0.020 /1M | Solo API |
Licencia
Hosted — usage subject to provider terms — Modelo solo alojado: el uso se rige por los términos de API del proveedor. Aporten su propia clave del proveedor.
No se distribuyen los pesos; el uso está sujeto a los términos del proveedor.
Preguntas frecuentes sobre Llama 3 Euryale 70B v2.1
¿Cuánto cuesta Llama 3 Euryale 70B v2.1?
Llama 3 Euryale 70B v2.1 se factura a $ 1.48 /1M por entrada y $ 1.48 /1M por salida. Aporten su propia clave de API de Sao10k: osFoundry traslada el precio del proveedor sin recargo.
¿Puedo utilizar Llama 3 Euryale 70B v2.1 comercialmente?
El uso comercial está permitido con condiciones. Modelo solo alojado: el uso se rige por los términos de API del proveedor. Aporten su propia clave del proveedor. No se distribuyen los pesos; el uso está sujeto a los términos del proveedor.
¿Cuál es la ventana de contexto de Llama 3 Euryale 70B v2.1?
Llama 3 Euryale 70B v2.1 admite una ventana de contexto de 8K tokens.
¿Puedo ejecutar Llama 3 Euryale 70B v2.1 localmente?
No: Llama 3 Euryale 70B v2.1 es solo alojado y se accede a través de la API de Sao10k. Existe un equivalente de pesos abiertos para autoalojar: consulten el enlace cruzado de arriba.
¿En qué destaca Llama 3 Euryale 70B v2.1?
Llama 3 Euryale 70B v2.1 es muy adecuado para chat y enrutamiento de baja latencia, enrutamiento y triaje de solicitudes, clasificación de texto.
¿Cómo se utiliza Llama 3 Euryale 70B v2.1 en osFoundry?
Peguen su clave de API de Sao10k en el diálogo de claves (o desplieguen los pesos abiertos para modelos autoalojables), asignen Llama 3 Euryale 70B v2.1 a un rol de Maestro en la pestaña Pipeline y úsenlo en chat, en Room Apps mediante invokeAI o en sus propias aplicaciones.
Publicado por Sao10k el 18 de junio de 2024. Fuente: https://openrouter.ai/sao10k/l3-euryale-70b