Llama 3.1 Euryale 70B v2.2
O Llama 3.1 Euryale 70B v2.2 da Sao10K é um modelo de chat. Euryale L3.1 70B v2.2 is a model focused on creative roleplay from [Sao10k](https://ko-fi.com/sao10k). It is the successor of [Euryale L3 70B v2.1](/models/sao10k/l3-euryale-70b).
by Sao10K · janela de contexto de 131K tokens
Ideal para
- chat e roteamento de baixa latência
- roteamento e triagem de requisições
- classificação de texto
Como usar Llama 3.1 Euryale 70B v2.2 no osFoundry
Conecte com sua própria chave (BYOK)
Abra o diálogo de chaves e cole sua chave de API da Sao10K. O osFoundry descobre Llama 3.1 Euryale 70B v2.2 automaticamente — atribua-o a um papel do Maestro (router, direct, orchestrator ou fallback) na aba Pipeline e ele estará ativo em cada chat. Sua chave, sua conta no provedor — sem markup sobre tokens.
Use em um Room App
Os Room Apps declaram recursos de IA em seus manifestos e os chamam com invokeAI:
import { invokeAI } from '@osfoundry/app-sdk'
// 'summarize' is an AI feature declared in your app manifest.
const result = await invokeAI('summarize', userText)
Chame a partir dos seus próprios apps
Uma vez que um modelo está conectado ao seu workspace, você pode hospedá-lo como uma API e acessá-lo a partir dos seus próprios serviços, scripts ou CI — fora do osFoundry.
Execute Llama 3.1 Euryale 70B v2.2 por conta própria
Llama 3.1 Euryale 70B v2.2 também está disponível como open weights — auto-hospede para controle total dos dados e sem custo por token. Veja essa página para requisitos de GPU e uma comparação de custos com o preço da API.
Llama 3.1 Euryale 70B v2.2 vs modelos semelhantes
Licença
Hosted — usage subject to provider terms — Modelo apenas hospedado — uso regido pelos termos de API do provedor. Use sua própria chave de provedor.
Sem distribuição de pesos; uso sujeito aos termos do provedor.
Perguntas frequentes sobre Llama 3.1 Euryale 70B v2.2
Quanto custa Llama 3.1 Euryale 70B v2.2?
Llama 3.1 Euryale 70B v2.2 é cobrado a $ 0.850 /1M para entrada e $ 0.850 /1M para saída. Use sua própria chave de API da Sao10K — o osFoundry repassa o preço do provedor sem markup.
Posso usar Llama 3.1 Euryale 70B v2.2 comercialmente?
Uso comercial é permitido com condições. Modelo apenas hospedado — uso regido pelos termos de API do provedor. Use sua própria chave de provedor. Sem distribuição de pesos; uso sujeito aos termos do provedor.
Qual é a janela de contexto de Llama 3.1 Euryale 70B v2.2?
Llama 3.1 Euryale 70B v2.2 suporta uma janela de contexto de 131K tokens.
Posso rodar Llama 3.1 Euryale 70B v2.2 localmente?
Não — Llama 3.1 Euryale 70B v2.2 é somente hospedado e acessado via API da Sao10K. Há um equivalente open-weights disponível para auto-hospedagem — veja o link cruzado acima.
Em que Llama 3.1 Euryale 70B v2.2 é melhor?
Llama 3.1 Euryale 70B v2.2 é bem adequado para chat e roteamento de baixa latência, roteamento e triagem de requisições, classificação de texto.
Como uso Llama 3.1 Euryale 70B v2.2 no osFoundry?
Cole sua chave de API da Sao10K no diálogo de chaves (ou implante os pesos abertos para modelos auto-hospedáveis), atribua Llama 3.1 Euryale 70B v2.2 a um papel do Maestro na aba Pipeline e use-o em chats, em Room Apps via invokeAI ou nos seus próprios apps.
Publicado pela Sao10K em 28 de agosto de 2024. Fonte: https://openrouter.ai/sao10k/l3.1-euryale-70b