Magnum v4 72B
O Magnum v4 72B da anthracite-org é um modelo de chat. This is a series of models designed to replicate the prose quality of the Claude 3 models, specifically Sonnet(https://openrouter.ai/anthropic/claude-3.5-sonnet) and Opus(https://openrouter.ai/anthropic/claude-3-opus).
The model is fine-tuned on top of [Qwen2.5 72B](https://openrouter.ai/qwen/qwen-2.5-72b-instruct).
by anthracite-org · janela de contexto de 16K tokens
Ideal para
- chat e roteamento de baixa latência
- roteamento e triagem de requisições
- classificação de texto
Como usar Magnum v4 72B no osFoundry
Conecte com sua própria chave (BYOK)
Abra o diálogo de chaves e cole sua chave de API da anthracite-org. O osFoundry descobre Magnum v4 72B automaticamente — atribua-o a um papel do Maestro (router, direct, orchestrator ou fallback) na aba Pipeline e ele estará ativo em cada chat. Sua chave, sua conta no provedor — sem markup sobre tokens.
Use em um Room App
Os Room Apps declaram recursos de IA em seus manifestos e os chamam com invokeAI:
import { invokeAI } from '@osfoundry/app-sdk'
// 'summarize' is an AI feature declared in your app manifest.
const result = await invokeAI('summarize', userText)
Chame a partir dos seus próprios apps
Uma vez que um modelo está conectado ao seu workspace, você pode hospedá-lo como uma API e acessá-lo a partir dos seus próprios serviços, scripts ou CI — fora do osFoundry.
Execute Magnum v4 72B por conta própria
Magnum v4 72B também está disponível como open weights — auto-hospede para controle total dos dados e sem custo por token. Veja essa página para requisitos de GPU e uma comparação de custos com o preço da API.
Magnum v4 72B vs modelos semelhantes
Licença
Hosted — usage subject to provider terms — Modelo apenas hospedado — uso regido pelos termos de API do provedor. Use sua própria chave de provedor.
Sem distribuição de pesos; uso sujeito aos termos do provedor.
Perguntas frequentes sobre Magnum v4 72B
Quanto custa Magnum v4 72B?
Magnum v4 72B é cobrado a $ 3.00 /1M para entrada e $ 5.00 /1M para saída. Use sua própria chave de API da anthracite-org — o osFoundry repassa o preço do provedor sem markup.
Posso usar Magnum v4 72B comercialmente?
Uso comercial é permitido com condições. Modelo apenas hospedado — uso regido pelos termos de API do provedor. Use sua própria chave de provedor. Sem distribuição de pesos; uso sujeito aos termos do provedor.
Qual é a janela de contexto de Magnum v4 72B?
Magnum v4 72B suporta uma janela de contexto de 16K tokens.
Posso rodar Magnum v4 72B localmente?
Não — Magnum v4 72B é somente hospedado e acessado via API da anthracite-org. Há um equivalente open-weights disponível para auto-hospedagem — veja o link cruzado acima.
Em que Magnum v4 72B é melhor?
Magnum v4 72B é bem adequado para chat e roteamento de baixa latência, roteamento e triagem de requisições, classificação de texto.
Como uso Magnum v4 72B no osFoundry?
Cole sua chave de API da anthracite-org no diálogo de chaves (ou implante os pesos abertos para modelos auto-hospedáveis), atribua Magnum v4 72B a um papel do Maestro na aba Pipeline e use-o em chats, em Room Apps via invokeAI ou nos seus próprios apps.
Publicado pela anthracite-org em 22 de outubro de 2024. Fonte: https://openrouter.ai/anthracite-org/magnum-v4-72b