Command R (08-2024)
O Command R (08-2024) da Cohere é um modelo de chat. command-r-08-2024 is an update of the [Command R](/models/cohere/command-r) with improved performance for multilingual retrieval-augmented generation (RAG) and tool use. More broadly, it is better at math, code and reasoning and...
by Cohere · janela de contexto de 128K tokens
Ideal para
- chat e roteamento de baixa latência
- roteamento e triagem de requisições
- classificação de texto
Como usar Command R (08-2024) no osFoundry
Conecte com sua própria chave (BYOK)
Abra o diálogo de chaves e cole sua chave de API da Cohere. O osFoundry descobre Command R (08-2024) automaticamente — atribua-o a um papel do Maestro (router, direct, orchestrator ou fallback) na aba Pipeline e ele estará ativo em cada chat. Sua chave, sua conta no provedor — sem markup sobre tokens.
Use em um Room App
Os Room Apps declaram recursos de IA em seus manifestos e os chamam com invokeAI:
import { invokeAI } from '@osfoundry/app-sdk'
// 'summarize' is an AI feature declared in your app manifest.
const result = await invokeAI('summarize', userText)
Chame a partir dos seus próprios apps
Uma vez que um modelo está conectado ao seu workspace, você pode hospedá-lo como uma API e acessá-lo a partir dos seus próprios serviços, scripts ou CI — fora do osFoundry.
Command R (08-2024) vs modelos semelhantes
Licença
Hosted — usage subject to provider terms — Modelo apenas hospedado — uso regido pelos termos de API do provedor. Use sua própria chave de provedor.
Sem distribuição de pesos; uso sujeito aos termos do provedor.
Perguntas frequentes sobre Command R (08-2024)
Quanto custa Command R (08-2024)?
Command R (08-2024) é cobrado a $ 0.150 /1M para entrada e $ 0.600 /1M para saída. Use sua própria chave de API da Cohere — o osFoundry repassa o preço do provedor sem markup.
Posso usar Command R (08-2024) comercialmente?
Uso comercial é permitido com condições. Modelo apenas hospedado — uso regido pelos termos de API do provedor. Use sua própria chave de provedor. Sem distribuição de pesos; uso sujeito aos termos do provedor.
Qual é a janela de contexto de Command R (08-2024)?
Command R (08-2024) suporta uma janela de contexto de 128K tokens.
Posso rodar Command R (08-2024) localmente?
Não — Command R (08-2024) é somente hospedado e acessado via API da Cohere.
Em que Command R (08-2024) é melhor?
Command R (08-2024) é bem adequado para chat e roteamento de baixa latência, roteamento e triagem de requisições, classificação de texto.
Como uso Command R (08-2024) no osFoundry?
Cole sua chave de API da Cohere no diálogo de chaves (ou implante os pesos abertos para modelos auto-hospedáveis), atribua Command R (08-2024) a um papel do Maestro na aba Pipeline e use-o em chats, em Room Apps via invokeAI ou nos seus próprios apps.
Publicado pela Cohere em 30 de agosto de 2024. Fonte: https://openrouter.ai/cohere/command-r-08-2024