GPT-4
Desenvolvido pela OpenAI, GPT-4 é um modelo de chat com janela de contexto de 8K tokens. OpenAI's flagship model, GPT-4 is a large-scale multimodal language model capable of solving difficult problems with greater accuracy than previous models due to its broader general knowledge and advanced reasoning...
by OpenAI · janela de contexto de 8K tokens
Ideal para
- chat e roteamento de baixa latência
- roteamento e triagem de requisições
- classificação de texto
Como usar GPT-4 no osFoundry
Conecte com sua própria chave (BYOK)
Abra o diálogo de chaves e cole sua chave de API da OpenAI. O osFoundry descobre GPT-4 automaticamente — atribua-o a um papel do Maestro (router, direct, orchestrator ou fallback) na aba Pipeline e ele estará ativo em cada chat. Sua chave, sua conta no provedor — sem markup sobre tokens.
Use em um Room App
Os Room Apps declaram recursos de IA em seus manifestos e os chamam com invokeAI:
import { invokeAI } from '@osfoundry/app-sdk'
// 'summarize' is an AI feature declared in your app manifest.
const result = await invokeAI('summarize', userText)
Chame a partir dos seus próprios apps
Uma vez que um modelo está conectado ao seu workspace, você pode hospedá-lo como uma API e acessá-lo a partir dos seus próprios serviços, scripts ou CI — fora do osFoundry.
GPT-4 vs modelos semelhantes
| Modelo | Organização | Parâmetros | Contexto | Preço de entrada | Auto-hospedado |
|---|
| GPT-4 | OpenAI | — | 8K | $ 30.00 /1M | Apenas API |
| MythoMax 13B | gryphe | — | 4K | $ 0.060 /1M | Apenas API |
| ReMM SLERP 13B | undi95 | — | 6K | $ 0.450 /1M | Apenas API |
| Weaver (alpha) | Mancer | — | 8K | $ 0.750 /1M | Apenas API |
Licença
Hosted — usage subject to provider terms — Modelo apenas hospedado — uso regido pelos termos de API do provedor. Use sua própria chave de provedor.
Sem distribuição de pesos; uso sujeito aos termos do provedor.
Perguntas frequentes sobre GPT-4
Quanto custa GPT-4?
GPT-4 é cobrado a $ 30.00 /1M para entrada e $ 60.00 /1M para saída. Use sua própria chave de API da OpenAI — o osFoundry repassa o preço do provedor sem markup.
Posso usar GPT-4 comercialmente?
Uso comercial é permitido com condições. Modelo apenas hospedado — uso regido pelos termos de API do provedor. Use sua própria chave de provedor. Sem distribuição de pesos; uso sujeito aos termos do provedor.
Qual é a janela de contexto de GPT-4?
GPT-4 suporta uma janela de contexto de 8K tokens.
Posso rodar GPT-4 localmente?
Não — GPT-4 é somente hospedado e acessado via API da OpenAI.
Em que GPT-4 é melhor?
GPT-4 é bem adequado para chat e roteamento de baixa latência, roteamento e triagem de requisições, classificação de texto.
Como uso GPT-4 no osFoundry?
Cole sua chave de API da OpenAI no diálogo de chaves (ou implante os pesos abertos para modelos auto-hospedáveis), atribua GPT-4 a um papel do Maestro na aba Pipeline e use-o em chats, em Room Apps via invokeAI ou nos seus próprios apps.
Publicado pela OpenAI em 28 de maio de 2023. Fonte: https://openrouter.ai/openai/gpt-4