GPT-3.5 Turbo
Realizzato da OpenAI, GPT-3.5 Turbo è un modello chat con una finestra di contesto da 16K token. GPT-3.5 Turbo is OpenAI's fastest model. It can understand and generate natural language or code, and is optimized for chat and traditional completion tasks.
Training data up to Sep 2021.
by OpenAI · finestra di contesto da 16K token
Ideale per
- chat e routing a bassa latenza
- instradamento e triage delle richieste
- classificazione di testo
Modi per utilizzare GPT-3.5 Turbo in osFoundry
Si colleghi con la sua chiave (BYOK)
Apra la finestra delle chiavi e incolli la sua API key OpenAI. osFoundry scopre GPT-3.5 Turbo automaticamente — lo assegni a un ruolo Maestro (router, direct, orchestrator o fallback) nella scheda Pipeline e sarà attivo in ogni chat. La sua chiave, il suo account provider — nessun ricarico sui token.
Lo utilizzi in una Room App
Le Room App dichiarano le funzionalità AI nel loro manifest e le richiamano con invokeAI:
import { invokeAI } from '@osfoundry/app-sdk'
// 'summarize' is an AI feature declared in your app manifest.
const result = await invokeAI('summarize', userText)
Lo richiami dalle sue applicazioni
Una volta integrato un modello nel suo workspace, può esporlo come API e raggiungerlo dai suoi servizi, script o pipeline CI — al di fuori di osFoundry.
GPT-3.5 Turbo a confronto con modelli simili
| Modello | Org | Parametri | Contesto | Prezzo input | Self-host |
|---|
| GPT-3.5 Turbo | OpenAI | — | 16K | $ 0.500 /1M | Solo API |
| MythoMax 13B | gryphe | — | 4K | $ 0.060 /1M | Solo API |
| ReMM SLERP 13B | undi95 | — | 6K | $ 0.450 /1M | Solo API |
| Weaver (alpha) | Mancer | — | 8K | $ 0.750 /1M | Solo API |
Licenza
Hosted — usage subject to provider terms — Modello solo in hosting — l'uso è regolato dai termini API del provider. Porti la sua chiave del provider.
Nessun peso distribuito; uso soggetto ai termini del provider.
Domande frequenti su GPT-3.5 Turbo
Quanto costa GPT-3.5 Turbo?
GPT-3.5 Turbo è tariffato a $ 0.500 /1M per l'input e $ 1.50 /1M per l'output. Porti la sua API key OpenAI — osFoundry applica i prezzi del provider senza ricarico.
Posso usare GPT-3.5 Turbo a scopo commerciale?
L'uso commerciale è consentito a determinate condizioni. Modello solo in hosting — l'uso è regolato dai termini API del provider. Porti la sua chiave del provider. Nessun peso distribuito; uso soggetto ai termini del provider.
Qual è la finestra di contesto di GPT-3.5 Turbo?
GPT-3.5 Turbo supporta una finestra di contesto da 16K token.
Posso eseguire GPT-3.5 Turbo localmente?
No — GPT-3.5 Turbo è disponibile solo in hosting e si accede tramite l'API di OpenAI.
In che cosa eccelle GPT-3.5 Turbo?
GPT-3.5 Turbo è particolarmente adatto a chat e routing a bassa latenza, instradamento e triage delle richieste, classificazione di testo.
Come utilizzo GPT-3.5 Turbo in osFoundry?
Incolli la sua API key OpenAI nella finestra delle chiavi (oppure distribuisca i pesi aperti per i modelli auto-ospitabili), assegni GPT-3.5 Turbo a un ruolo Maestro nella scheda Pipeline, quindi lo utilizzi in chat, nelle Room App tramite invokeAI o nelle sue applicazioni.
Pubblicato da OpenAI il 28 maggio 2023. Fonte: https://openrouter.ai/openai/gpt-3.5-turbo