GPT-3.5 Turbo
Desarrollado por OpenAI, GPT-3.5 Turbo es un modelo de chat con una ventana de contexto de 16K tokens. GPT-3.5 Turbo is OpenAI's fastest model. It can understand and generate natural language or code, and is optimized for chat and traditional completion tasks.
Training data up to Sep 2021.
by OpenAI · ventana de contexto de 16K tokens
Ideal para
- chat y enrutamiento de baja latencia
- enrutamiento y triaje de solicitudes
- clasificación de texto
Formas de utilizar GPT-3.5 Turbo en osFoundry
Conecten con su propia clave (BYOK)
Abran el diálogo de claves y peguen su clave de API de OpenAI. osFoundry detecta GPT-3.5 Turbo automáticamente: asígnenlo a un rol de Maestro (router, direct, orchestrator o fallback) en la pestaña Pipeline y quedará activo en cada chat. Su clave, su cuenta de proveedor: sin recargo por tokens.
Úsenlo en una Room App
Las Room Apps declaran funciones de IA en su manifiesto y luego las invocan con invokeAI:
import { invokeAI } from '@osfoundry/app-sdk'
// 'summarize' is an AI feature declared in your app manifest.
const result = await invokeAI('summarize', userText)
Invóquenlo desde sus propias aplicaciones
Una vez que un modelo está integrado en su workspace, pueden alojarlo como API y consumirlo desde sus propios servicios, scripts o CI, fuera de osFoundry.
GPT-3.5 Turbo frente a modelos similares
| Modelo | Organización | Parámetros | Contexto | Precio de entrada | Autoalojamiento |
|---|
| GPT-3.5 Turbo | OpenAI | — | 16K | $ 0.500 /1M | Solo API |
| MythoMax 13B | gryphe | — | 4K | $ 0.060 /1M | Solo API |
| ReMM SLERP 13B | undi95 | — | 6K | $ 0.450 /1M | Solo API |
| Weaver (alpha) | Mancer | — | 8K | $ 0.750 /1M | Solo API |
Licencia
Hosted — usage subject to provider terms — Modelo solo alojado: el uso se rige por los términos de API del proveedor. Aporten su propia clave del proveedor.
No se distribuyen los pesos; el uso está sujeto a los términos del proveedor.
Preguntas frecuentes sobre GPT-3.5 Turbo
¿Cuánto cuesta GPT-3.5 Turbo?
GPT-3.5 Turbo se factura a $ 0.500 /1M por entrada y $ 1.50 /1M por salida. Aporten su propia clave de API de OpenAI: osFoundry traslada el precio del proveedor sin recargo.
¿Puedo utilizar GPT-3.5 Turbo comercialmente?
El uso comercial está permitido con condiciones. Modelo solo alojado: el uso se rige por los términos de API del proveedor. Aporten su propia clave del proveedor. No se distribuyen los pesos; el uso está sujeto a los términos del proveedor.
¿Cuál es la ventana de contexto de GPT-3.5 Turbo?
GPT-3.5 Turbo admite una ventana de contexto de 16K tokens.
¿Puedo ejecutar GPT-3.5 Turbo localmente?
No: GPT-3.5 Turbo es solo alojado y se accede a través de la API de OpenAI.
¿En qué destaca GPT-3.5 Turbo?
GPT-3.5 Turbo es muy adecuado para chat y enrutamiento de baja latencia, enrutamiento y triaje de solicitudes, clasificación de texto.
¿Cómo se utiliza GPT-3.5 Turbo en osFoundry?
Peguen su clave de API de OpenAI en el diálogo de claves (o desplieguen los pesos abiertos para modelos autoalojables), asignen GPT-3.5 Turbo a un rol de Maestro en la pestaña Pipeline y úsenlo en chat, en Room Apps mediante invokeAI o en sus propias aplicaciones.
Publicado por OpenAI el 28 de mayo de 2023. Fuente: https://openrouter.ai/openai/gpt-3.5-turbo