GPT-3.5 Turbo 16k
El GPT-3.5 Turbo 16k de OpenAI es un modelo de chat. This model offers four times the context length of gpt-3.5-turbo, allowing it to support approximately 20 pages of text in a single request at a higher cost. Training data: up...
by OpenAI · ventana de contexto de 16K tokens
Ideal para
- chat y enrutamiento de baja latencia
- enrutamiento y triaje de solicitudes
- clasificación de texto
Formas de utilizar GPT-3.5 Turbo 16k en osFoundry
Conecten con su propia clave (BYOK)
Abran el diálogo de claves y peguen su clave de API de OpenAI. osFoundry detecta GPT-3.5 Turbo 16k automáticamente: asígnenlo a un rol de Maestro (router, direct, orchestrator o fallback) en la pestaña Pipeline y quedará activo en cada chat. Su clave, su cuenta de proveedor: sin recargo por tokens.
Úsenlo en una Room App
Las Room Apps declaran funciones de IA en su manifiesto y luego las invocan con invokeAI:
import { invokeAI } from '@osfoundry/app-sdk'
// 'summarize' is an AI feature declared in your app manifest.
const result = await invokeAI('summarize', userText)
Invóquenlo desde sus propias aplicaciones
Una vez que un modelo está integrado en su workspace, pueden alojarlo como API y consumirlo desde sus propios servicios, scripts o CI, fuera de osFoundry.
GPT-3.5 Turbo 16k frente a modelos similares
Licencia
Hosted — usage subject to provider terms — Modelo solo alojado: el uso se rige por los términos de API del proveedor. Aporten su propia clave del proveedor.
No se distribuyen los pesos; el uso está sujeto a los términos del proveedor.
Preguntas frecuentes sobre GPT-3.5 Turbo 16k
¿Cuánto cuesta GPT-3.5 Turbo 16k?
GPT-3.5 Turbo 16k se factura a $ 3.00 /1M por entrada y $ 4.00 /1M por salida. Aporten su propia clave de API de OpenAI: osFoundry traslada el precio del proveedor sin recargo.
¿Puedo utilizar GPT-3.5 Turbo 16k comercialmente?
El uso comercial está permitido con condiciones. Modelo solo alojado: el uso se rige por los términos de API del proveedor. Aporten su propia clave del proveedor. No se distribuyen los pesos; el uso está sujeto a los términos del proveedor.
¿Cuál es la ventana de contexto de GPT-3.5 Turbo 16k?
GPT-3.5 Turbo 16k admite una ventana de contexto de 16K tokens.
¿Puedo ejecutar GPT-3.5 Turbo 16k localmente?
No: GPT-3.5 Turbo 16k es solo alojado y se accede a través de la API de OpenAI.
¿En qué destaca GPT-3.5 Turbo 16k?
GPT-3.5 Turbo 16k es muy adecuado para chat y enrutamiento de baja latencia, enrutamiento y triaje de solicitudes, clasificación de texto.
¿Cómo se utiliza GPT-3.5 Turbo 16k en osFoundry?
Peguen su clave de API de OpenAI en el diálogo de claves (o desplieguen los pesos abiertos para modelos autoalojables), asignen GPT-3.5 Turbo 16k a un rol de Maestro en la pestaña Pipeline y úsenlo en chat, en Room Apps mediante invokeAI o en sus propias aplicaciones.
Publicado por OpenAI el 28 de agosto de 2023. Fuente: https://openrouter.ai/openai/gpt-3.5-turbo-16k