GPT-3.5 Turbo
Dibangun oleh OpenAI, GPT-3.5 Turbo adalah sebuah model chat dengan context window 16K token. GPT-3.5 Turbo is OpenAI's fastest model. It can understand and generate natural language or code, and is optimized for chat and traditional completion tasks.
Training data up to Sep 2021.
by OpenAI · context window 16K token
Paling cocok untuk
- chat dan routing latensi rendah
- routing dan triase permintaan
- klasifikasi teks
Cara menggunakan GPT-3.5 Turbo di osFoundry
Hubungkan dengan key Anda sendiri (BYOK)
Buka dialog key dan tempelkan API key OpenAI Anda. osFoundry menemukan GPT-3.5 Turbo secara otomatis — tetapkan ke peran Maestro (router, direct, orchestrator, atau fallback) di tab Pipeline dan model ini langsung aktif di setiap chat. Key Anda, akun provider Anda — tanpa markup token.
Gunakan di Room App
Room App mendeklarasikan fitur AI di manifest mereka, lalu memanggilnya dengan invokeAI:
import { invokeAI } from '@osfoundry/app-sdk'
// 'summarize' is an AI feature declared in your app manifest.
const result = await invokeAI('summarize', userText)
Panggil dari aplikasi Anda sendiri
Setelah sebuah model terhubung ke workspace Anda, Anda dapat meng-host-nya sebagai API dan mengaksesnya dari layanan, skrip, atau CI Anda sendiri — di luar osFoundry.
GPT-3.5 Turbo vs model serupa
| Model | Org | Parameter | Context | Harga input | Self-host |
|---|
| GPT-3.5 Turbo | OpenAI | — | 16K | $ 0.500 /1M | Hanya API |
| MythoMax 13B | gryphe | — | 4K | $ 0.060 /1M | Hanya API |
| ReMM SLERP 13B | undi95 | — | 6K | $ 0.450 /1M | Hanya API |
| Weaver (alpha) | Mancer | — | 8K | $ 0.750 /1M | Hanya API |
Lisensi
Hosted — usage subject to provider terms — Model ter-host saja — penggunaan diatur oleh ketentuan API provider. Bawa key provider Anda sendiri.
Tidak ada weights yang didistribusikan; penggunaan tunduk pada ketentuan provider.
Pertanyaan umum tentang GPT-3.5 Turbo
Berapa biaya GPT-3.5 Turbo?
GPT-3.5 Turbo dikenakan biaya $ 0.500 /1M untuk input, dan $ 1.50 /1M untuk output. Bawa API key OpenAI Anda sendiri — osFoundry meneruskan harga provider tanpa markup.
Bisakah saya menggunakan GPT-3.5 Turbo secara komersial?
Penggunaan komersial diizinkan dengan syarat. Model ter-host saja — penggunaan diatur oleh ketentuan API provider. Bawa key provider Anda sendiri. Tidak ada weights yang didistribusikan; penggunaan tunduk pada ketentuan provider.
Berapa context window dari GPT-3.5 Turbo?
GPT-3.5 Turbo mendukung context window 16K token.
Bisakah saya menjalankan GPT-3.5 Turbo secara lokal?
Tidak — GPT-3.5 Turbo hanya ter-host dan diakses melalui API OpenAI.
Apa keunggulan utama GPT-3.5 Turbo?
GPT-3.5 Turbo sangat cocok untuk chat dan routing latensi rendah, routing dan triase permintaan, klasifikasi teks.
Bagaimana cara menggunakan GPT-3.5 Turbo di osFoundry?
Tempelkan API key OpenAI Anda di dialog key (atau deploy open weights untuk model yang dapat di-self-host), tetapkan GPT-3.5 Turbo ke peran Maestro di tab Pipeline, lalu gunakan di chat, di Room App via invokeAI, atau di aplikasi Anda sendiri.
Diterbitkan oleh OpenAI pada 28 Mei 2023. Sumber: https://openrouter.ai/openai/gpt-3.5-turbo