GPT-3.5 Turbo (older v0613)
Выпущенная OpenAI в 2024 году, GPT-3.5 Turbo (older v0613) — это чат модель. GPT-3.5 Turbo is OpenAI's fastest model. It can understand and generate natural language or code, and is optimized for chat and traditional completion tasks.
Training data up to Sep 2021.
by OpenAI · контекстное окно 4K токенов
Лучше всего подходит для
- чат и маршрутизация с низкой задержкой
- маршрутизация и сортировка запросов
- классификация текста
Способы использования GPT-3.5 Turbo (older v0613) в osFoundry
Подключите со своим ключом (BYOK)
Откройте диалог ключей и вставьте ваш API-ключ OpenAI. osFoundry автоматически обнаружит GPT-3.5 Turbo (older v0613) — назначьте её на роль Maestro (router, direct, orchestrator или fallback) во вкладке Pipeline, и она будет доступна в каждом чате. Ваш ключ, ваш аккаунт у провайдера — без наценки на токены.
Используйте в Room App
Room App объявляют функции ИИ в своём манифесте, а затем вызывают их через invokeAI:
import { invokeAI } from '@osfoundry/app-sdk'
// 'summarize' is an AI feature declared in your app manifest.
const result = await invokeAI('summarize', userText)
Вызывайте из своих приложений
После подключения модели к вашему рабочему пространству вы можете разместить её как API и обращаться к ней из своих сервисов, скриптов или CI — за пределами osFoundry.
GPT-3.5 Turbo (older v0613) в сравнении с похожими моделями
| Модель | Организация | Параметры | Контекст | Цена ввода | Самостоятельный хостинг |
|---|
| GPT-3.5 Turbo (older v0613) | OpenAI | — | 4K | $ 1.00 /1M | Только API |
| Mistral Large | mistralai | — | 128K | $ 2.00 /1M | Только API |
| WizardLM-2 8x22B | microsoft | — | 66K | $ 0.620 /1M | Только API |
| Mixtral 8x22B Instruct | Mistral | — | 66K | $ 2.00 /1M | Только API |
Лицензия
Hosted — usage subject to provider terms — Модель доступна только в хостинговом варианте — использование регулируется условиями API провайдера. Используйте собственный ключ провайдера.
Веса не распространяются; использование регулируется условиями провайдера.
Частые вопросы о GPT-3.5 Turbo (older v0613)
Сколько стоит GPT-3.5 Turbo (older v0613)?
GPT-3.5 Turbo (older v0613) тарифицируется по ставке $ 1.00 /1M за ввод и $ 2.00 /1M за вывод. Используйте свой API-ключ OpenAI — osFoundry передаёт цены провайдера без наценки.
Можно ли использовать GPT-3.5 Turbo (older v0613) в коммерческих целях?
Коммерческое использование разрешено с условиями. Модель доступна только в хостинговом варианте — использование регулируется условиями API провайдера. Используйте собственный ключ провайдера. Веса не распространяются; использование регулируется условиями провайдера.
Каково контекстное окно у GPT-3.5 Turbo (older v0613)?
GPT-3.5 Turbo (older v0613) поддерживает контекстное окно в 4K токенов.
Можно ли запустить GPT-3.5 Turbo (older v0613) локально?
Нет — GPT-3.5 Turbo (older v0613) доступна только в хостинговом варианте через API OpenAI.
В чём GPT-3.5 Turbo (older v0613) лучше всего?
GPT-3.5 Turbo (older v0613) хорошо подходит для чат и маршрутизация с низкой задержкой, маршрутизация и сортировка запросов, классификация текста.
Как использовать GPT-3.5 Turbo (older v0613) в osFoundry?
Вставьте свой API-ключ OpenAI в диалог ключей (или разверните открытые веса для моделей с возможностью самостоятельного хостинга), назначьте GPT-3.5 Turbo (older v0613) на роль Maestro во вкладке Pipeline, а затем используйте её в чате, в Room App через invokeAI или в собственных приложениях.
Опубликовано OpenAI 25 января 2024 г.. Источник: https://openrouter.ai/openai/gpt-3.5-turbo-0613