GPT-3.5 Turbo
Созданная OpenAI, GPT-3.5 Turbo — это чат модель с контекстным окном 16K токенов. GPT-3.5 Turbo is OpenAI's fastest model. It can understand and generate natural language or code, and is optimized for chat and traditional completion tasks.
Training data up to Sep 2021.
by OpenAI · контекстное окно 16K токенов
Лучше всего подходит для
- чат и маршрутизация с низкой задержкой
- маршрутизация и сортировка запросов
- классификация текста
Способы использования GPT-3.5 Turbo в osFoundry
Подключите со своим ключом (BYOK)
Откройте диалог ключей и вставьте ваш API-ключ OpenAI. osFoundry автоматически обнаружит GPT-3.5 Turbo — назначьте её на роль Maestro (router, direct, orchestrator или fallback) во вкладке Pipeline, и она будет доступна в каждом чате. Ваш ключ, ваш аккаунт у провайдера — без наценки на токены.
Используйте в Room App
Room App объявляют функции ИИ в своём манифесте, а затем вызывают их через invokeAI:
import { invokeAI } from '@osfoundry/app-sdk'
// 'summarize' is an AI feature declared in your app manifest.
const result = await invokeAI('summarize', userText)
Вызывайте из своих приложений
После подключения модели к вашему рабочему пространству вы можете разместить её как API и обращаться к ней из своих сервисов, скриптов или CI — за пределами osFoundry.
GPT-3.5 Turbo в сравнении с похожими моделями
| Модель | Организация | Параметры | Контекст | Цена ввода | Самостоятельный хостинг |
|---|
| GPT-3.5 Turbo | OpenAI | — | 16K | $ 0.500 /1M | Только API |
| MythoMax 13B | gryphe | — | 4K | $ 0.060 /1M | Только API |
| ReMM SLERP 13B | undi95 | — | 6K | $ 0.450 /1M | Только API |
| Weaver (alpha) | Mancer | — | 8K | $ 0.750 /1M | Только API |
Лицензия
Hosted — usage subject to provider terms — Модель доступна только в хостинговом варианте — использование регулируется условиями API провайдера. Используйте собственный ключ провайдера.
Веса не распространяются; использование регулируется условиями провайдера.
Частые вопросы о GPT-3.5 Turbo
Сколько стоит GPT-3.5 Turbo?
GPT-3.5 Turbo тарифицируется по ставке $ 0.500 /1M за ввод и $ 1.50 /1M за вывод. Используйте свой API-ключ OpenAI — osFoundry передаёт цены провайдера без наценки.
Можно ли использовать GPT-3.5 Turbo в коммерческих целях?
Коммерческое использование разрешено с условиями. Модель доступна только в хостинговом варианте — использование регулируется условиями API провайдера. Используйте собственный ключ провайдера. Веса не распространяются; использование регулируется условиями провайдера.
Каково контекстное окно у GPT-3.5 Turbo?
GPT-3.5 Turbo поддерживает контекстное окно в 16K токенов.
Можно ли запустить GPT-3.5 Turbo локально?
Нет — GPT-3.5 Turbo доступна только в хостинговом варианте через API OpenAI.
В чём GPT-3.5 Turbo лучше всего?
GPT-3.5 Turbo хорошо подходит для чат и маршрутизация с низкой задержкой, маршрутизация и сортировка запросов, классификация текста.
Как использовать GPT-3.5 Turbo в osFoundry?
Вставьте свой API-ключ OpenAI в диалог ключей (или разверните открытые веса для моделей с возможностью самостоятельного хостинга), назначьте GPT-3.5 Turbo на роль Maestro во вкладке Pipeline, а затем используйте её в чате, в Room App через invokeAI или в собственных приложениях.
Опубликовано OpenAI 28 мая 2023 г.. Источник: https://openrouter.ai/openai/gpt-3.5-turbo