GPT-3.5 Turbo
OpenAIが開発したGPT-3.5 Turboは、チャットモデルです（16Kトークンのコンテキストウィンドウ対応）。GPT-3.5 Turbo is OpenAI's fastest model. It can understand and generate natural language or code, and is optimized for chat and traditional completion tasks.
Training data up to Sep 2021.
by OpenAI · 16Kトークンのコンテキストウィンドウ
得意な用途
- 低レイテンシのチャットとルーティング
- リクエストのルーティングとトリアージ
- テキスト分類
osFoundryでのGPT-3.5 Turboの使い方
ご自身のキーで接続（BYOK）
キーダイアログを開き、OpenAIのAPIキーを貼り付けるだけで、osFoundryがGPT-3.5 Turboを自動的に検出します。パイプラインタブでMaestroのロール（router、direct、orchestrator、fallback）に割り当てれば、すべてのチャットですぐに利用できます。ご自身のキー・ご自身のプロバイダーアカウントで、トークン手数料は一切上乗せしません。
Room Appで使う
Room Appはマニフェストで AI 機能を宣言し、invokeAIで呼び出します:
import { invokeAI } from '@osfoundry/app-sdk'
// 'summarize' is an AI feature declared in your app manifest.
const result = await invokeAI('summarize', userText)
ご自身のアプリから呼び出す
モデルをワークスペースに組み込めば、APIとしてホストして、osFoundryの外側にあるご自身のサービス・スクリプト・CIから呼び出すことができます。
GPT-3.5 Turboと類似モデルの比較
ライセンス
Hosted — usage subject to provider terms — ホスティング専用モデル — 利用はプロバイダーのAPI規約に従います。ご自身のプロバイダーキーをお持ちください。
重みは配布されません。利用はプロバイダー規約に従います。
GPT-3.5 Turboについてのよくある質問
GPT-3.5 Turboの料金はいくらですか？
GPT-3.5 Turboは入力 $ 0.500 /1M、出力 $ 1.50 /1Mの従量課金です。ご自身のOpenAI APIキーをお持ちいただければ、osFoundryはプロバイダー価格をそのまま反映し、上乗せはありません。
GPT-3.5 Turboを商用利用できますか？
条件付きで商用利用が許可されています。 ホスティング専用モデル — 利用はプロバイダーのAPI規約に従います。ご自身のプロバイダーキーをお持ちください。 重みは配布されません。利用はプロバイダー規約に従います。
GPT-3.5 Turboのコンテキストウィンドウはどれくらいですか？
GPT-3.5 Turboは16Kトークンのコンテキストウィンドウに対応しています。
GPT-3.5 Turboをローカルで実行できますか？
いいえ、GPT-3.5 Turboはホスティング専用で、OpenAI API経由でのみ利用できます。
GPT-3.5 Turboが最も得意なことは何ですか？
GPT-3.5 Turboは低レイテンシのチャットとルーティング, リクエストのルーティングとトリアージ, テキスト分類に適しています。
osFoundryでGPT-3.5 Turboをどう使えばよいですか？
キーダイアログでOpenAI APIキーを貼り付け（セルフホスト可能なモデルの場合はオープンウェイトをデプロイ）、パイプラインタブでGPT-3.5 TurboをMaestroのロールに割り当てれば、チャット、invokeAI経由のRoom App、ご自身のアプリから利用できます。
OpenAIにより公開（2023年5月28日）。 出典: https://openrouter.ai/openai/gpt-3.5-turbo