osFoundry / Platform
モデルプレイグラウンド
あらゆるモデルをサンドボックスのプロンプト→レスポンス画面でテスト。トークンとコストの完全な計上付き。
概要
Model playground は、プロンプトを入力してモデルを選び、応答とその正確なコストをその場で確認できる osFoundry 内のサンドボックスです。チャットやエージェント、自動ループにモデルを組み込む前に浮かぶ疑問に、最短で答えを出せます。このモデルは指示どおりに動くか。同じプロンプトで別のモデルと比べて出力はどうか。その回答は実際に何トークン消費し、いくらかかったのか。osFoundry は BYOK なので、表示されるコストはあなた自身のアカウントに対するプロバイダーの実価格であり、あなたとモデルの間に転売業者のマークアップが入り込むことはありません。
osFoundry の内側では、この playground はワークスペースの他の部分と同じモデル接続を利用します。そのため、接続済みのモデルであればすべてここで試せます。自分のマシンで動くローカルモデル、自分の API キーで到達するクラウドモデル、セルフホストのモデルのいずれもです。単一のプロンプトを送ると単一の応答が返り、その一往復のトークン計測、つまり入力側のプロンプトトークンと出力側の補完トークン、そしてそこから算出されたコストが画面に表示されます。これにより playground は、モデルを大規模に本番投入する前にプロンプトを仕上げ、リクエストあたりの本当の経済性を読み取る場になります。呼び出しごとのわずかな差は、実行回数のぶんだけ膨らむからです。
デスクトップかつローカルファーストのワークスペースであることは、ここで何を試せるかに直結します。自分のデバイス上で動くモデルに playground を向ければ、プロンプトも応答もマシンの外に出ないため、機密性の高いプロンプトや独自のプロンプトを第三者に渡すことなく反復できます。プロンプトから応答、コストという同じループは、モデルがローカルでもクラウドでもセルフホストでも同じように機能します。だからこそ、まったく異なるバックエンドどうしでも、品質と価格を一つの画面から正直に横並びで判断できるのです。
主な機能
- 接続済みの任意のモデル(ローカル、クラウド、セルフホスト)にプロンプトを送り、単一のサンドボックス画面で応答を読める
- 一往復ごとに入力側のプロンプトトークンと出力側の補完トークンを含む完全なトークン計測を確認できる
- 自分の BYOK プロバイダー価格に基づくリクエストあたりの実コストを、転売マークアップなしで取得できる
- 自分のデバイス上のローカルモデルに対してプロンプトを試せるため、機密性の高い入力がマシンの外に出ない
- チャットやエージェント、ループにモデルを組み込む前に、プロンプトの表現を詰めて本当のコストを測れる
活用例
- モデルを選ぶ開発者: 同じプロンプトをローカルモデルとクラウドモデルの両方で走らせ、採用前に出力品質とトークンコストを比較する
- プロンプトエンジニア: サンドボックスで表現を反復し、各改訂がトークン数とコストをどう変えるかを見ながら調整する
- プライバシーを重視するアナリスト: 機密データを含むプロンプトをローカルホストのモデルで試し、外部APIへ何も送らずに検証する
よくある質問
playground ではどのモデルを試せますか。
osFoundry で接続済みのモデルであれば何でも試せます。自分のマシンで動くローカルモデル、自分のAPIキーで到達するクラウドモデル、セルフホストのモデルが対象です。playground はワークスペースの他の部分と同じ接続を使うため、osFoundry の他の場所で使えるモデルはここでも試せます。
コストはどう計算されますか。マークアップはありますか。
コストはリクエストのトークン計測を、あなたのプロバイダー自身の価格に当てて算出します。osFoundry は BYOK なので支払いはプロバイダーへ直接行われ、上乗せの転売マークアップはありません。表示される数値は、あなたのアカウントでのその呼び出しの実価格を反映しています。
クラウドプロバイダーへデータを送らずに、プロンプトを非公開で試せますか。
はい。osFoundry はローカルファーストのデスクトップワークスペースです。自分のデバイス上で動くモデルに playground を向ければ、プロンプトも応答もマシン内にとどまり、外部サービスへは送られません。機密性の高いプロンプトや独自のプロンプトを反復するのに有用です。