osFoundry / Platform
クラウドGPU
A100 / H100 / L40インスタンスをプラットフォームから直接レンタル。時間課金、契約期間なし。
概要
Cloud GPUは、A100やH100、L40クラスのNVIDIAアクセラレータインスタンスをosFoundryの中から直接レンタルし、時間単位で支払う機能です。契約も予約容量のコミットもありません。クラウドアカウントを開設してGPUの割り当てを申請し、ドライバやCUDAを自分で組み上げる代わりに、インスタンスピッカーを開いてVRAMとリージョンからGPUを選ぶと、プラットフォームがそのインスタンスを用意します。使い終えたら解放すれば、そこで課金が止まります。
osFoundryの中では、同じレンタルGPUが追加の設定なしで三つのワークフローを支えます。マネージドなファインチューニングジョブを実行することも、実験用にGPU付きのノートブックを立ち上げることも、リクエストに応じてクラウドGPUを確保するオートスケールのエンドポイントとしてモデルをデプロイすることもできます。インスタンスピッカーは価格をハードコードした表からではなくサーバーからリアルタイムに取得するため、GPUの種類、メモリ、vCPU、RAM、推定コールドスタート時間とともに表示される時間単価が、そのまま実際に請求される単価になります。実際の価格を読み込めない場合、プラットフォームは守れない金額を提示するのではなく、選択肢を何も表示しません。
これが重要なのは、GPUの利用時間は高価で、しかも起動したまま忘れやすいからです。確保時に始まり解放時に終わる時間課金には最低利用期間がなく、5分の実験は安く済み、放置したインスタンスのコストは目に見える形で残ります。osFoundryはローカルファーストなので、小さなジョブは手元のデバイスGPUで無料のまま実行でき、モデルが自分のマシンの持つVRAMを本当に超えて必要とするときにだけ、レンタルのA100やH100に手を伸ばせばよいのです。これはワークスペースの他の部分と同じ姿勢に立っています。鍵はあなたが持ち、データは可能な限り手元に置き、有料のインフラはあなたが選んだときにだけ動きます。
主な機能
- A100、H100、L40クラスのNVIDIA GPUインスタンスを必要なときにレンタルできます。割り当て申請も調達手続きも予約容量の契約もありません
- 時間単位で支払い、課金はインスタンスの確保時に始まり解放時に止まります。解約すべきものはなく、最低利用期間もありません
- GPUの種類、VRAM、vCPU、RAM、リージョン、推定コールドスタート時間を、サーバー価格のリアルタイム一覧で確認してから契約を確定できます
- 同じレンタルGPUを、ファインチューニングジョブ、Jupyter形式のノートブック、オートスケールのモデルエンドポイントに、すべて一つのワークスペースから利用できます
- 小さなジョブは手元のハードウェアで無料のまま実行でき、デバイスGPUの利用に費用はかかりません。手持ちのVRAMではモデルが足りないときにだけクラウドGPUを使えばよいのです
活用例
- MLエンジニア：ノートPCに載らない13Bモデルを、学習の実行時間だけH100をレンタルしてファインチューニングし、ジョブが終わった瞬間に解放する
- 研究者：A100上のGPUノートブックを開いて午後いっぱい実験し、事前のアカウント作成も割り当て申請もなしに、インスタンスが起動していた時間分だけ支払う
- プロダクトチーム：L40クラスのGPU上にモデルをオートスケールのエンドポイントとしてデプロイし、リクエスト量の増減に合わせてプラットフォームが容量を時間単位で確保し課金する
よくある質問
どのGPUをレンタルでき、料金はいくらですか
A100、H100、L40クラスのNVIDIAインスタンスをレンタルできます。料金は時間単位で、インスタンスピッカーの中にリアルタイムで配信され、各GPUの種類、VRAM、vCPU、RAM、リージョン、推定コールドスタート時間が表示されます。osFoundryはアプリ内に固定の価格表をあえて掲載していません。請求される単価は、あなたが選んだ時点でサーバーが提示する単価そのものだからです。お住まいのリージョンの現在の時間単価は、リアルタイムのピッカーで確認してください。
時間課金はどう動きますか。契約はありますか
契約も予約も最低利用期間もありません。課金はインスタンスの確保時に始まり解放時に止まるため、短い実験は1時間のごく一部の費用で済み、解約すべきものもありません。ただし、エンドポイントをデプロイすると、モデルが完全に立ち上がる前であってもGPUが起動した時点で確保と課金が始まります。使わなくなったインスタンスは解放してください。
クラウドGPUは必ず使わなければなりませんか。ローカルでモデルを動かせますか
手元のデバイスGPUで無料でモデルを動かせます。osFoundryはローカルファーストで、ローカルでの学習と推論にクラウドクレジットは使いません。クラウドGPUは、モデルが自分のマシンのVRAMを超えて必要とするときや、ファインチューニングのジョブや配信中のエンドポイントに専用のアクセラレータ容量を確保したいときのためにあります。ローカルにとどまるかレンタルするかは、ワークロードごとに選べます。