Qwen 2.5 72B
Qwen 2.5 72BはAlibabaによる72億パラメータのチャットモデルです（2024年9月19日リリース）。Multilingual 72B open-weights model with strong code and math performance. Native 128K context.
by Alibaba · 72Bパラメータ · 131Kトークンのコンテキストウィンドウ
得意な用途
- 一般的なチャットとQ&A
- コード生成とレビュー
- 数学的推論
- 多言語会話
osFoundryでのQwen 2.5 72Bの使い方
ご自身のキーで接続（BYOK）
キーダイアログを開き、AlibabaのAPIキーを貼り付けるだけで、osFoundryがQwen 2.5 72Bを自動的に検出します。パイプラインタブでMaestroのロール（router、direct、orchestrator、fallback）に割り当てれば、すべてのチャットですぐに利用できます。ご自身のキー・ご自身のプロバイダーアカウントで、トークン手数料は一切上乗せしません。
専用エンドポイントをデプロイ
Qwen 2.5 72Bはオープンウェイトです。ローカルで無料で実行することも、ワークスペースに専用GPUエンドポイントをデプロイして、レート制限のない予約済み容量を確保することもできます。
Room Appで使う
Room Appはマニフェストで AI 機能を宣言し、invokeAIで呼び出します:
import { invokeAI } from '@osfoundry/app-sdk'
// 'summarize' is an AI feature declared in your app manifest.
const result = await invokeAI('summarize', userText)
ご自身のアプリから呼び出す
モデルをワークスペースに組み込めば、APIとしてホストして、osFoundryの外側にあるご自身のサービス・スクリプト・CIから呼び出すことができます。
Qwen 2.5 72Bを動かせるハードウェア
Qwen 2.5 72BはA100 80GBまたはH100 80GB 1枚（Q4量子化）で動作します（KVキャッシュの余裕を含めて約44 GBのVRAM）。フル精度推論はFP16では複数のH100/H200 GPUが必要です（約173 GB）。
Qwen 2.5 72Bと類似モデルの比較
ライセンス
Qwen Licence — commercial use with attribution — 帰属表示付きでの商用利用を認めます。悪用に関する一部制限があります。
派生物には "Built with Qwen" の帰属表示が必要です。
Qwen 2.5 72Bについてのよくある質問
Qwen 2.5 72Bは無料で使えますか？
Qwen 2.5 72Bはご自身のハードウェアでローカル実行する場合は無料です。osFoundry経由のホスティングアクセスは従量課金（入力 Free (local) / $ 0.50 /1M、出力 Free (local) / $ 0.70 /1M）となります。ローカルとホスティングはいつでも切り替えられます。
Qwen 2.5 72Bを商用利用できますか？
はい — 商用利用が許可されています。 帰属表示付きでの商用利用を認めます。悪用に関する一部制限があります。 派生物には "Built with Qwen" の帰属表示が必要です。
Qwen 2.5 72Bのコンテキストウィンドウはどれくらいですか？
Qwen 2.5 72Bは131Kトークンのコンテキストウィンドウに対応しています。
Qwen 2.5 72Bに必要なVRAMはどれくらいですか？
Q4量子化で約44 GB、フルFP16精度で約173 GBが目安です。A100/H100 80GB 1枚で動作します。
Qwen 2.5 72Bをローカルで実行できますか？
はい。Qwen 2.5 72Bはオープンウェイトで、ワークステーション向けGPUでローカル実行できます。osFoundryのローカルランタイムがモデルのロード、量子化、ルーティングを処理します。
Qwen 2.5 72Bが最も得意なことは何ですか？
Qwen 2.5 72Bは一般的なチャットとQ&A, コード生成とレビュー, 数学的推論に適しています。
osFoundryでQwen 2.5 72Bをどう使えばよいですか？
キーダイアログでAlibaba APIキーを貼り付け（セルフホスト可能なモデルの場合はオープンウェイトをデプロイ）、パイプラインタブでQwen 2.5 72BをMaestroのロールに割り当てれば、チャット、invokeAI経由のRoom App、ご自身のアプリから利用できます。
Alibabaにより公開（2024年9月19日）。