Name: Qwen2-VL-7B-Instruct-GPTQ-Int4
Author: Qwen

Question 1

Qwen2-VL-7B-Instruct-GPTQ-Int4は無料で使えますか？

Accepted Answer

Qwen2-VL-7B-Instruct-GPTQ-Int4はご自身のハードウェアでローカル実行する場合は無料です。osFoundry経由のホスティングアクセスは従量課金（入力 Free (local)、出力 Free (local)）となります。ローカルとホスティングはいつでも切り替えられます。

Question 2

Qwen2-VL-7B-Instruct-GPTQ-Int4を商用利用できますか？

Accepted Answer

条件付きで商用利用が許可されています。 ライセンス条件が明示されていません。商用利用の前に上流のモデルカードをご確認ください。 上流のドキュメントをご確認ください。

Question 3

Qwen2-VL-7B-Instruct-GPTQ-Int4に必要なVRAMはどれくらいですか？

Accepted Answer

Q4量子化で約5 GB、フルFP16精度で約17 GBが目安です。24GBのコンシューマー向けGPU1枚で動作します。

Question 4

Qwen2-VL-7B-Instruct-GPTQ-Int4をローカルで実行できますか？

Accepted Answer

はい。Qwen2-VL-7B-Instruct-GPTQ-Int4はオープンウェイトで、ワークステーション向けGPUでローカル実行できます。osFoundryのローカルランタイムがモデルのロード、量子化、ルーティングを処理します。

Question 5

Qwen2-VL-7B-Instruct-GPTQ-Int4が最も得意なことは何ですか？

Accepted Answer

Qwen2-VL-7B-Instruct-GPTQ-Int4はimage text to textに適しています。

Question 6

osFoundryでQwen2-VL-7B-Instruct-GPTQ-Int4をどう使えばよいですか？

Accepted Answer

キーダイアログでQwen APIキーを貼り付け（セルフホスト可能なモデルの場合はオープンウェイトをデプロイ）、パイプラインタブでQwen2-VL-7B-Instruct-GPTQ-Int4をMaestroのロールに割り当てれば、チャット、invokeAI経由のRoom App、ご自身のアプリから利用できます。