Name: wizardcoder-13b-python
Author: jartine

Question 1

wizardcoder-13b-pythonは無料で使えますか？

Accepted Answer

wizardcoder-13b-pythonはご自身のハードウェアでローカル実行する場合は無料です。osFoundry経由のホスティングアクセスは従量課金（入力 Free (local)、出力 Free (local)）となります。ローカルとホスティングはいつでも切り替えられます。

Question 2

wizardcoder-13b-pythonを商用利用できますか？

Accepted Answer

条件付きで商用利用が許可されています。 ライセンス条件が明示されていません。商用利用の前に上流のモデルカードをご確認ください。 上流のドキュメントをご確認ください。

Question 3

wizardcoder-13b-pythonに必要なVRAMはどれくらいですか？

Accepted Answer

Q4量子化で約8 GB、フルFP16精度で約32 GBが目安です。24GBのコンシューマー向けGPU1枚で動作します。

Question 4

wizardcoder-13b-pythonをローカルで実行できますか？

Accepted Answer

はい。wizardcoder-13b-pythonはオープンウェイトで、ワークステーション向けGPUでローカル実行できます。osFoundryのローカルランタイムがモデルのロード、量子化、ルーティングを処理します。

Question 5

wizardcoder-13b-pythonが最も得意なことは何ですか？

Accepted Answer

wizardcoder-13b-pythonは低レイテンシのチャットとルーティング, リクエストのルーティングとトリアージ, テキスト分類に適しています。

Question 6

osFoundryでwizardcoder-13b-pythonをどう使えばよいですか？

Accepted Answer

キーダイアログでjartine APIキーを貼り付け（セルフホスト可能なモデルの場合はオープンウェイトをデプロイ）、パイプラインタブでwizardcoder-13b-pythonをMaestroのロールに割り当てれば、チャット、invokeAI経由のRoom App、ご自身のアプリから利用できます。