Name: ALLaM-7B-Instruct-preview
Author: humain-ai

Question 1

ALLaM-7B-Instruct-previewは無料で使えますか？

Accepted Answer

ALLaM-7B-Instruct-previewはご自身のハードウェアでローカル実行する場合は無料です。osFoundry経由のホスティングアクセスは従量課金（入力 Free (local)、出力 Free (local)）となります。ローカルとホスティングはいつでも切り替えられます。

Question 2

ALLaM-7B-Instruct-previewを商用利用できますか？

Accepted Answer

条件付きで商用利用が許可されています。 ライセンス条件が明示されていません。商用利用の前に上流のモデルカードをご確認ください。 上流のドキュメントをご確認ください。

Question 3

ALLaM-7B-Instruct-previewに必要なVRAMはどれくらいですか？

Accepted Answer

Q4量子化で約5 GB、フルFP16精度で約17 GBが目安です。24GBのコンシューマー向けGPU1枚で動作します。

Question 4

ALLaM-7B-Instruct-previewをローカルで実行できますか？

Accepted Answer

はい。ALLaM-7B-Instruct-previewはオープンウェイトで、ワークステーション向けGPUでローカル実行できます。osFoundryのローカルランタイムがモデルのロード、量子化、ルーティングを処理します。

Question 5

ALLaM-7B-Instruct-previewが最も得意なことは何ですか？

Accepted Answer

ALLaM-7B-Instruct-previewはtext generationに適しています。

Question 6

osFoundryでALLaM-7B-Instruct-previewをどう使えばよいですか？

Accepted Answer

キーダイアログでhumain-ai APIキーを貼り付け（セルフホスト可能なモデルの場合はオープンウェイトをデプロイ）、パイプラインタブでALLaM-7B-Instruct-previewをMaestroのロールに割り当てれば、チャット、invokeAI経由のRoom App、ご自身のアプリから利用できます。