Name: repllama-v1-7b-lora-passage
Author: castorini

Question 1

repllama-v1-7b-lora-passageは無料で使えますか？

Accepted Answer

repllama-v1-7b-lora-passageはご自身のハードウェアでローカル実行する場合は無料です。osFoundry経由のホスティングアクセスは従量課金（入力 Free (local)、出力 Free (local)）となります。ローカルとホスティングはいつでも切り替えられます。

Question 2

repllama-v1-7b-lora-passageを商用利用できますか？

Accepted Answer

条件付きで商用利用が許可されています。 ライセンス条件が明示されていません。商用利用の前に上流のモデルカードをご確認ください。 上流のドキュメントをご確認ください。

Question 3

repllama-v1-7b-lora-passageに必要なVRAMはどれくらいですか？

Accepted Answer

Q4量子化で約5 GB、フルFP16精度で約17 GBが目安です。24GBのコンシューマー向けGPU1枚で動作します。

Question 4

repllama-v1-7b-lora-passageをローカルで実行できますか？

Accepted Answer

はい。repllama-v1-7b-lora-passageはオープンウェイトで、ワークステーション向けGPUでローカル実行できます。osFoundryのローカルランタイムがモデルのロード、量子化、ルーティングを処理します。

Question 5

repllama-v1-7b-lora-passageが最も得意なことは何ですか？

Accepted Answer

repllama-v1-7b-lora-passageは低レイテンシのチャットとルーティング, リクエストのルーティングとトリアージ, テキスト分類に適しています。

Question 6

osFoundryでrepllama-v1-7b-lora-passageをどう使えばよいですか？

Accepted Answer

キーダイアログでcastorini APIキーを貼り付け（セルフホスト可能なモデルの場合はオープンウェイトをデプロイ）、パイプラインタブでrepllama-v1-7b-lora-passageをMaestroのロールに割り当てれば、チャット、invokeAI経由のRoom App、ご自身のアプリから利用できます。