Name: Llama 3.1 8B Instruct
Author: Meta

Question 1

Llama 3.1 8B Instructの料金はいくらですか？

Accepted Answer

Llama 3.1 8B Instructは入力 $ 0.020 /1M、出力 $ 0.050 /1Mの従量課金です。ご自身のMeta APIキーをお持ちいただければ、osFoundryはプロバイダー価格をそのまま反映し、上乗せはありません。

Question 2

Llama 3.1 8B Instructを商用利用できますか？

Accepted Answer

条件付きで商用利用が許可されています。 ホスティング専用モデル — 利用はプロバイダーのAPI規約に従います。ご自身のプロバイダーキーをお持ちください。 重みは配布されません。利用はプロバイダー規約に従います。

Question 3

Llama 3.1 8B Instructのコンテキストウィンドウはどれくらいですか？

Accepted Answer

Llama 3.1 8B Instructは16Kトークンのコンテキストウィンドウに対応しています。

Question 4

Llama 3.1 8B Instructをローカルで実行できますか？

Accepted Answer

いいえ、Llama 3.1 8B Instructはホスティング専用で、Meta API経由でのみ利用できます。

Question 5

Llama 3.1 8B Instructが最も得意なことは何ですか？

Accepted Answer

Llama 3.1 8B Instructは低レイテンシのチャットとルーティング, リクエストのルーティングとトリアージ, テキスト分類に適しています。

Question 6

osFoundryでLlama 3.1 8B Instructをどう使えばよいですか？

Accepted Answer

キーダイアログでMeta APIキーを貼り付け（セルフホスト可能なモデルの場合はオープンウェイトをデプロイ）、パイプラインタブでLlama 3.1 8B InstructをMaestroのロールに割り当てれば、チャット、invokeAI経由のRoom App、ご自身のアプリから利用できます。