Mistral 7B Instruct v0.1
Mistral 7B Instruct v0.1はMistralによるチャットモデルです（2023年9月28日リリース）。A 7.3B parameter model that outperforms Llama 2 13B on all benchmarks, with optimizations for speed and context length.
by Mistral · 3Kトークンのコンテキストウィンドウ
得意な用途
- 低レイテンシのチャットとルーティング
- リクエストのルーティングとトリアージ
- テキスト分類
osFoundryでのMistral 7B Instruct v0.1の使い方
ご自身のキーで接続（BYOK）
キーダイアログを開き、MistralのAPIキーを貼り付けるだけで、osFoundryがMistral 7B Instruct v0.1を自動的に検出します。パイプラインタブでMaestroのロール（router、direct、orchestrator、fallback）に割り当てれば、すべてのチャットですぐに利用できます。ご自身のキー・ご自身のプロバイダーアカウントで、トークン手数料は一切上乗せしません。
Room Appで使う
Room Appはマニフェストで AI 機能を宣言し、invokeAIで呼び出します:
import { invokeAI } from '@osfoundry/app-sdk'
// 'summarize' is an AI feature declared in your app manifest.
const result = await invokeAI('summarize', userText)
ご自身のアプリから呼び出す
モデルをワークスペースに組み込めば、APIとしてホストして、osFoundryの外側にあるご自身のサービス・スクリプト・CIから呼び出すことができます。
Mistral 7B Instruct v0.1を自分で動かす
Mistral 7B Instruct v0.1はオープンウェイトとしても入手可能です。完全なデータコントロールとトークン単価ゼロを実現するには、セルフホストしてください。GPU要件とAPI価格との比較は当該ページをご覧ください。
Mistral 7B Instruct v0.1と類似モデルの比較
ライセンス
Hosted — usage subject to provider terms — ホスティング専用モデル — 利用はプロバイダーのAPI規約に従います。ご自身のプロバイダーキーをお持ちください。
重みは配布されません。利用はプロバイダー規約に従います。
Mistral 7B Instruct v0.1についてのよくある質問
Mistral 7B Instruct v0.1の料金はいくらですか？
Mistral 7B Instruct v0.1は入力 $ 0.110 /1M、出力 $ 0.190 /1Mの従量課金です。ご自身のMistral APIキーをお持ちいただければ、osFoundryはプロバイダー価格をそのまま反映し、上乗せはありません。
Mistral 7B Instruct v0.1を商用利用できますか？
条件付きで商用利用が許可されています。 ホスティング専用モデル — 利用はプロバイダーのAPI規約に従います。ご自身のプロバイダーキーをお持ちください。 重みは配布されません。利用はプロバイダー規約に従います。
Mistral 7B Instruct v0.1のコンテキストウィンドウはどれくらいですか？
Mistral 7B Instruct v0.1は3Kトークンのコンテキストウィンドウに対応しています。
Mistral 7B Instruct v0.1をローカルで実行できますか？
いいえ、Mistral 7B Instruct v0.1はホスティング専用で、Mistral API経由でのみ利用できます。 セルフホスト可能なオープンウェイトの同等モデルもあります。上のクロスリンクをご覧ください。
Mistral 7B Instruct v0.1が最も得意なことは何ですか？
Mistral 7B Instruct v0.1は低レイテンシのチャットとルーティング, リクエストのルーティングとトリアージ, テキスト分類に適しています。
osFoundryでMistral 7B Instruct v0.1をどう使えばよいですか？
キーダイアログでMistral APIキーを貼り付け（セルフホスト可能なモデルの場合はオープンウェイトをデプロイ）、パイプラインタブでMistral 7B Instruct v0.1をMaestroのロールに割り当てれば、チャット、invokeAI経由のRoom App、ご自身のアプリから利用できます。
Mistralにより公開（2023年9月28日）。 出典: https://openrouter.ai/mistralai/mistral-7b-instruct-v0.1