Llama 3.1 Euryale 70B v2.2
Sao10KのLlama 3.1 Euryale 70B v2.2はチャットモデルです。Euryale L3.1 70B v2.2 is a model focused on creative roleplay from [Sao10k](https://ko-fi.com/sao10k). It is the successor of [Euryale L3 70B v2.1](/models/sao10k/l3-euryale-70b).
by Sao10K · 131Kトークンのコンテキストウィンドウ
得意な用途
- 低レイテンシのチャットとルーティング
- リクエストのルーティングとトリアージ
- テキスト分類
osFoundryでのLlama 3.1 Euryale 70B v2.2の使い方
ご自身のキーで接続(BYOK)
キーダイアログを開き、Sao10KのAPIキーを貼り付けるだけで、osFoundryがLlama 3.1 Euryale 70B v2.2を自動的に検出します。パイプラインタブでMaestroのロール(router、direct、orchestrator、fallback)に割り当てれば、すべてのチャットですぐに利用できます。ご自身のキー・ご自身のプロバイダーアカウントで、トークン手数料は一切上乗せしません。
Room Appで使う
Room Appはマニフェストで AI 機能を宣言し、invokeAIで呼び出します:
import { invokeAI } from '@osfoundry/app-sdk'
// 'summarize' is an AI feature declared in your app manifest.
const result = await invokeAI('summarize', userText)
ご自身のアプリから呼び出す
モデルをワークスペースに組み込めば、APIとしてホストして、osFoundryの外側にあるご自身のサービス・スクリプト・CIから呼び出すことができます。
Llama 3.1 Euryale 70B v2.2を自分で動かす
Llama 3.1 Euryale 70B v2.2はオープンウェイトとしても入手可能です。完全なデータコントロールとトークン単価ゼロを実現するには、セルフホストしてください。GPU要件とAPI価格との比較は当該ページをご覧ください。
Llama 3.1 Euryale 70B v2.2と類似モデルの比較
ライセンス
Hosted — usage subject to provider terms — ホスティング専用モデル — 利用はプロバイダーのAPI規約に従います。ご自身のプロバイダーキーをお持ちください。
重みは配布されません。利用はプロバイダー規約に従います。
Llama 3.1 Euryale 70B v2.2についてのよくある質問
Llama 3.1 Euryale 70B v2.2の料金はいくらですか?
Llama 3.1 Euryale 70B v2.2は入力 $ 0.850 /1M、出力 $ 0.850 /1Mの従量課金です。ご自身のSao10K APIキーをお持ちいただければ、osFoundryはプロバイダー価格をそのまま反映し、上乗せはありません。
Llama 3.1 Euryale 70B v2.2を商用利用できますか?
条件付きで商用利用が許可されています。 ホスティング専用モデル — 利用はプロバイダーのAPI規約に従います。ご自身のプロバイダーキーをお持ちください。 重みは配布されません。利用はプロバイダー規約に従います。
Llama 3.1 Euryale 70B v2.2のコンテキストウィンドウはどれくらいですか?
Llama 3.1 Euryale 70B v2.2は131Kトークンのコンテキストウィンドウに対応しています。
Llama 3.1 Euryale 70B v2.2をローカルで実行できますか?
いいえ、Llama 3.1 Euryale 70B v2.2はホスティング専用で、Sao10K API経由でのみ利用できます。 セルフホスト可能なオープンウェイトの同等モデルもあります。上のクロスリンクをご覧ください。
Llama 3.1 Euryale 70B v2.2が最も得意なことは何ですか?
Llama 3.1 Euryale 70B v2.2は低レイテンシのチャットとルーティング, リクエストのルーティングとトリアージ, テキスト分類に適しています。
osFoundryでLlama 3.1 Euryale 70B v2.2をどう使えばよいですか?
キーダイアログでSao10K APIキーを貼り付け(セルフホスト可能なモデルの場合はオープンウェイトをデプロイ)、パイプラインタブでLlama 3.1 Euryale 70B v2.2をMaestroのロールに割り当てれば、チャット、invokeAI経由のRoom App、ご自身のアプリから利用できます。
Sao10Kにより公開(2024年8月28日)。 出典: https://openrouter.ai/sao10k/l3.1-euryale-70b