Qwen2.5 Coder 32B Instruct
Qwen2.5 Coder 32B Instructはqwenによるチャットモデルです(2024年11月11日リリース)。Qwen2.5-Coder is the latest series of Code-Specific Qwen large language models (formerly known as CodeQwen). Qwen2.5-Coder brings the following improvements upon CodeQwen1.5: - Significantly improvements in **code generation**, **code reasoning**...
by qwen · 33Kトークンのコンテキストウィンドウ
得意な用途
- 低レイテンシのチャットとルーティング
- リクエストのルーティングとトリアージ
- テキスト分類
osFoundryでのQwen2.5 Coder 32B Instructの使い方
ご自身のキーで接続(BYOK)
キーダイアログを開き、qwenのAPIキーを貼り付けるだけで、osFoundryがQwen2.5 Coder 32B Instructを自動的に検出します。パイプラインタブでMaestroのロール(router、direct、orchestrator、fallback)に割り当てれば、すべてのチャットですぐに利用できます。ご自身のキー・ご自身のプロバイダーアカウントで、トークン手数料は一切上乗せしません。
Room Appで使う
Room Appはマニフェストで AI 機能を宣言し、invokeAIで呼び出します:
import { invokeAI } from '@osfoundry/app-sdk'
// 'summarize' is an AI feature declared in your app manifest.
const result = await invokeAI('summarize', userText)
ご自身のアプリから呼び出す
モデルをワークスペースに組み込めば、APIとしてホストして、osFoundryの外側にあるご自身のサービス・スクリプト・CIから呼び出すことができます。
Qwen2.5 Coder 32B Instructを自分で動かす
Qwen2.5 Coder 32B Instructはオープンウェイトとしても入手可能です。完全なデータコントロールとトークン単価ゼロを実現するには、セルフホストしてください。GPU要件とAPI価格との比較は当該ページをご覧ください。
Qwen2.5 Coder 32B Instructと類似モデルの比較
ライセンス
Hosted — usage subject to provider terms — ホスティング専用モデル — 利用はプロバイダーのAPI規約に従います。ご自身のプロバイダーキーをお持ちください。
重みは配布されません。利用はプロバイダー規約に従います。
Qwen2.5 Coder 32B Instructについてのよくある質問
Qwen2.5 Coder 32B Instructの料金はいくらですか?
Qwen2.5 Coder 32B Instructは入力 $ 0.660 /1M、出力 $ 1.00 /1Mの従量課金です。ご自身のqwen APIキーをお持ちいただければ、osFoundryはプロバイダー価格をそのまま反映し、上乗せはありません。
Qwen2.5 Coder 32B Instructを商用利用できますか?
条件付きで商用利用が許可されています。 ホスティング専用モデル — 利用はプロバイダーのAPI規約に従います。ご自身のプロバイダーキーをお持ちください。 重みは配布されません。利用はプロバイダー規約に従います。
Qwen2.5 Coder 32B Instructのコンテキストウィンドウはどれくらいですか?
Qwen2.5 Coder 32B Instructは33Kトークンのコンテキストウィンドウに対応しています。
Qwen2.5 Coder 32B Instructをローカルで実行できますか?
いいえ、Qwen2.5 Coder 32B Instructはホスティング専用で、qwen API経由でのみ利用できます。 セルフホスト可能なオープンウェイトの同等モデルもあります。上のクロスリンクをご覧ください。
Qwen2.5 Coder 32B Instructが最も得意なことは何ですか?
Qwen2.5 Coder 32B Instructは低レイテンシのチャットとルーティング, リクエストのルーティングとトリアージ, テキスト分類に適しています。
osFoundryでQwen2.5 Coder 32B Instructをどう使えばよいですか?
キーダイアログでqwen APIキーを貼り付け(セルフホスト可能なモデルの場合はオープンウェイトをデプロイ)、パイプラインタブでQwen2.5 Coder 32B InstructをMaestroのロールに割り当てれば、チャット、invokeAI経由のRoom App、ご自身のアプリから利用できます。
qwenにより公開(2024年11月11日)。 出典: https://openrouter.ai/qwen/qwen-2.5-coder-32b-instruct