ホーム / 用語集 / LLM
What is 大規模言語モデル (LLM)?
Abbreviation: LLM
大規模言語モデル(LLM)は、膨大なテキストコーパスで次トークンを予測するよう訓練されたニューラルネットワークで、流暢な自然言語の出力を生成します。osFoundryはローカル、クラウド、セルフホストを問わず、あらゆるプロバイダーの100以上のLLMにリクエストをルーティングします。
Detail
LLMは約10億から1兆超のパラメータを持つトランスフォーマー型ニューラルネットワークです。チャット、コード生成、要約、翻訳、そして今日のエージェント型AIの大半を支えています。品質は学習データ、アーキテクチャ、ポストトレーニング(RLHF、DPO)によって変動します。
LLMには2つの配布形態があります。クローズドソース(API経由でのみアクセス可能。例: GPT-4、Claude)と、オープンウェイト(セルフホスト用にダウンロード可能。例: Llama、Mistral、Qwen)です。osFoundryのカタログは76,000のオープンウェイトモデルと364のホスト型APIモデルをインデックスしています。
How osFoundry approaches 大規模言語モデル (LLM)
osFoundryはあらゆるLLMを交換可能なバックエンドとして扱います。ホスト型モデルは自身のAPIキー(BYOK)で、オープンウェイトモデルはローカル推論用にインストールし、専用GPUエンドポイントを予約容量として展開できます。MaestroはosStudioで定義したルールに基づき、リクエストごとにルーティングします。
FAQ
osFoundryとLLMの関係は?
osFoundryはLLMの上に位置するオーケストレーション層です。LLM自体は作りません。ローカル、クラウド、セルフホストのLLMへのリクエストをひとつのワークスペースからルーティングします。
どのLLMが一番優れていますか?
あらゆる用途で最良のLLMは存在しません。osFoundryではワークロードごとにLLMをA/Bテストし、それに応じてルーティングできます。
1つのチャットで複数のLLMを使えますか?
はい。MaestroはosStudioのルーティングルールに基づき、会話の途中でモデルを切り替えられます。
Related terms
Related features