Hermes 2 Pro - Llama-3 8B
Entwickelt von NousResearch, ist Hermes 2 Pro - Llama-3 8B ein Chat-Modell mit einem Kontextfenster von 8K Token. Hermes 2 Pro is an upgraded, retrained version of Nous Hermes 2, consisting of an updated and cleaned version of the OpenHermes 2.5 Dataset, as well as a newly introduced...
by NousResearch · Kontextfenster von 8K Token
Am besten geeignet für
- Chat und Routing mit geringer Latenz
- Anfrage-Routing und Triage
- Textklassifikation
Möglichkeiten, Hermes 2 Pro - Llama-3 8B in osFoundry zu nutzen
Mit eigenem Schlüssel verbinden (BYOK)
Öffnen Sie den Schlüssel-Dialog und fügen Sie Ihren NousResearch-API-Key ein. osFoundry erkennt Hermes 2 Pro - Llama-3 8B automatisch — weisen Sie es im Pipeline-Tab einer Maestro-Rolle (Router, Direct, Orchestrator oder Fallback) zu, und es ist in jedem Chat verfügbar. Ihr Key, Ihr Provider-Konto — kein Token-Aufschlag.
In einer Room App verwenden
Room Apps deklarieren KI-Funktionen in ihrem Manifest und rufen sie anschließend mit invokeAI auf:
import { invokeAI } from '@osfoundry/app-sdk'
// 'summarize' is an AI feature declared in your app manifest.
const result = await invokeAI('summarize', userText)
Aus eigenen Anwendungen aufrufen
Sobald ein Modell in Ihrem Workspace eingerichtet ist, können Sie es als API hosten und aus Ihren eigenen Diensten, Skripten oder CI — außerhalb von osFoundry — erreichen.
Hermes 2 Pro - Llama-3 8B selbst betreiben
Hermes 2 Pro - Llama-3 8B ist auch als Open Weights verfügbar — selbst hosten für volle Datenkontrolle und ohne Kosten pro Token. Auf jener Seite finden Sie GPU-Anforderungen und einen Kostenvergleich mit API-Preisen.
Hermes 2 Pro - Llama-3 8B im Vergleich zu ähnlichen Modellen
Lizenz
Hosted — usage subject to provider terms — Nur gehostetes Modell — die Nutzung unterliegt den API-Bedingungen des Anbieters. Bringen Sie Ihren eigenen Provider-Key mit.
Keine Weights verteilt; Nutzung unterliegt den Anbieterbedingungen.
Häufige Fragen zu Hermes 2 Pro - Llama-3 8B
Wie viel kostet Hermes 2 Pro - Llama-3 8B?
Hermes 2 Pro - Llama-3 8B wird mit $ 0.140 /1M für Input und $ 0.140 /1M für Output abgerechnet. Bringen Sie Ihren eigenen NousResearch-API-Key mit — osFoundry reicht die Provider-Preise ohne Aufschlag durch.
Kann ich Hermes 2 Pro - Llama-3 8B kommerziell nutzen?
Kommerzielle Nutzung ist unter bestimmten Bedingungen erlaubt. Nur gehostetes Modell — die Nutzung unterliegt den API-Bedingungen des Anbieters. Bringen Sie Ihren eigenen Provider-Key mit. Keine Weights verteilt; Nutzung unterliegt den Anbieterbedingungen.
Wie groß ist das Kontextfenster von Hermes 2 Pro - Llama-3 8B?
Hermes 2 Pro - Llama-3 8B unterstützt ein Kontextfenster von 8K Token.
Kann ich Hermes 2 Pro - Llama-3 8B lokal betreiben?
Nein — Hermes 2 Pro - Llama-3 8B ist nur gehostet verfügbar und wird über die NousResearch-API genutzt. Ein Open-Weights-Äquivalent steht zum Selbsthosten zur Verfügung — siehe den Querverweis oben.
Worin ist Hermes 2 Pro - Llama-3 8B besonders gut?
Hermes 2 Pro - Llama-3 8B eignet sich besonders für Chat und Routing mit geringer Latenz, Anfrage-Routing und Triage, Textklassifikation.
Wie verwende ich Hermes 2 Pro - Llama-3 8B in osFoundry?
Fügen Sie Ihren NousResearch-API-Key im Schlüssel-Dialog ein (oder stellen Sie bei selbst hostbaren Modellen die Open Weights bereit), weisen Sie Hermes 2 Pro - Llama-3 8B im Pipeline-Tab einer Maestro-Rolle zu und nutzen Sie es anschließend im Chat, in Room Apps über invokeAI oder in Ihren eigenen Anwendungen.
Veröffentlicht von NousResearch am 27. Mai 2024. Quelle: https://openrouter.ai/nousresearch/hermes-2-pro-llama-3-8b