Hermes 2 Pro - Llama-3 8B
Dibangun oleh NousResearch, Hermes 2 Pro - Llama-3 8B adalah sebuah model chat dengan context window 8K token. Hermes 2 Pro is an upgraded, retrained version of Nous Hermes 2, consisting of an updated and cleaned version of the OpenHermes 2.5 Dataset, as well as a newly introduced...
by NousResearch · context window 8K token
Paling cocok untuk
- chat dan routing latensi rendah
- routing dan triase permintaan
- klasifikasi teks
Cara menggunakan Hermes 2 Pro - Llama-3 8B di osFoundry
Hubungkan dengan key Anda sendiri (BYOK)
Buka dialog key dan tempelkan API key NousResearch Anda. osFoundry menemukan Hermes 2 Pro - Llama-3 8B secara otomatis — tetapkan ke peran Maestro (router, direct, orchestrator, atau fallback) di tab Pipeline dan model ini langsung aktif di setiap chat. Key Anda, akun provider Anda — tanpa markup token.
Gunakan di Room App
Room App mendeklarasikan fitur AI di manifest mereka, lalu memanggilnya dengan invokeAI:
import { invokeAI } from '@osfoundry/app-sdk'
// 'summarize' is an AI feature declared in your app manifest.
const result = await invokeAI('summarize', userText)
Panggil dari aplikasi Anda sendiri
Setelah sebuah model terhubung ke workspace Anda, Anda dapat meng-host-nya sebagai API dan mengaksesnya dari layanan, skrip, atau CI Anda sendiri — di luar osFoundry.
Jalankan Hermes 2 Pro - Llama-3 8B sendiri
Hermes 2 Pro - Llama-3 8B juga tersedia sebagai open weights — self-host model ini untuk kontrol data penuh dan tanpa biaya per token. Lihat halaman tersebut untuk persyaratan GPU dan perbandingan biaya terhadap harga API.
Hermes 2 Pro - Llama-3 8B vs model serupa
Lisensi
Hosted — usage subject to provider terms — Model ter-host saja — penggunaan diatur oleh ketentuan API provider. Bawa key provider Anda sendiri.
Tidak ada weights yang didistribusikan; penggunaan tunduk pada ketentuan provider.
Pertanyaan umum tentang Hermes 2 Pro - Llama-3 8B
Berapa biaya Hermes 2 Pro - Llama-3 8B?
Hermes 2 Pro - Llama-3 8B dikenakan biaya $ 0.140 /1M untuk input, dan $ 0.140 /1M untuk output. Bawa API key NousResearch Anda sendiri — osFoundry meneruskan harga provider tanpa markup.
Bisakah saya menggunakan Hermes 2 Pro - Llama-3 8B secara komersial?
Penggunaan komersial diizinkan dengan syarat. Model ter-host saja — penggunaan diatur oleh ketentuan API provider. Bawa key provider Anda sendiri. Tidak ada weights yang didistribusikan; penggunaan tunduk pada ketentuan provider.
Berapa context window dari Hermes 2 Pro - Llama-3 8B?
Hermes 2 Pro - Llama-3 8B mendukung context window 8K token.
Bisakah saya menjalankan Hermes 2 Pro - Llama-3 8B secara lokal?
Tidak — Hermes 2 Pro - Llama-3 8B hanya ter-host dan diakses melalui API NousResearch. Padanan open-weights tersedia untuk self-host — lihat tautan silang di atas.
Apa keunggulan utama Hermes 2 Pro - Llama-3 8B?
Hermes 2 Pro - Llama-3 8B sangat cocok untuk chat dan routing latensi rendah, routing dan triase permintaan, klasifikasi teks.
Bagaimana cara menggunakan Hermes 2 Pro - Llama-3 8B di osFoundry?
Tempelkan API key NousResearch Anda di dialog key (atau deploy open weights untuk model yang dapat di-self-host), tetapkan Hermes 2 Pro - Llama-3 8B ke peran Maestro di tab Pipeline, lalu gunakan di chat, di Room App via invokeAI, atau di aplikasi Anda sendiri.
Diterbitkan oleh NousResearch pada 27 Mei 2024. Sumber: https://openrouter.ai/nousresearch/hermes-2-pro-llama-3-8b