Llama 3 Euryale 70B v2.1
Dibangun oleh Sao10k, Llama 3 Euryale 70B v2.1 adalah sebuah model chat dengan context window 8K token. Euryale 70B v2.1 is a model focused on creative roleplay from [Sao10k](https://ko-fi.com/sao10k). - Better prompt adherence. - Better anatomy / spatial awareness. - Adapts much better to unique and custom...
by Sao10k · context window 8K token
Paling cocok untuk
- chat dan routing latensi rendah
- routing dan triase permintaan
- klasifikasi teks
Cara menggunakan Llama 3 Euryale 70B v2.1 di osFoundry
Hubungkan dengan key Anda sendiri (BYOK)
Buka dialog key dan tempelkan API key Sao10k Anda. osFoundry menemukan Llama 3 Euryale 70B v2.1 secara otomatis — tetapkan ke peran Maestro (router, direct, orchestrator, atau fallback) di tab Pipeline dan model ini langsung aktif di setiap chat. Key Anda, akun provider Anda — tanpa markup token.
Gunakan di Room App
Room App mendeklarasikan fitur AI di manifest mereka, lalu memanggilnya dengan invokeAI:
import { invokeAI } from '@osfoundry/app-sdk'
// 'summarize' is an AI feature declared in your app manifest.
const result = await invokeAI('summarize', userText)
Panggil dari aplikasi Anda sendiri
Setelah sebuah model terhubung ke workspace Anda, Anda dapat meng-host-nya sebagai API dan mengaksesnya dari layanan, skrip, atau CI Anda sendiri — di luar osFoundry.
Jalankan Llama 3 Euryale 70B v2.1 sendiri
Llama 3 Euryale 70B v2.1 juga tersedia sebagai open weights — self-host model ini untuk kontrol data penuh dan tanpa biaya per token. Lihat halaman tersebut untuk persyaratan GPU dan perbandingan biaya terhadap harga API.
Llama 3 Euryale 70B v2.1 vs model serupa
| Model | Org | Parameter | Context | Harga input | Self-host |
|---|
| Llama 3 Euryale 70B v2.1 | Sao10k | — | 8K | $ 1.48 /1M | Hanya API |
| Gemma 2 27B | Google | — | 8K | $ 0.650 /1M | Hanya API |
| Hermes 2 Pro - Llama-3 8B | NousResearch | — | 8K | $ 0.140 /1M | Hanya API |
| Mistral Nemo | Mistral | — | 131K | $ 0.020 /1M | Hanya API |
Lisensi
Hosted — usage subject to provider terms — Model ter-host saja — penggunaan diatur oleh ketentuan API provider. Bawa key provider Anda sendiri.
Tidak ada weights yang didistribusikan; penggunaan tunduk pada ketentuan provider.
Pertanyaan umum tentang Llama 3 Euryale 70B v2.1
Berapa biaya Llama 3 Euryale 70B v2.1?
Llama 3 Euryale 70B v2.1 dikenakan biaya $ 1.48 /1M untuk input, dan $ 1.48 /1M untuk output. Bawa API key Sao10k Anda sendiri — osFoundry meneruskan harga provider tanpa markup.
Bisakah saya menggunakan Llama 3 Euryale 70B v2.1 secara komersial?
Penggunaan komersial diizinkan dengan syarat. Model ter-host saja — penggunaan diatur oleh ketentuan API provider. Bawa key provider Anda sendiri. Tidak ada weights yang didistribusikan; penggunaan tunduk pada ketentuan provider.
Berapa context window dari Llama 3 Euryale 70B v2.1?
Llama 3 Euryale 70B v2.1 mendukung context window 8K token.
Bisakah saya menjalankan Llama 3 Euryale 70B v2.1 secara lokal?
Tidak — Llama 3 Euryale 70B v2.1 hanya ter-host dan diakses melalui API Sao10k. Padanan open-weights tersedia untuk self-host — lihat tautan silang di atas.
Apa keunggulan utama Llama 3 Euryale 70B v2.1?
Llama 3 Euryale 70B v2.1 sangat cocok untuk chat dan routing latensi rendah, routing dan triase permintaan, klasifikasi teks.
Bagaimana cara menggunakan Llama 3 Euryale 70B v2.1 di osFoundry?
Tempelkan API key Sao10k Anda di dialog key (atau deploy open weights untuk model yang dapat di-self-host), tetapkan Llama 3 Euryale 70B v2.1 ke peran Maestro di tab Pipeline, lalu gunakan di chat, di Room App via invokeAI, atau di aplikasi Anda sendiri.
Diterbitkan oleh Sao10k pada 18 Juni 2024. Sumber: https://openrouter.ai/sao10k/l3-euryale-70b