MythoMax 13B
Realizzato da gryphe, MythoMax 13B è un modello chat con una finestra di contesto da 4K token. One of the highest performing and most popular fine-tunes of Llama 2 13B, with rich descriptions and roleplay. #merge
by gryphe · finestra di contesto da 4K token
Ideale per
- chat e routing a bassa latenza
- instradamento e triage delle richieste
- classificazione di testo
Modi per utilizzare MythoMax 13B in osFoundry
Si colleghi con la sua chiave (BYOK)
Apra la finestra delle chiavi e incolli la sua API key gryphe. osFoundry scopre MythoMax 13B automaticamente — lo assegni a un ruolo Maestro (router, direct, orchestrator o fallback) nella scheda Pipeline e sarà attivo in ogni chat. La sua chiave, il suo account provider — nessun ricarico sui token.
Lo utilizzi in una Room App
Le Room App dichiarano le funzionalità AI nel loro manifest e le richiamano con invokeAI:
import { invokeAI } from '@osfoundry/app-sdk'
// 'summarize' is an AI feature declared in your app manifest.
const result = await invokeAI('summarize', userText)
Lo richiami dalle sue applicazioni
Una volta integrato un modello nel suo workspace, può esporlo come API e raggiungerlo dai suoi servizi, script o pipeline CI — al di fuori di osFoundry.
MythoMax 13B a confronto con modelli simili
| Modello | Org | Parametri | Contesto | Prezzo input | Self-host |
|---|
| MythoMax 13B | gryphe | — | 4K | $ 0.060 /1M | Solo API |
| ReMM SLERP 13B | undi95 | — | 6K | $ 0.450 /1M | Solo API |
| GPT-4 | OpenAI | — | 8K | $ 30.00 /1M | Solo API |
| Weaver (alpha) | Mancer | — | 8K | $ 0.750 /1M | Solo API |
Licenza
Hosted — usage subject to provider terms — Modello solo in hosting — l'uso è regolato dai termini API del provider. Porti la sua chiave del provider.
Nessun peso distribuito; uso soggetto ai termini del provider.
Domande frequenti su MythoMax 13B
Quanto costa MythoMax 13B?
MythoMax 13B è tariffato a $ 0.060 /1M per l'input e $ 0.060 /1M per l'output. Porti la sua API key gryphe — osFoundry applica i prezzi del provider senza ricarico.
Posso usare MythoMax 13B a scopo commerciale?
L'uso commerciale è consentito a determinate condizioni. Modello solo in hosting — l'uso è regolato dai termini API del provider. Porti la sua chiave del provider. Nessun peso distribuito; uso soggetto ai termini del provider.
Qual è la finestra di contesto di MythoMax 13B?
MythoMax 13B supporta una finestra di contesto da 4K token.
Posso eseguire MythoMax 13B localmente?
No — MythoMax 13B è disponibile solo in hosting e si accede tramite l'API di gryphe.
In che cosa eccelle MythoMax 13B?
MythoMax 13B è particolarmente adatto a chat e routing a bassa latenza, instradamento e triage delle richieste, classificazione di testo.
Come utilizzo MythoMax 13B in osFoundry?
Incolli la sua API key gryphe nella finestra delle chiavi (oppure distribuisca i pesi aperti per i modelli auto-ospitabili), assegni MythoMax 13B a un ruolo Maestro nella scheda Pipeline, quindi lo utilizzi in chat, nelle Room App tramite invokeAI o nelle sue applicazioni.
Pubblicato da gryphe il 2 luglio 2023. Fonte: https://openrouter.ai/gryphe/mythomax-l2-13b