ReMM SLERP 13B
ReMM SLERP 13B (undi95, 2023) es un modelo de chat. A recreation trial of the original MythoMax-L2-B13 but with updated models. #merge
by undi95 · ventana de contexto de 6K tokens
Ideal para
- chat y enrutamiento de baja latencia
- enrutamiento y triaje de solicitudes
- clasificación de texto
Formas de utilizar ReMM SLERP 13B en osFoundry
Conecten con su propia clave (BYOK)
Abran el diálogo de claves y peguen su clave de API de undi95. osFoundry detecta ReMM SLERP 13B automáticamente: asígnenlo a un rol de Maestro (router, direct, orchestrator o fallback) en la pestaña Pipeline y quedará activo en cada chat. Su clave, su cuenta de proveedor: sin recargo por tokens.
Úsenlo en una Room App
Las Room Apps declaran funciones de IA en su manifiesto y luego las invocan con invokeAI:
import { invokeAI } from '@osfoundry/app-sdk'
// 'summarize' is an AI feature declared in your app manifest.
const result = await invokeAI('summarize', userText)
Invóquenlo desde sus propias aplicaciones
Una vez que un modelo está integrado en su workspace, pueden alojarlo como API y consumirlo desde sus propios servicios, scripts o CI, fuera de osFoundry.
Ejecuten ReMM SLERP 13B ustedes mismos
ReMM SLERP 13B también está disponible como pesos abiertos: aloja tú mismo el modelo para tener control total de los datos y sin coste por token. Consulten esa página para conocer los requisitos de GPU y una comparativa de costes frente al precio de la API.
ReMM SLERP 13B frente a modelos similares
| Modelo | Organización | Parámetros | Contexto | Precio de entrada | Autoalojamiento |
|---|
| ReMM SLERP 13B | undi95 | — | 6K | $ 0.450 /1M | Solo API |
| Weaver (alpha) | Mancer | — | 8K | $ 0.750 /1M | Solo API |
| MythoMax 13B | gryphe | — | 4K | $ 0.060 /1M | Solo API |
| GPT-3.5 Turbo 16k | OpenAI | — | 16K | $ 3.00 /1M | Solo API |
Licencia
Hosted — usage subject to provider terms — Modelo solo alojado: el uso se rige por los términos de API del proveedor. Aporten su propia clave del proveedor.
No se distribuyen los pesos; el uso está sujeto a los términos del proveedor.
Preguntas frecuentes sobre ReMM SLERP 13B
¿Cuánto cuesta ReMM SLERP 13B?
ReMM SLERP 13B se factura a $ 0.450 /1M por entrada y $ 0.650 /1M por salida. Aporten su propia clave de API de undi95: osFoundry traslada el precio del proveedor sin recargo.
¿Puedo utilizar ReMM SLERP 13B comercialmente?
El uso comercial está permitido con condiciones. Modelo solo alojado: el uso se rige por los términos de API del proveedor. Aporten su propia clave del proveedor. No se distribuyen los pesos; el uso está sujeto a los términos del proveedor.
¿Cuál es la ventana de contexto de ReMM SLERP 13B?
ReMM SLERP 13B admite una ventana de contexto de 6K tokens.
¿Puedo ejecutar ReMM SLERP 13B localmente?
No: ReMM SLERP 13B es solo alojado y se accede a través de la API de undi95. Existe un equivalente de pesos abiertos para autoalojar: consulten el enlace cruzado de arriba.
¿En qué destaca ReMM SLERP 13B?
ReMM SLERP 13B es muy adecuado para chat y enrutamiento de baja latencia, enrutamiento y triaje de solicitudes, clasificación de texto.
¿Cómo se utiliza ReMM SLERP 13B en osFoundry?
Peguen su clave de API de undi95 en el diálogo de claves (o desplieguen los pesos abiertos para modelos autoalojables), asignen ReMM SLERP 13B a un rol de Maestro en la pestaña Pipeline y úsenlo en chat, en Room Apps mediante invokeAI o en sus propias aplicaciones.
Publicado por undi95 el 22 de julio de 2023. Fuente: https://openrouter.ai/undi95/remm-slerp-l2-13b