osFoundry / Platform
Multi Chat
Ejecuta el mismo prompt en dos o más modelos lado a lado. Compara respuestas, costos y latencia: elige al ganador.
Qué es
Multi Chat envía un único prompt a dos o más modelos al mismo tiempo y coloca sus respuestas una junto a otra en una sola vista. En lugar de pegar la misma pregunta en pestañas separadas y retener las diferencias de memoria, envías una vez y lees las respuestas en columnas paralelas. Vive en la parte de IA y Orquestación de osFoundry, así que los modelos que compares pueden ser cualquiera que tengas configurado: un modelo local en tu propia máquina, un modelo en la nube tras tu propia clave de API o un endpoint autoalojado. Como osFoundry funciona con tu propia clave (BYOK), el coste que ves para cada modelo es la tarifa real de tu proveedor, sin ningún recargo de reventa por encima.
Cada columna muestra la respuesta del modelo junto a las cifras que de verdad deciden con cuál te quedas: cuánto costó la llamada y cuánto tardó en responder. Eso convierte la vaga sensación de "este me pareció mejor" en una comparación directa de calidad, precio y latencia para tu prompt concreto. Un modelo barato y rápido puede bastar para el trabajo rutinario, mientras que uno más lento o más caro solo se gana su sitio en los prompts difíciles. Multi Chat te deja encontrar esa línea probando con tus propias entradas reales en vez de con un benchmark.
La idea es elegir al ganador para la tarea que tienes delante y seguir adelante con él. Ejecuta la comparación, mira qué modelo da la respuesta que quieres a un coste y una velocidad que aceptas, y estandariza sobre él: sin adivinar y sin coste de cambio para probar al siguiente candidato. Como todo se ejecuta dentro del espacio de trabajo de escritorio local-first, tus prompts y las respuestas pueden quedarse en tu dispositivo en lugar de pasar por una capa intermedia de terceros.
Capacidades principales
- Envía un mismo prompt a dos o más modelos a la vez y lee cada respuesta en columnas paralelas
- Compara el coste por respuesta con las tarifas reales de tu propia clave de API, sin recargo de reventa
- Consulta la latencia por modelo para saber cuál es lo bastante rápido para la tarea
- Combina modelos locales, en la nube y autoalojados en la misma comparación desde un solo espacio de trabajo
- Elige el modelo ganador con tus propias entradas reales, no con puntuaciones de benchmarks genéricos
Casos de uso
- Desarrollador: prueba el mismo prompt de código en un modelo local y dos en la nube para encontrar el más barato que aún lo resuelve bien
- Ingeniero de prompts: itera la redacción y ve al instante qué modelo maneja mejor el nuevo enunciado en calidad, coste y velocidad
- Responsable de equipo evaluando proveedores: ejecuta prompts representativos en paralelo para decidir sobre qué modelo estandarizar al equipo antes de comprometerse
Preguntas frecuentes
¿Cuántos modelos puedo comparar a la vez?
Multi Chat lanza el mismo prompt a dos o más modelos en paralelo. Qué modelos hay disponibles depende de lo que tengas configurado en osFoundry (local, en la nube o autoalojado), ya que usas tus propias claves.
¿De dónde salen las cifras de coste y latencia?
El coste se basa en la tarifa real por token de tu proveedor bajo tu propia clave de API, ya que osFoundry es BYOK y no añade recargo de reventa. La latencia se mide a partir del tiempo de respuesta real de cada modelo con tu prompt.
¿Mis prompts se envían a los servidores de osFoundry?
osFoundry es un espacio de trabajo de escritorio local-first, así que tus prompts y respuestas pueden quedarse en tu dispositivo. Las llamadas van directas al modelo que elijas usando tus propias claves; un modelo local no sale nunca de tu máquina.