osFoundry / Platform
Multi Chat
Exécutez le même prompt sur deux modèles ou plus côte à côte. Comparez réponses, coûts, latence — choisissez le gagnant.
Présentation
Multi Chat envoie un seul prompt à deux modèles ou plus en même temps et dispose leurs réponses côte à côte dans une même vue. Au lieu de coller la même question dans des onglets séparés et de garder les écarts en tête, vous envoyez une fois et lisez les réponses dans des colonnes parallèles. Il se trouve dans la partie IA et Orchestration d'osFoundry, donc les modèles que vous comparez peuvent être n'importe lesquels parmi ceux que vous avez configurés : un modèle local sur votre propre machine, un modèle cloud derrière votre propre clé d'API, ou un endpoint auto-hébergé. Comme osFoundry fonctionne avec votre propre clé (BYOK), le coût affiché pour chaque modèle est le tarif réel de votre fournisseur, sans aucune marge de revendeur ajoutée.
Chaque colonne affiche la réponse du modèle à côté des chiffres qui décident vraiment de celui que vous gardez : combien l'appel a coûté et combien de temps il a mis à répondre. Cela transforme la vague impression "celui-là m'a semblé meilleur" en une comparaison directe de qualité, de prix et de latence pour votre prompt précis. Un modèle rapide et bon marché peut suffire au travail courant, tandis qu'un modèle plus lent ou plus cher ne gagne sa place que sur les prompts difficiles. Multi Chat vous laisse trouver cette limite en testant sur vos propres entrées réelles plutôt que sur un benchmark.
L'idée est de désigner le gagnant pour la tâche devant vous, puis d'avancer avec lui. Lancez la comparaison, voyez quel modèle donne la réponse voulue à un coût et une vitesse que vous acceptez, et standardisez dessus : pas de devinette, aucun coût de changement pour essayer le candidat suivant. Comme tout tourne dans l'espace de travail bureau local-first, vos prompts et les réponses peuvent rester sur votre appareil au lieu de passer par une couche intermédiaire tierce.
Fonctionnalités clés
- Envoyez un même prompt à deux modèles ou plus à la fois et lisez chaque réponse dans des colonnes parallèles
- Comparez le coût par réponse aux tarifs réels de votre propre clé d'API, sans marge de revendeur ajoutée
- Consultez la latence par modèle pour savoir lequel est assez rapide pour la tâche
- Mélangez modèles locaux, cloud et auto-hébergés dans la même comparaison, depuis un seul espace de travail
- Choisissez le modèle gagnant sur vos propres entrées réelles, pas sur des scores de benchmark génériques
Cas d’usage
- Développeur : tester le même prompt de code sur un modèle local et deux modèles cloud pour trouver le moins cher qui reste correct
- Prompt engineer : peaufiner la formulation et voir aussitôt quel modèle gère le mieux la nouvelle tournure en qualité, coût et vitesse
- Responsable d'équipe évaluant des fournisseurs : lancer des prompts représentatifs côte à côte pour décider sur quel modèle standardiser l'équipe avant de s'engager
Questions fréquentes
Combien de modèles puis-je comparer à la fois ?
Multi Chat exécute le même prompt sur deux modèles ou plus côte à côte. Les modèles disponibles dépendent de ce que vous avez configuré dans osFoundry (local, cloud ou auto-hébergé), puisque vous apportez vos propres clés.
D'où viennent les chiffres de coût et de latence ?
Le coût repose sur le tarif réel au token de votre fournisseur, sous votre propre clé d'API, puisque osFoundry est en BYOK et n'ajoute aucune marge de revendeur. La latence est mesurée à partir du temps de réponse réel de chaque modèle sur votre prompt.
Mes prompts sont-ils envoyés aux serveurs d'osFoundry ?
osFoundry est un espace de travail bureau local-first, donc vos prompts et réponses peuvent rester sur votre appareil. Les appels vont directement au modèle choisi avec vos propres clés ; un modèle local ne quitte jamais votre machine.