osFoundry / Platform
Multi Chat
Esegui lo stesso prompt su due o più modelli affiancati. Confronta risposte, costi e latenze — scegli il vincitore.
Che cos’è
Multi Chat invia un unico prompt a due o più modelli nello stesso momento e ne dispone le risposte affiancate in un'unica vista. Invece di incollare la stessa domanda in schede separate e tenere a mente le differenze, invii una volta sola e leggi le risposte in colonne parallele. Vive nella parte AI & Orchestration di osFoundry, quindi i modelli che confronti possono essere qualsiasi tra quelli che hai configurato: un modello locale sulla tua macchina, un modello cloud dietro la tua chiave API o un endpoint self-hosted. Poiché osFoundry funziona con la tua chiave (BYOK), il costo che vedi per ciascun modello è la tariffa reale del tuo provider, senza alcun ricarico da rivenditore sopra.
Ogni colonna mostra la risposta del modello accanto ai numeri che davvero decidono quale tieni: quanto è costata la chiamata e quanto ci ha messo a rispondere. Così la vaga sensazione di "questo mi è sembrato migliore" diventa un confronto diretto di qualità, prezzo e latenza per il tuo prompt specifico. Un modello economico e veloce può bastare per il lavoro di routine, mentre uno più lento o più costoso si guadagna il posto solo sui prompt difficili. Multi Chat ti fa trovare questa linea provando sui tuoi input reali invece che su un benchmark.
Il punto è scegliere il vincitore per il compito che hai davanti e poi andare avanti con quello. Esegui il confronto, vedi quale modello dà la risposta che vuoi a un costo e una velocità che accetti, e standardizzi su quello: niente tentativi al buio, nessun costo di passaggio per provare il candidato successivo. Poiché tutto gira dentro lo spazio di lavoro desktop local-first, i tuoi prompt e le risposte possono restare sul tuo dispositivo invece di passare per uno strato intermedio di terze parti.
Funzionalità principali
- Invia un unico prompt a due o più modelli insieme e leggi ogni risposta in colonne parallele
- Confronta il costo per risposta con le tariffe reali della tua chiave API, senza ricarico da rivenditore
- Guarda la latenza per modello per sapere quale è abbastanza veloce per il compito
- Mescola modelli locali, cloud e self-hosted nello stesso confronto, da un unico spazio di lavoro
- Scegli il modello vincente sui tuoi input reali, non su punteggi di benchmark generici
Casi d’uso
- Sviluppatore: prova lo stesso prompt di codice su un modello locale e due cloud per trovare il più economico che lo risolve comunque
- Prompt engineer: itera sul testo e vede all'istante quale modello gestisce meglio la nuova formulazione per qualità, costo e velocità
- Team lead che valuta i provider: esegue prompt rappresentativi affiancati per decidere su quale modello standardizzare il team prima di impegnarsi
Domande frequenti
Quanti modelli posso confrontare in una volta?
Multi Chat esegue lo stesso prompt su due o più modelli affiancati. Quali modelli sono disponibili dipende da cosa hai configurato in osFoundry (locale, cloud o self-hosted), dato che porti le tue chiavi.
Da dove vengono i numeri di costo e latenza?
Il costo si basa sulla tariffa reale per token del tuo provider con la tua chiave API, dato che osFoundry è BYOK e non aggiunge alcun ricarico da rivenditore. La latenza è misurata dal tempo di risposta reale di ciascun modello sul tuo prompt.
I miei prompt vengono inviati ai server di osFoundry?
osFoundry è uno spazio di lavoro desktop local-first, quindi i tuoi prompt e le risposte possono restare sul tuo dispositivo. Le chiamate vanno direttamente al modello scelto usando le tue chiavi; un modello locale non lascia mai la tua macchina.