osFoundry / Platform
Multi Chat
Jalankan prompt yang sama di dua model atau lebih secara berdampingan. Bandingkan jawaban, biaya, latensi — pilih yang terbaik.
Apa itu
Multi Chat menjalankan satu prompt ke dua model atau lebih sekaligus dan menata jawabannya berdampingan dalam satu tampilan. Alih-alih menempelkan pertanyaan yang sama ke tab-tab terpisah dan menyimpan perbedaannya di kepala, Anda mengirim sekali dan membaca jawaban dalam kolom yang sejajar. Fitur ini ada di bagian AI & Orchestration osFoundry, jadi model yang Anda bandingkan bisa apa saja yang sudah Anda konfigurasikan: model lokal di mesin Anda sendiri, model cloud di balik API key Anda sendiri, atau endpoint yang di-host sendiri. Karena osFoundry menganut bring-your-own-key, biaya yang Anda lihat untuk tiap model adalah tarif asli penyedia Anda, tanpa markup reseller di atasnya.
Setiap kolom menampilkan jawaban model bersama angka-angka yang benar-benar menentukan mana yang Anda pertahankan: berapa biaya panggilan itu dan berapa lama waktu responsnya. Itu mengubah rasa samar "yang ini terasa lebih baik" menjadi perbandingan langsung soal kualitas, harga, dan latensi untuk prompt spesifik Anda. Model murah dan cepat mungkin sudah cukup untuk pekerjaan rutin, sementara model yang lebih lambat atau lebih mahal baru pantas dipakai pada prompt yang sulit. Multi Chat membuat Anda menemukan batas itu dengan menguji pada input nyata Anda sendiri, bukan pada benchmark.
Intinya adalah memilih pemenang untuk tugas di depan Anda lalu melanjutkan dengannya. Jalankan perbandingannya, lihat model mana yang memberi jawaban yang Anda inginkan pada biaya dan kecepatan yang Anda terima, lalu standarkan pada model itu: tanpa menebak-nebak, tanpa biaya beralih untuk mencoba kandidat berikutnya. Karena semuanya berjalan di dalam ruang kerja desktop local-first, prompt dan jawaban Anda bisa tetap di perangkat Anda alih-alih melewati lapisan perantara pihak ketiga.
Kemampuan utama
- Kirim satu prompt ke dua model atau lebih sekaligus dan baca setiap jawaban dalam kolom yang sejajar
- Bandingkan biaya per jawaban memakai tarif asli API key Anda sendiri, tanpa tambahan markup reseller
- Lihat latensi per model agar tahu model mana yang cukup cepat untuk tugasnya
- Gabungkan model lokal, cloud, dan yang di-host sendiri dalam satu perbandingan dari satu ruang kerja
- Pilih model pemenang berdasarkan input nyata Anda sendiri, bukan skor benchmark umum
Kasus penggunaan
- Developer: menguji prompt coding yang sama pada satu model lokal dan dua model cloud untuk menemukan yang termurah namun tetap benar
- Prompt engineer: mengutak-atik kalimat dan langsung melihat model mana yang paling baik menangani frasa baru dari sisi kualitas, biaya, dan kecepatan
- Team lead yang menilai penyedia: menjalankan prompt representatif secara berdampingan untuk memutuskan model mana yang akan distandarkan bagi tim sebelum berkomitmen
Pertanyaan yang sering diajukan
Berapa banyak model yang bisa saya bandingkan sekaligus?
Multi Chat menjalankan prompt yang sama pada dua model atau lebih secara berdampingan. Model mana yang tersedia bergantung pada apa yang Anda konfigurasikan di osFoundry (lokal, cloud, atau di-host sendiri), karena Anda memakai key Anda sendiri.
Dari mana angka biaya dan latensi berasal?
Biaya didasarkan pada tarif per-token asli penyedia Anda di bawah API key Anda sendiri, karena osFoundry bersifat bring-your-own-key dan tidak menambahkan markup reseller. Latensi diukur dari waktu respons nyata tiap model pada prompt Anda.
Apakah prompt saya dikirim ke server osFoundry?
osFoundry adalah ruang kerja desktop local-first, jadi prompt dan jawaban Anda bisa tetap di perangkat Anda. Panggilan langsung menuju model yang Anda pilih memakai key Anda sendiri; model lokal sama sekali tidak keluar dari mesin Anda.