osFoundry / Platform
Playground model
Uji model apa pun dalam antarmuka prompt → response sandbox dengan akuntansi token / biaya penuh.
Apa itu
Model playground adalah sandbox di dalam osFoundry tempat Anda mengetik prompt, memilih model, dan melihat respons beserta biaya persisnya. Ini cara tercepat untuk menjawab pertanyaan yang muncul sebelum Anda memasang sebuah model ke chat, agent, atau loop otomatis: Apakah model ini mengikuti instruksi saya? Bagaimana keluarannya dibandingkan model lain pada prompt yang sama? Berapa token yang sebenarnya dihabiskan jawaban itu, dan berapa biayanya bagi saya? Karena osFoundry bersifat bring-your-own-key, biaya yang ditampilkan adalah harga asli penyedia terhadap akun Anda sendiri: tidak ada markup reseller yang menyelip di antara Anda dan model.
Di dalam osFoundry, playground memakai koneksi model yang sama seperti bagian lain workspace Anda, sehingga model apa pun yang sudah Anda pasang bisa diuji di sini: model lokal yang berjalan di mesin Anda sendiri, model cloud yang dijangkau dengan kunci API Anda sendiri, atau model yang Anda swakelola. Anda mengirim satu prompt, mendapat satu respons, dan antarmuka melaporkan penghitungan token untuk pertukaran itu (token prompt masuk, token completion keluar) serta biaya yang diturunkan darinya. Itu menjadikan playground tempat untuk mematangkan sebuah prompt dan membaca ekonomi per-permintaan yang sebenarnya sebelum model itu bekerja dalam skala besar, di mana selisih kecil per-panggilan berlipat ganda di setiap eksekusi.
Menjadi workspace desktop yang local-first penting bagi apa yang bisa Anda uji di sini. Ketika Anda mengarahkan playground ke model yang berjalan di perangkat Anda sendiri, prompt dan respons tidak pernah meninggalkan mesin Anda, sehingga Anda bisa beriterasi pada prompt yang sensitif atau berpemilik tanpa mengirimkannya ke pihak ketiga. Loop yang sama, prompt → respons → biaya, bekerja baik model itu lokal, cloud, maupun swakelola, dan itulah yang membuat Anda bisa mengambil keputusan yang jujur, membandingkan kualitas dan harga secara berdampingan lintas backend yang sangat berbeda dari satu antarmuka.
Kemampuan utama
- Kirim prompt ke model terhubung mana pun (lokal, cloud, atau swakelola) dan baca responsnya di satu antarmuka sandbox
- Lihat penghitungan token lengkap untuk setiap pertukaran: token prompt masuk, token completion keluar
- Dapatkan biaya per-permintaan yang sebenarnya dari harga penyedia BYOK Anda sendiri, tanpa markup reseller ditambahkan
- Coba prompt terhadap model lokal di perangkat Anda sendiri agar input sensitif tidak pernah meninggalkan mesin Anda
- Matangkan susunan kata prompt dan ukur biaya sebenarnya sebelum memasang model ke chat, agent, atau loop
Kasus penggunaan
- Developer memilih model: jalankan prompt yang sama terhadap model lokal dan model cloud, lalu bandingkan kualitas keluaran dengan biaya token sebelum memutuskan
- Prompt engineer: beriterasi pada susunan kata di sandbox dan amati bagaimana tiap revisi mengubah jumlah token dan biaya
- Analis yang sadar privasi: uji prompt berisi data rahasia terhadap model yang di-host lokal agar tidak ada yang dikirim ke API eksternal
Pertanyaan yang sering diajukan
Model apa saja yang bisa saya uji di playground?
Model apa pun yang sudah Anda hubungkan di osFoundry: model yang berjalan lokal di mesin Anda, model cloud yang dijangkau dengan kunci API Anda sendiri, atau model yang Anda swakelola. Playground memakai koneksi yang sama seperti bagian lain workspace, jadi jika Anda bisa memakai sebuah model di tempat lain dalam osFoundry, Anda bisa mengujinya di sini.
Bagaimana biaya dihitung, dan apakah ada markup?
Biaya diturunkan dari penghitungan token permintaan Anda terhadap harga milik penyedia Anda sendiri. osFoundry bersifat bring-your-own-key, jadi Anda membayar langsung ke penyedia dan tidak ada markup reseller yang ditambahkan di atasnya; angka yang Anda lihat mencerminkan harga asli panggilan itu pada akun Anda.
Bisakah saya menguji prompt secara privat tanpa mengirim data ke penyedia cloud?
Bisa. osFoundry adalah workspace desktop yang local-first. Ketika Anda mengarahkan playground ke model yang berjalan di perangkat Anda sendiri, prompt dan respons tetap di mesin Anda dan tidak dikirim ke layanan eksternal mana pun, yang berguna untuk beriterasi pada prompt sensitif atau berpemilik.