osFoundry / Platform
Penggunaan
Token, run, dolar — setiap biaya, per kategori, dalam grafik yang dapat ditelusuri.
Apa itu
Usage adalah dasbor biaya dan aktivitas osFoundry. Karena osFoundry menganut bring-your-own-key, model yang Anda jalankan ditagih langsung ke akun penyedia Anda sendiri tanpa markup reseller. Ini juga berarti pengeluaran itu tersebar di setiap konsol penyedia yang Anda pakai. Usage menariknya kembali ke satu tempat: ia mencatat token yang dikonsumsi, run yang dijalankan, dan biaya masing-masing, lalu merangkumnya menjadi satu grafik yang bisa Anda baca sekilas atau telusuri per kategori.
Tampilan ini dibangun di sekitar tiga satuan yang menjawab tiga pertanyaan berbeda. Token memberi tahu Anda apa yang sebenarnya diproses model. Run memberi tahu Anda seberapa banyak pekerjaan terjadi: berapa banyak chat, run agen, atau job yang lewat. Biaya memberi tahu Anda berapa harganya. Masing-masing dirinci per kategori, sehingga alih-alih satu total buram, Anda bisa melihat bagian mana dari ruang kerja Anda (model, penyedia, atau jenis aktivitas mana) yang mendorong angka itu. Karena osFoundry menyatukan chat, agen, aplikasi, kode, pengetahuan, dan data di satu tempat, rincian per kategori adalah tempat lonjakan berhenti menjadi misteri: Anda klik segmen yang membesar dan melihat apa penyebabnya.
Ini paling penting bagi orang yang menjalankan banyak model dari banyak penyedia sekaligus. Model lokal memakan komputasi, bukan dolar API, model cloud dan self-hosted ditagih dengan cara berbeda, dan satu run agen bisa menyentuh beberapa di antaranya. Usage adalah satu-satunya permukaan yang merekonsiliasi semua itu menjadi token, run, dan biaya yang sebanding, sehingga Anda bisa menangkap agen yang lepas kendali, memutuskan apakah sebuah tugas lebih cocok di model lokal ketimbang cloud, atau sekadar tahu berapa biaya bulan ini sebelum tagihan penyedia tiba. Ini local-first seperti bagian osFoundry lainnya, jadi catatan tentang apa yang Anda jalankan tetap berada di ruang kerja Anda.
Kemampuan utama
- Melacak tiga satuan berdampingan (token yang dikonsumsi, run yang dijalankan, dan biaya) sehingga Anda melihat pekerjaan yang dilakukan sekaligus harganya
- Merinci setiap total per kategori (model, penyedia, dan jenis aktivitas) alih-alih menampilkan satu angka buram
- Telusuri segmen grafik mana pun untuk melihat bagian ruang kerja mana yang memicu lonjakan
- Merekonsiliasi pengeluaran lintas model lokal, cloud, dan self-hosted menjadi satu tampilan yang sebanding, berguna karena BYOK menyebar penagihan ke setiap konsol penyedia
- Local-first: catatan penggunaan Anda tetap di ruang kerja Anda, dengan biaya ditagih pada tarif penyedia Anda sendiri dan tanpa markup reseller
Kasus penggunaan
- Pengguna BYOK perseorangan: membuka Usage di akhir bulan untuk mencocokkan aktivitas osFoundry dengan tagihan penyedia sebelum tagihan datang
- Pembuat agen: melihat satu kategori run naik lebih cepat dari yang lain lalu menelusuri untuk menemukan loop yang membakar token
- Pemimpin tim yang hemat biaya: membandingkan biaya per model untuk memutuskan tugas mana yang sebaiknya pindah dari model cloud ke model lokal
Pertanyaan yang sering diajukan
Apakah osFoundry menambahkan markup pada biaya penggunaan yang ditampilkan?
Tidak. osFoundry menganut bring-your-own-key, jadi model ditagih langsung ke akun penyedia Anda sendiri dengan tarif Anda sendiri. Usage melaporkan berapa biaya run tersebut bagi Anda; tidak ada margin reseller yang ditambahkan di atasnya.
Apa beda token, run, dan biaya di grafik?
Token adalah apa yang diproses model, run adalah berapa banyak chat/run agen/job yang berjalan, dan biaya adalah harganya. Ketiganya menjawab tiga pertanyaan berbeda (volume teks, jumlah pekerjaan, dan harga) dan masing-masing dirinci per kategori agar Anda bisa melihat apa yang mendorong angkanya.
Bisakah saya melihat model atau aktivitas mana yang bertanggung jawab atas lonjakan biaya?
Bisa. Setiap total dipecah per kategori dan grafiknya bisa ditelusuri: klik segmen yang membesar dan ia menampilkan model, penyedia, atau jenis aktivitas di baliknya, bukan sekadar meninggalkan Anda dengan satu jumlah total.