osFoundry / Platform
Tahap pipeline
Definisikan dan versikan setiap tahap pipeline AI Anda — retrieve, rerank, generate, post-process.
Apa itu
Tahap pipeline adalah bagian osFoundry Studio tempat Anda memecah alur kerja AI menjadi langkah-langkah bernama dan berurutan, bukan satu prompt yang tidak transparan. Pipeline retrieval-augmented pada umumnya berjalan retrieve → rerank → generate → post-process, dan di sini masing-masing menjadi tahap tersendiri yang bisa Anda konfigurasi, periksa, dan ubah secara terpisah. Retrieve menarik konteks kandidat dari pengetahuan dan data Anda; rerank mempersempitnya ke yang benar-benar penting; generate memanggil sebuah model; dan post-process membersihkan, memvalidasi, atau menata ulang keluaran sebelum meninggalkan pipeline. Karena langkah-langkahnya eksplisit, Anda bisa melihat persis dari mana sebuah jawaban berasal dan tahap mana yang harus diperbaiki saat hasilnya keliru.
Di dalam osFoundry, setiap tahap didefinisikan di Studio dan berjalan melalui lapisan model BYOK yang sama dengan bagian lain workspace, sehingga Anda memilih model per tahap: model lokal kecil untuk reranking, model cloud untuk generation, apa pun yang cocok, dan Anda membayar langsung ke penyedia Anda tanpa markup reseller. Tahap-tahap diversikan: saat Anda mengubah prompt, model, atau parameter suatu tahap, definisi sebelumnya tetap disimpan, sehingga Anda bisa membandingkan versi, mengembalikan sebuah regresi, dan mengetahui konfigurasi mana yang menghasilkan hasil tertentu. Sebagai workspace desktop yang local-first, definisi pipeline Anda dan data yang disentuhnya bisa tetap berada di perangkat Anda alih-alih melewati layanan yang di-host.
Ini penting karena sebagian besar masalah kualitas AI adalah masalah tahap. Ketika retrieval mengembalikan dokumen yang salah, seberapa pun banyaknya penyetelan prompt di langkah generate tidak akan memperbaikinya. Memisahkan dan memversikan tahap mengubah keluhan samar "AI-nya salah" menjadi pertanyaan spesifik yang bisa diuji tentang satu langkah, dan memungkinkan Anda memperbaiki pipeline seperti Anda memperbaiki sistem rekayasa lainnya: satu perubahan pada satu waktu, dengan riwayat yang bisa Anda percaya.
Kemampuan utama
- Definisikan pipeline AI sebagai tahap-tahap berurutan dan bernama (retrieve, rerank, generate, post-process), bukan satu prompt monolitik
- Versikan setiap tahap secara independen, sehingga Anda bisa membandingkan konfigurasi, mengembalikan sebuah regresi, dan melihat definisi mana yang menghasilkan suatu hasil
- Pilih model per tahap dengan kunci API Anda sendiri (lokal, cloud, atau self-hosted) dan bayar langsung ke penyedia tanpa markup
- Isolasikan masalah kualitas ke satu langkah saja: ketahui apakah masalahnya di retrieval, reranking, generation, atau post-processing
- Simpan definisi pipeline dan datanya secara local-first di desktop Anda, bukan dirutekan melalui layanan yang di-host
Kasus penggunaan
- Pembangun RAG: memisahkan retrieve dan rerank dari generate sehingga jawaban yang salah bisa ditelusuri ke retrieval yang buruk alih-alih menyalahkan prompt
- Insinyur ML: memversikan setiap tahap saat menyetel, membandingkan reranker atau model generation baru dengan definisi sebelumnya sebelum menetapkannya
- Tim yang peduli privasi: menjalankan retrieval atas pengetahuan lokal dan menyimpan seluruh definisi pipeline di perangkat, hanya memanggil model cloud pada tahap generate
Pertanyaan yang sering diajukan
Apa saja tahap dalam pipeline AI osFoundry?
Pola umumnya adalah retrieve → rerank → generate → post-process: menarik konteks kandidat, mempersempitnya ke yang paling relevan, memanggil model, lalu memvalidasi atau menata ulang keluaran. Anda mendefinisikan tahap yang dibutuhkan alur kerja Anda dan menetapkan urutannya; masing-masing dikonfigurasi secara terpisah.
Bisakah saya memakai model berbeda untuk setiap tahap?
Bisa. osFoundry bersifat bring-your-own-key, jadi setiap tahap bisa memanggil model yang berbeda: model lokal untuk reranking, model cloud untuk generation, model self-hosted di tempat lain, menggunakan kunci API Anda sendiri tanpa markup reseller.
Apa manfaat nyata memversikan sebuah tahap?
Saat Anda mengubah prompt, model, atau parameter suatu tahap, definisi sebelumnya tetap disimpan. Anda bisa membandingkan versi, mengembalikan jika sebuah perubahan memperburuk hasil, dan mengaitkan keluaran tertentu ke konfigurasi tahap persis yang menghasilkannya.