osFoundry / Platform
파이프라인 단계
AI 파이프라인의 모든 단계 — 검색, 재정렬, 생성, 후처리 — 를 정의하고 버전 관리하세요.
개요
파이프라인 단계는 AI 워크플로를 불투명한 하나의 프롬프트가 아니라 이름이 붙은 순서 있는 스텝으로 나누는 osFoundry Studio의 기능입니다. 전형적인 검색 증강 파이프라인은 검색 → 재순위 → 생성 → 후처리 순으로 실행되며, 여기서는 각각이 별개의 단계가 되어 개별적으로 구성하고 검사하고 변경할 수 있습니다. 검색은 지식과 데이터에서 후보 컨텍스트를 끌어오고, 재순위는 실제로 중요한 것으로 좁히며, 생성은 모델을 호출하고, 후처리는 출력이 파이프라인을 떠나기 전에 정리하고 검증하거나 형태를 다듬습니다. 스텝이 명시적이기 때문에 답이 어디에서 나왔는지, 잘못됐을 때 어느 단계를 고쳐야 하는지 정확히 볼 수 있습니다.
osFoundry 안에서 모든 단계는 Studio에서 정의되고 워크스페이스의 나머지와 동일한 BYOK 모델 계층을 통해 실행되므로, 단계마다 모델을 고를 수 있습니다. 재순위에는 작은 로컬 모델을, 생성에는 클라우드 모델을, 상황에 맞는 대로 선택하고, 재판매 마진 없이 공급자에게 직접 비용을 지불합니다. 단계는 버전 관리됩니다. 어떤 단계의 프롬프트, 모델, 파라미터를 바꿔도 이전 정의가 보존되므로 버전을 비교하고, 나빠진 변경을 되돌리며, 어떤 구성이 특정 결과를 만들었는지 알 수 있습니다. 로컬 우선 데스크톱 워크스페이스이기에 파이프라인 정의와 그것이 다루는 데이터는 호스팅 서비스를 거치지 않고 사용자 기기에 머무를 수 있습니다.
이것이 중요한 이유는 대부분의 AI 품질 문제가 단계의 문제이기 때문입니다. 검색이 엉뚱한 문서를 가져오면 생성 스텝에서 프롬프트를 아무리 손봐도 해결되지 않습니다. 단계를 분리하고 버전 관리하면 모호한 "AI가 틀렸다"가 하나의 스텝에 관한 구체적이고 검증 가능한 질문으로 바뀌고, 다른 공학 시스템을 개선하듯 파이프라인을 개선할 수 있습니다. 한 번에 하나씩 바꾸며, 신뢰할 수 있는 이력과 함께 말입니다.
주요 기능
- AI 파이프라인을 하나의 거대한 프롬프트가 아니라 순서와 이름이 있는 단계(검색, 재순위, 생성, 후처리)로 정의합니다
- 각 단계를 독립적으로 버전 관리하여 구성을 비교하고, 나빠진 변경을 되돌리며, 어떤 정의가 결과를 만들었는지 확인합니다
- 자신의 API 키로 단계마다 모델을 선택하고(로컬, 클라우드, 자체 호스팅) 마진 없이 공급자에게 직접 비용을 지불합니다
- 품질 문제를 단일 스텝으로 좁힙니다. 원인이 검색, 재순위, 생성, 후처리 중 어디에 있는지 알 수 있습니다
- 파이프라인 정의와 그 데이터를 호스팅 서비스로 보내지 않고 데스크톱에 로컬 우선으로 보관합니다
활용 사례
- RAG 구축자: 검색과 재순위를 생성과 분리해, 잘못된 답을 프롬프트 탓으로 돌리지 않고 부실한 검색까지 추적합니다
- ML 엔지니어: 튜닝 중 각 단계를 버전 관리하며, 새 재순위기나 생성 모델을 이전 정의와 비교한 뒤 확정합니다
- 프라이버시 중시 팀: 로컬 지식에 대해 검색을 수행하고 전체 파이프라인 정의를 기기에 보관하며, 생성 단계에서만 클라우드 모델을 호출합니다
자주 묻는 질문
osFoundry AI 파이프라인에는 어떤 단계가 있나요?
흔한 패턴은 검색 → 재순위 → 생성 → 후처리입니다. 후보 컨텍스트를 끌어오고, 가장 관련 있는 것으로 좁히고, 모델을 호출한 뒤 출력을 검증하거나 형태를 다듬습니다. 워크플로에 필요한 단계를 직접 정의하고 순서를 정하며, 각 단계를 개별로 구성합니다.
단계마다 다른 모델을 쓸 수 있나요?
네. osFoundry는 자체 키 방식이라 각 단계가 서로 다른 모델을 호출할 수 있습니다. 재순위에는 로컬 모델, 생성에는 클라우드 모델, 다른 곳의 자체 호스팅 모델을 자신의 API 키로, 재판매 마진 없이 사용합니다.
단계를 버전 관리하면 실제로 무엇을 얻나요?
단계의 프롬프트, 모델, 파라미터를 바꿔도 이전 정의가 유지됩니다. 버전을 비교하고, 변경으로 결과가 나빠지면 되돌리며, 특정 출력을 그것을 만든 정확한 단계 구성과 연결할 수 있습니다.