osFoundry / Platform
사용량
토큰, 실행, 달러. 카테고리별 모든 비용을 드릴다운할 수 있는 차트로.
개요
Usage는 osFoundry의 비용 및 활동 대시보드입니다. osFoundry는 자체 키 방식(BYOK)이므로 실행한 모델의 요금은 리셀러 마진 없이 여러분의 프로바이더 계정에 곧바로 청구됩니다. 그런데 그 때문에 지출이 여러분이 쓰는 모든 프로바이더 콘솔에 흩어지게 됩니다. Usage는 이를 한곳으로 다시 모읍니다. 소비된 토큰, 실행된 횟수, 그리고 각각의 비용을 기록한 뒤, 한눈에 읽을 수도 있고 카테고리별로 파고들 수도 있는 하나의 차트로 묶어냅니다.
이 뷰는 서로 다른 세 가지 질문에 답하는 세 가지 단위를 중심으로 구성됩니다. 토큰은 모델이 실제로 무엇을 처리했는지 알려줍니다. 실행 횟수는 얼마나 많은 작업이 일어났는지, 즉 얼마나 많은 채팅, 에이전트 실행, 작업이 지나갔는지 알려줍니다. 비용은 그것이 얼마였는지 알려줍니다. 이 각각이 카테고리별로 분해되므로, 불투명한 합계 하나 대신 워크스페이스의 어느 부분이(어느 모델, 프로바이더, 어떤 종류의 활동이) 그 숫자를 끌어올리고 있는지 볼 수 있습니다. osFoundry는 채팅, 에이전트, 앱, 코드, 지식, 데이터를 한곳에 모으므로, 카테고리별 분해야말로 급증이 더 이상 수수께끼가 아니게 되는 지점입니다. 커진 구간을 클릭하면 그 정체가 드러납니다.
이는 여러 프로바이더의 여러 모델을 동시에 돌리는 사람에게 가장 중요합니다. 로컬 모델은 API 비용이 아니라 연산 자원을 쓰고, 클라우드와 자체 호스팅 모델은 청구 방식이 다르며, 단 한 번의 에이전트 실행이 그중 여럿에 걸칠 수 있습니다. Usage는 이 모든 것을 비교 가능한 토큰, 실행 횟수, 비용으로 맞춰 정리하는 유일한 화면입니다. 그래서 폭주하는 에이전트를 잡아내고, 어떤 작업을 클라우드 대신 로컬 모델에 맡겨야 할지 판단하고, 프로바이더 청구서가 도착하기 전에 이번 달 비용이 얼마일지 미리 알 수 있습니다. osFoundry의 나머지와 마찬가지로 로컬 우선이므로, 무엇을 실행했는지에 대한 기록은 여러분의 워크스페이스에 남습니다.
주요 기능
- 세 가지 단위(소비된 토큰, 실행된 횟수, 비용)를 나란히 추적해 수행한 작업과 그 비용을 함께 볼 수 있습니다
- 모든 합계를 불투명한 숫자 하나로 보여주는 대신 카테고리별(모델, 프로바이더, 활동 종류)로 분해합니다
- 차트의 어느 구간이든 파고들어 급증을 일으킨 워크스페이스의 부분을 확인할 수 있습니다
- 로컬, 클라우드, 자체 호스팅 모델에 걸친 지출을 비교 가능한 하나의 뷰로 맞춰 정리하며, BYOK가 청구를 모든 프로바이더 콘솔에 흩뜨리기 때문에 유용합니다
- 로컬 우선: 사용 기록은 여러분의 워크스페이스에 남고, 비용은 여러분 자신의 프로바이더 요율로 청구되며 리셀러 마진이 붙지 않습니다
활용 사례
- 1인 BYOK 사용자: 청구가 이뤄지기 전에 osFoundry 활동을 프로바이더 청구서와 대조하려고 월말에 Usage를 연다
- 에이전트 빌더: 한 실행 카테고리가 다른 것들보다 빠르게 오르는 것을 발견하고 파고들어 토큰을 태우는 루프를 찾아낸다
- 비용에 민감한 팀 리더: 모델별 비용을 비교해 어떤 작업을 클라우드 모델에서 로컬 모델로 옮겨야 할지 결정한다
자주 묻는 질문
osFoundry는 표시하는 사용 비용에 마진을 붙이나요?
아니요. osFoundry는 자체 키 방식이므로 모델은 여러분의 프로바이더 계정에 여러분 자신의 요율로 곧바로 청구됩니다. Usage는 그 실행이 여러분에게 얼마였는지를 보여줄 뿐, 그 위에 리셀러 마진을 얹지 않습니다.
차트의 토큰, 실행 횟수, 비용은 무엇이 다른가요?
토큰은 모델이 처리한 양, 실행 횟수는 채팅/에이전트 실행/작업이 몇 건 돌았는지, 비용은 그 가격입니다. 각각 텍스트의 양, 작업의 양, 가격이라는 세 가지 다른 질문에 답하며, 모두 카테고리별로 분해되어 무엇이 숫자를 끌어올리는지 볼 수 있습니다.
비용 급증의 원인이 된 모델이나 활동을 확인할 수 있나요?
네. 모든 합계는 카테고리별로 나뉘고 차트는 파고들 수 있습니다. 커진 구간을 클릭하면 그 뒤에 있는 모델, 프로바이더, 활동 종류를 보여주며, 여러분에게 뭉뚱그린 총액 하나만 남기지 않습니다.