osFoundry / Platform
모델 플레이그라운드
전체 토큰 / 비용 계산이 포함된 샌드박스 프롬프트 → 응답 인터페이스에서 어떤 모델이든 테스트하세요.
개요
Model playground는 프롬프트를 입력하고 모델을 고르면 응답과 함께 그 비용이 정확히 얼마였는지 바로 확인할 수 있는 osFoundry 내부의 샌드박스입니다. 모델을 채팅이나 agent, 자동화 루프에 투입하기 전에 떠오르는 질문에 가장 빠르게 답하는 방법입니다. 이 모델은 내 지시를 따르는가? 같은 프롬프트에서 다른 모델과 비교하면 출력이 어떤가? 그 답변은 실제로 토큰을 얼마나 소비했고, 내게 얼마의 비용이 들었는가? osFoundry는 bring-your-own-key이므로, 표시되는 비용은 당신 자신의 계정에 대한 제공업체의 실제 가격이며, 당신과 모델 사이에 재판매 마진이 끼어들지 않습니다.
osFoundry 내부에서 playground는 워크스페이스의 다른 부분이 쓰는 것과 동일한 모델 연결을 사용합니다. 그래서 연결해 둔 모델이라면 무엇이든 여기서 테스트할 수 있습니다. 자신의 컴퓨터에서 도는 로컬 모델, 자신의 API 키로 접근하는 클라우드 모델, 직접 자체 호스팅하는 모델 모두입니다. 프롬프트 하나를 보내면 응답 하나를 받고, 화면은 그 교환의 토큰 집계, 즉 입력 측 프롬프트 토큰과 출력 측 완성 토큰, 그리고 거기서 산출된 비용을 보여 줍니다. 이 덕분에 playground는 모델이 대규모로 실제 작업을 하기 전에 프롬프트를 다듬고 요청당 실제 경제성을 읽어 내는 곳이 됩니다. 호출당 작은 차이는 실행 횟수만큼 배가되기 때문입니다.
데스크톱이자 로컬 우선 워크스페이스라는 점은 여기서 무엇을 테스트할 수 있는지에 직접 영향을 줍니다. playground를 자신의 기기에서 도는 모델로 향하게 하면 프롬프트와 응답이 절대 기기 밖으로 나가지 않으므로, 민감하거나 독점적인 프롬프트를 제3자에게 보내지 않고도 반복해서 다듬을 수 있습니다. 프롬프트 → 응답 → 비용이라는 동일한 루프는 모델이 로컬이든 클라우드든 자체 호스팅이든 똑같이 동작하며, 바로 이 점이 서로 매우 다른 백엔드들을 하나의 화면에서 품질과 가격으로 정직하게 나란히 비교하게 해 줍니다.
주요 기능
- 연결된 어떤 모델(로컬, 클라우드, 자체 호스팅)에도 프롬프트를 보내고 단일 샌드박스 화면에서 응답을 확인
- 교환마다 완전한 토큰 집계를 확인: 입력 측 프롬프트 토큰, 출력 측 완성 토큰
- 자신의 BYOK 제공업체 가격으로 요청당 실제 비용을 확인, 재판매 마진 없음
- 자신의 기기에서 도는 로컬 모델로 프롬프트를 시험해 민감한 입력이 기기 밖으로 나가지 않게 함
- 모델을 채팅, agent, 루프에 연결하기 전에 프롬프트 문구를 다듬고 실제 비용을 측정
활용 사례
- 모델을 고르는 개발자: 같은 프롬프트를 로컬 모델과 클라우드 모델에 각각 돌려, 결정 전에 출력 품질과 토큰 비용을 비교
- 프롬프트 엔지니어: 샌드박스에서 문구를 반복 조정하며 각 수정이 토큰 수와 비용을 어떻게 바꾸는지 관찰
- 프라이버시를 중시하는 분석가: 기밀 데이터를 담은 프롬프트를 로컬 호스팅 모델로 테스트해 외부 API로 아무것도 전송되지 않게 함
자주 묻는 질문
playground에서 어떤 모델을 테스트할 수 있나요?
osFoundry에서 연결해 둔 모델이라면 무엇이든 됩니다. 자신의 컴퓨터에서 로컬로 도는 모델, 자신의 API 키로 접근하는 클라우드 모델, 직접 자체 호스팅하는 모델입니다. playground는 워크스페이스의 다른 부분과 동일한 연결을 사용하므로, osFoundry의 다른 곳에서 쓸 수 있는 모델이라면 여기서도 테스트할 수 있습니다.
비용은 어떻게 계산되며, 마진이 붙나요?
비용은 당신 요청의 토큰 집계를 제공업체 자체 가격에 적용해 산출됩니다. osFoundry는 bring-your-own-key이므로 제공업체에 직접 지불하며 위에 재판매 마진이 붙지 않습니다. 표시되는 숫자는 당신 계정에서 그 호출의 실제 가격을 반영합니다.
클라우드 제공업체로 데이터를 보내지 않고 프롬프트를 비공개로 테스트할 수 있나요?
네. osFoundry는 로컬 우선 데스크톱 워크스페이스입니다. playground를 자신의 기기에서 도는 모델로 향하게 하면 프롬프트와 응답이 기기에 머물고 어떤 외부 서비스로도 전송되지 않으므로, 민감하거나 독점적인 프롬프트를 반복해 다듬을 때 유용합니다.