osFoundry / Platform
클라우드 GPU
A100 / H100 / L40 인스턴스를 플랫폼에서 직접 임대하세요. 시간당 결제, 계약 없음.
개요
Cloud GPU는 NVIDIA 가속기 인스턴스(A100, H100, L40 등급 하드웨어)를 osFoundry 안에서 바로 대여하고 시간 단위로 결제하는 기능으로, 계약도 예약 용량 약정도 없습니다. 클라우드 계정을 만들고 GPU 할당량을 신청하고 드라이버와 CUDA를 직접 구성하는 대신, 인스턴스 선택기를 열어 VRAM과 리전으로 GPU를 고르면 플랫폼이 대신 프로비저닝해 줍니다. 작업이 끝나면 반납하고, 그 순간 과금이 멈춥니다.
osFoundry 안에서는 같은 대여 GPU가 별도 설정 없이 세 가지 워크플로를 뒷받침합니다. 그 위에서 관리형 파인튜닝 작업을 실행하거나, 실험용으로 GPU 노트북을 띄우거나, 수요에 따라 클라우드 GPU를 프로비저닝하는 오토스케일링 엔드포인트로 모델을 배포할 수 있습니다. 인스턴스 선택기는 가격을 하드코딩된 표가 아니라 서버에서 실시간으로 가져오므로, GPU 모델, 메모리, vCPU, RAM, 예상 콜드 스타트 시간과 함께 표시되는 시간당 요금이 실제로 청구되는 요금 그대로입니다. 실제 가격을 불러올 수 없으면, 플랫폼은 지키지 못할 숫자를 제시하는 대신 선택할 항목을 아무것도 보여 주지 않습니다.
이것이 중요한 이유는 GPU 사용 시간이 비싸고 켜 둔 채 잊기 쉽기 때문입니다. 프로비저닝 시점에 시작해 반납 시점에 끝나는 시간당 과금은 최소 사용 기간이 없어, 5분짜리 실험은 저렴하게 유지하고 방치된 인스턴스의 비용은 눈에 보이게 남깁니다. osFoundry는 로컬 우선이라 작은 작업은 내 기기 GPU에서 무료로 돌아가고, 모델이 정말로 내 컴퓨터가 가진 것보다 많은 VRAM을 요구할 때에만 대여한 A100이나 H100에 손을 뻗으면 됩니다. 워크스페이스의 나머지 부분과 같은 태도입니다. 키는 사용자의 것이고, 데이터는 가능한 한 사용자 곁에 두며, 유료 인프라는 사용자가 선택할 때만 작동합니다.
주요 기능
- A100, H100, L40 등급 NVIDIA GPU 인스턴스를 필요할 때 대여하세요. 할당량 신청도, 조달 절차도, 예약 용량 계약도 없습니다
- 시간 단위로 결제합니다. 과금은 인스턴스 프로비저닝 시점에 시작해 반납 시점에 멈추며, 해지할 것도 최소 사용 기간도 없습니다
- 확정 전에 GPU 모델, VRAM, vCPU, RAM, 리전, 예상 콜드 스타트 시간을 보여 주는 서버 실시간 가격 목록에서 인스턴스를 고르세요
- 같은 대여 GPU를 파인튜닝 작업, Jupyter 스타일 노트북, 오토스케일링 모델 엔드포인트에 하나의 워크스페이스에서 모두 사용하세요
- 작은 작업은 내 하드웨어에서 무료로 유지하세요. 기기 GPU 실행에는 비용이 들지 않으며, 모델이 가진 것보다 많은 VRAM을 요구할 때만 클라우드 GPU를 씁니다
활용 사례
- ML 엔지니어: 노트북에 올라가지 않는 13B 모델을, 학습 실행 시간만큼 H100을 대여해 파인튜닝하고 작업이 끝나는 즉시 반납한다
- 연구자: A100에서 GPU 노트북을 열어 오후 내내 실험하고, 사전에 계정이나 할당량을 설정할 필요 없이 인스턴스가 켜져 있던 시간만큼만 결제한다
- 프로덕트 팀: L40 등급 GPU에 모델을 오토스케일링 엔드포인트로 배포하고, 요청량이 오르내리는 데 맞춰 플랫폼이 용량을 시간 단위로 프로비저닝하고 과금하도록 맡긴다
자주 묻는 질문
어떤 GPU를 대여할 수 있고 비용은 얼마인가요?
A100, H100, L40 등급 NVIDIA 인스턴스를 대여할 수 있습니다. 요금은 시간 단위이며 인스턴스 선택기 안에서 실시간으로 제공되어, 각 GPU의 모델, VRAM, vCPU, RAM, 리전, 예상 콜드 스타트 시간을 보여 줍니다. osFoundry는 앱 안에 고정 가격표를 의도적으로 게시하지 않습니다. 청구되는 요금은 사용자가 선택하는 순간 서버가 제시하는 요금 그대로이기 때문입니다. 내 리전의 현재 시간당 비용은 실시간 선택기에서 확인하세요.
시간당 과금은 어떻게 작동하며 계약이 있나요?
계약도, 예약도, 최소 사용 기간도 없습니다. 과금은 인스턴스 프로비저닝 시점에 시작해 반납 시점에 멈추므로, 짧은 실험은 한 시간의 일부 비용만 들고 해지할 것도 없습니다. 다만 엔드포인트를 배포하면 모델이 완전히 준비되기 전이라도 GPU가 켜지는 즉시 프로비저닝과 과금이 시작되니, 더 이상 쓰지 않는 인스턴스는 반납하세요.
클라우드 GPU를 꼭 써야 하나요, 아니면 모델을 로컬에서 돌릴 수 있나요?
모델을 내 기기 GPU에서 무료로 돌릴 수 있습니다. osFoundry는 로컬 우선이며, 로컬 학습과 추론은 클라우드 크레딧을 쓰지 않습니다. 클라우드 GPU는 모델이 내 컴퓨터가 가진 것보다 많은 VRAM을 요구할 때, 또는 파인튜닝 작업이나 서비스 중인 엔드포인트를 위한 전용 가속기 용량이 필요할 때를 위한 것입니다. 로컬에 머물지 대여할지는 워크로드별로 선택합니다.