osFoundry / Platform
학습
자신의 데이터로 모델을 파인튜닝하거나 LoRA 어댑팅하세요. 로컬, 워크스테이션, 또는 클라우드에서.
개요
osFoundry의 Training은 프롬프트에만 의존하지 않고 모델을 내 데이터에 맞게 적응시키게 해줍니다. 전체 파인튜닝을 하거나 더 가벼운 LoRA 적응을 할 수 있으며, 지원 상담 기록, 코드베이스 규칙, 내 글투, 라벨링한 레코드 같은 내 영역의 예시를 모델에 넣어 실제 업무가 요구하는 방식으로 답하게 만듭니다. Training은 osFoundry의 나머지 기능과 나란히 자리하므로, 학습시킨 모델은 같은 워크스페이스의 채팅, 에이전트, 앱에서 곧바로 쓸 수 있는 모델입니다.
osFoundry는 BYOK이자 로컬 우선이므로, 학습은 내 데이터와 하드웨어에 맞는 곳에서 돌아갑니다. 내 컴퓨터의 로컬, 성능 좋은 GPU를 갖춘 전용 워크스테이션, 그리고 책상 위 환경으로는 힘이 부족할 때는 클라우드에서 실행할 수 있습니다. 런타임은 여러분이 고릅니다. osFoundry는 학습 데이터를 리셀러를 거치도록 강요하지도, 연산 위에 마진을 얹지도 않습니다. 학습이 로컬이나 내 워크스테이션에서 돌아갈 때 데이터는 기기에 머물 수 있습니다. 적응된 모델을 만들기 위해 무언가를 밖으로 내보낼 필요가 없습니다. 대부분에게는 LoRA가 실용적인 기본값입니다. 모델 전체를 다시 쓰지 않고 작은 어댑터 가중치 묶음만 학습하므로 더 저렴하고 빠르며 소박한 하드웨어에도 들어맞고, 모델을 더 깊이 바꿔야 할 때를 위해 전체 파인튜닝도 준비되어 있습니다.
이것이 중요한 이유는 프롬프트가 담을 수 있는 정보에는 한계가 있고, 매 요청마다 같은 맥락을 붙여 넣는 일은 비싸고 취약하기 때문입니다. Training은 여러분의 패턴을 한 번에 가중치에 새겨 넣으므로 동작이 일관되고, 매번 스스로를 다시 설명하는 데 좌우되지 않습니다. 키는 여러분이 제공하고, 좌석당 요금이 없으며, 지식과 데이터가 이미 같은 워크스페이스에 있는 osFoundry의 BYOK 모델과 맞물리면, Training은 여러분이 가진 데이터와 그에 맞춰 실제로 돌리는 모델 사이의 고리를 닫아 줍니다.
주요 기능
- 내 데이터로 모델을 파인튜닝하거나 LoRA로 적응: 깊은 변경에는 전체 파인튜닝, 소박한 하드웨어에서 더 저렴하고 빠르게 하려면 LoRA
- 학습을 로컬, GPU 워크스테이션, 클라우드에서 실행: 데이터와 하드웨어에 맞춰 런타임을 직접 선택
- 로컬과 워크스테이션 학습은 데이터를 기기에 유지: 적응된 모델을 만들기 위해 무엇도 밖으로 내보낼 필요 없음
- 키는 직접 제공, 좌석당 요금 없음: 학습이나 추론 연산 위에 얹히는 리셀러 마진 없음
- 학습시킨 모델을 같은 워크스페이스의 채팅, 에이전트, 앱에서 곧바로 사용
활용 사례
- ML 엔지니어: 오픈 모델을 워크스테이션 GPU에서 팀의 코드베이스 규칙에 LoRA로 적응시킨 뒤 같은 워크스페이스의 코딩 에이전트에 연결
- 도메인 전문가: 라벨링한 레코드와 상담 기록으로 모델을 파인튜닝해 긴 프롬프트 없이도 여러분의 용어를 쓰고 사내 문체로 답하게 만들기
- 프라이버시가 민감한 팀: 로컬에서 학습해 독점 또는 규제 대상 데이터가 기기를 절대 벗어나지 않게 하고, 적응된 모델을 온전히 통제 아래 두기
자주 묻는 질문
여기서 LoRA와 전체 파인튜닝의 차이는 무엇인가요?
전체 파인튜닝은 모델의 모든 가중치를 갱신해 동작을 더 깊이 바꾸지만 연산과 메모리를 더 많이 씁니다. LoRA는 대신 작은 어댑터 가중치 묶음만 학습하므로 더 빠르고 저렴하며 소박한 하드웨어에서도 돌아갑니다. osFoundry는 둘 다 지원합니다. 대부분의 작업에는 LoRA가 실용적인 선택이고, 모델을 더 철저히 바꿔야 할 때는 전체 파인튜닝을 쓸 수 있습니다.
학습 데이터가 제 컴퓨터를 벗어나나요?
작업을 어디서 돌리느냐에 달렸습니다. 로컬이나 내 워크스테이션에서 학습하면 데이터는 기기에 머물 수 있습니다. osFoundry는 로컬 우선이라 적응된 모델을 만들기 위해 데이터를 어딘가로 보낼 필요가 없습니다. 더 많은 연산을 위해 클라우드에서 학습하기로 하면 데이터는 여러분이 고른 런타임으로 갑니다. 이 선택은 기본값으로 정해지는 것이 아니라 여러분이 의도해서 내리는 것입니다.
학습을 마친 직후에 그 모델을 바로 쓸 수 있나요?
네. osFoundry에서 적응시킨 모델은 같은 워크스페이스에서 바로 쓸 수 있으므로, 다른 곳으로 내보내지 않고도 채팅, 에이전트, 앱에 투입할 수 있습니다. osFoundry는 BYOK이고 좌석당 요금이 없으므로, 모델을 학습시키는 일과 그 모델로 실행하는 일 사이에 리셀러 마진이나 추가 좌석 비용이 끼어들지 않습니다.