osFoundry / Platform
공개 앱 요청 한도 제한
공개 앱에 대한 IP별, 토큰별로 조정 가능한 요청 한도. 폭주를 처리하는 기본값.
개요
osFoundry의 공개 앱 속도 제한은 공개적으로 제공하는 모든 앱 앞단에 설정 가능한 스로틀을 둡니다. 한도는 서로 맞물려 작동하는 두 가지 방식으로 정합니다. IP별 한도는 단일 클라이언트 주소가 한 시간 창 안에서 보낼 수 있는 요청 수를 제한하고, 토큰별 한도는 특정 액세스 토큰이나 API 키에 묶인 사용량을 제한합니다. IP별 한도는 한 출처에서 쏟아지는 홍수를 무디게 만들고, 토큰별 한도는 공유되거나 유출된 자격 증명이 할당량을 통째로 삼키는 것을 막습니다. osFoundry는 자기 키를 직접 가져오는(BYOK) 방식이라, 공개 앱이 모델로 흘려보내는 요청은 결국 당신이 소유한 키에 과금됩니다. 따라서 한도가 없는 엔드포인트는 부하 문제일 뿐 아니라 청구 문제이기도 합니다. 속도 제한은 급증이 공급자 청구서 위의 뜻밖의 사태로 번지는 것을 막아 주는 경계선입니다.
osFoundry 안에서 이 기능은 앱을 패키징하고 노출하는 나머지 방식들과 나란히 Apps & Backend 계층에 자리합니다. 앱을 공개로 전환하는 순간, 한도는 이미 켜져 있으며 그 기본값은 '접속 폭주', 즉 링크가 널리 공유되어 예상보다 빠르게 트래픽이 밀려드는 그 순간을 견디도록 골라져 있습니다. 앱이 쓰러지거나 키가 소진되는 대신, 넘치는 요청은 에지에서 되돌려 보내져 정상 트래픽은 계속 흐릅니다. 그다음부터는 모든 한도를 조정할 수 있습니다. 붐빌 것으로 예상되는 앱은 상한을 높이고, 실험적인 것은 죄고, 자격 증명마다 토큰별 한도를 두어 소비자별로 서로 다른 예산을 줄 수 있습니다.
이것이 중요한 이유는, 공개 AI 앱에는 대부분의 정적 사이트에는 없는 비용 표면이 있기 때문입니다. 공유된 URL 하나, 스크레이퍼 하나, 통제를 벗어난 클라이언트 하나가 몇 분 만에 수천 번의 모델 호출을 만들어 낼 수 있습니다. IP별·토큰별 한도는 예측 가능한 최악의 경우를 제공합니다. 앱이 거절을 시작하기 전에 감당할 최대 지출과 부하를 당신이 정하는 것입니다. osFoundry의 로컬 우선, 리셀러 마진 없는 모델과 결합하면 키도, 데이터도, 그리고 이제는 그 키가 뒤에 자리한 엔드포인트의 노출 면까지 당신 손에 남습니다.
주요 기능
- IP별 요청 한도를 설정해, 단일 클라이언트 주소가 주어진 시간 창 안에서 공개 앱을 얼마나 두드릴 수 있는지 제한한다
- 토큰별 한도를 설정해, 특정 액세스 토큰이나 API 키가 출처 IP와 무관하게 자체 사용 예산을 갖게 한다
- 별도 설정 없이도 '접속 폭주', 즉 공유 링크로 인한 갑작스러운 트래픽 급증을 흡수하도록 조율된 기본값으로 제공된다
- 넘치는 요청을 에지에서 되돌려, 홍수가 앱의 과금원인 BYOK 공급자 키를 소진하지 못하게 한다
- 앱의 실제 트래픽이 드러남에 따라 모든 상한을 앱별·자격 증명별로 자유롭게 올리거나 내린다
활용 사례
- 인디 개발자: 공개한 데모 링크가 예기치 않게 입소문을 타도, 하룻밤 사이에 API 키를 태우는 대신 기본 한도에 기대어 앱을 계속 살려 둔다
- 팀 리드: 파트너마다 별도의 액세스 토큰을 발급하고 각각에 토큰별 예산을 두어, 한 연동이 다른 연동을 굶기지 못하게 한다
- 운영 지향 개발자: 실험적 엔드포인트의 IP별 한도를 죄어, 프로덕션으로 올리기 전에 최악의 경우의 비용과 부하를 묶어 둔다
자주 묻는 질문
IP별 속도 제한과 토큰별 속도 제한은 무엇이 다른가요?
IP별은 단일 클라이언트 주소의 요청을 제한해 한 출처에서 쏟아지는 홍수를 막습니다. 토큰별은 어디서 호출되든 특정 액세스 토큰이나 API 키에 묶인 사용량을 제한해 공유되거나 유출된 자격 증명을 가둡니다. 둘을 동시에 쓸 수 있습니다. 익명의 공개 트래픽에는 IP별을, 이름이 있는 소비자에게 각자의 예산을 주려면 토큰별을 씁니다.
공개 앱에 갑자기 트래픽이 몰리면 어떻게 되나요?
공개 앱은 '접속 폭주', 즉 예상보다 훨씬 멀리 공유된 링크를 감당하도록 고른 기본 한도와 함께 제공됩니다. 한도를 넘는 요청은 통과되지 않고 되돌려 보내지므로, 급증이 앱의 과금원인 공급자 키를 소진하거나 앱을 쓰러뜨릴 수 없습니다. 붐빌 것으로 예상되는 앱은 한도를 높일 수 있습니다.
앱을 공개하기 전에 속도 제한을 설정해야 하나요?
아닙니다. 앱을 공개하는 순간 합리적인 기본값이 이미 적용되어, 아무 설정 없이도 보호받습니다. 원할 때 모두 조정할 수 있어 IP별 상한을 올리거나 내리고, 자격 증명마다 토큰별 한도를 둘 수 있지만, 안전한 기준선은 처음부터 켜져 있습니다.