osFoundry / Platform
Облачный GPU
Арендуйте инстансы A100 / H100 / L40 прямо с платформы. Почасовая оплата, без контрактов.
Что это
Cloud GPU позволяет арендовать инстансы с ускорителями NVIDIA (оборудование класса A100, H100 и L40) прямо внутри osFoundry и платить за них по часам, без контрактов и без обязательств по зарезервированной ёмкости. Вместо того чтобы заводить облачный аккаунт, запрашивать квоту на GPU и самостоятельно настраивать драйверы и CUDA, вы открываете выбор инстансов, выбираете GPU по объёму VRAM и региону, а платформа сама её выделяет. Закончив работу, вы освобождаете инстанс, и списание прекращается.
Внутри osFoundry одна и та же арендованная GPU без дополнительной настройки обслуживает три сценария. На ней можно запускать управляемые задачи файн-тюнинга, поднять ноутбук с GPU для экспериментов или развернуть модель как автомасштабируемый эндпоинт, который выделяет облачные GPU по запросу. Выбор инстансов подтягивает цены с сервера в реальном времени, а не из зашитой таблицы, поэтому часовая ставка, которую вы видите (рядом с моделью GPU, объёмом памяти, vCPU, RAM и оценкой времени холодного старта), и есть та ставка, которую с вас реально спишут. Если настоящие цены загрузить не удаётся, платформа не показывает ничего для выбора, а не называет сумму, которую не станет соблюдать.
Это важно, потому что время GPU дорого, а оставить её работать легко. Почасовое списание, которое начинается при выделении и заканчивается при освобождении, без минимального срока, оставляет пятиминутный эксперимент дешёвым, а стоимость забытого инстанса — на виду. Поскольку osFoundry работает по принципу local-first, небольшие задачи остаются бесплатными на GPU вашего собственного устройства, и к арендованной A100 или H100 вы обращаетесь только тогда, когда модели действительно нужно больше VRAM, чем есть на вашей машине. Это тот же подход, что и во всём остальном рабочем пространстве: ваши ключи, ваши данные там, где это возможно, и платная инфраструктура — только когда вы сами её выбираете.
Ключевые возможности
- Арендуйте GPU-инстансы NVIDIA класса A100, H100 и L40 по запросу, без заявок на квоту, без закупочных процедур и без контрактов на зарезервированную ёмкость
- Платите по часам: списание начинается при выделении инстанса и прекращается, когда вы его освобождаете, ничего отменять не нужно и минимального срока нет
- Выбирайте инстанс из живого списка с ценами с сервера, где до подтверждения показаны модель GPU, VRAM, vCPU, RAM, регион и оценка времени холодного старта
- Используйте одну и ту же арендованную GPU для задач файн-тюнинга, ноутбуков в стиле Jupyter и автомасштабируемых эндпоинтов модели — всё из одного рабочего пространства
- Держите небольшие задачи бесплатными на своём оборудовании: GPU устройства работает без затрат, а к облачной GPU вы обращаетесь, только когда модели нужно больше VRAM, чем у вас есть
Сценарии использования
- ML-инженер: дообучить модель на 13B, которая не помещается в ноутбук, арендовав H100 на время обучающего прогона и освободив её в тот момент, когда задача завершится
- Исследователь: открыть ноутбук с GPU на A100 на вечер экспериментов и платить только за часы, пока инстанс запущен, без предварительной настройки аккаунта или квоты
- Продуктовая команда: развернуть модель как автомасштабируемый эндпоинт на GPU класса L40, позволяя платформе выделять и тарифицировать ёмкость по часам по мере роста и спада объёма запросов
Часто задаваемые вопросы
Какие GPU я могу арендовать и сколько они стоят?
Вы можете арендовать инстансы NVIDIA класса A100, H100 и L40. Цены указаны за час и выдаются в реальном времени прямо в выборе инстансов, где для каждой GPU показаны модель, VRAM, vCPU, RAM, регион и оценка времени холодного старта. osFoundry намеренно не публикует в приложении фиксированную таблицу цен, потому что ставка, которую с вас спишут, — это та, что сервер называет в момент выбора. Актуальную стоимость за час в вашем регионе смотрите в живом списке.
Как работает почасовое списание и есть ли контракты?
Контрактов, резерваций и минимальных сроков нет. Списание начинается при выделении инстанса и прекращается, когда вы его освобождаете, поэтому короткий эксперимент стоит лишь доли часа и отменять ничего не нужно. Учтите, что развёртывание эндпоинта выделяет и тарифицирует GPU сразу при её запуске, ещё до того как модель полностью готова, поэтому освобождайте инстансы, которыми больше не пользуетесь.
Обязательно ли использовать облачные GPU или можно запускать модели локально?
Модели можно запускать на GPU вашего собственного устройства бесплатно: osFoundry работает по принципу local-first, и локальное обучение и инференс не расходуют облачные кредиты. Облачные GPU нужны, когда модели требуется больше VRAM, чем есть на вашей машине, или когда вам нужна выделенная ёмкость ускорителя для задачи файн-тюнинга или работающего эндпоинта. Для каждой рабочей нагрузки вы сами решаете: остаться локально или арендовать.