osFoundry / Platform
Обучение
Дообучайте модели или LoRA-адаптируйте на своих данных — локально, на Workstation или в облаке.
Что это
Training в osFoundry позволяет адаптировать модель под ваши собственные данные, а не полагаться только на промпты. Вы можете сделать полный fine-tuning или более лёгкую LoRA-адаптацию, скармливая модели примеры из вашей области: расшифровки обращений в поддержку, соглашения вашей кодовой базы, ваш авторский стиль, размеченные записи, чтобы она отвечала так, как действительно нужно вашей работе. Он стоит рядом с остальными частями osFoundry, поэтому обученная модель это модель, которую вы сразу можете использовать в чате, агентах и приложениях в том же рабочем пространстве.
Поскольку osFoundry работает по принципу bring-your-own-key и local-first, обучение идёт там, где это разумно для ваших данных и оборудования: локально на вашей машине, на выделенной рабочей станции с мощной GPU или в облаке, когда нужно больше мощности, чем может дать ваш стол. Среду выполнения выбираете вы; osFoundry не гонит ваши обучающие данные через реселлера и не накидывает наценку поверх вычислений. Когда обучение идёт локально или на вашей рабочей станции, данные могут оставаться на устройстве: ничего не обязано его покидать, чтобы превратиться в адаптированную модель. Для большинства LoRA прагматичный выбор по умолчанию: она обучает небольшой набор весов адаптера, а не переписывает всю модель, поэтому дешевле, быстрее и помещается на более скромном железе, тогда как полный fine-tuning остаётся под рукой, когда модель нужно изменить глубже.
Это важно, потому что промпт способен нести лишь ограниченный объём, а вставлять один и тот же контекст в каждый запрос дорого и хрупко. Обучение один раз впекает ваши шаблоны в веса, так что поведение остаётся согласованным и не зависит от того, объясняете ли вы себя заново каждый раз. В связке с BYOK-моделью osFoundry (ключи предоставляете вы, платы за место нет, а ваши знания и данные уже живут в том же рабочем пространстве) обучение замыкает круг между данными, которыми вы владеете, и моделью, на которой вы их реально запускаете.
Ключевые возможности
- Дообучайте или адаптируйте LoRA модели на своих данных: полный fine-tuning для глубоких изменений, LoRA когда нужно дешевле и быстрее на скромном железе
- Запускайте обучение локально, на GPU-рабочей станции или в облаке: среду выполнения выбираете вы под свои данные и оборудование
- Локальное обучение и обучение на рабочей станции оставляют данные на вашем устройстве: ничего не обязано его покидать, чтобы получить адаптированную модель
- Свои ключи, без платы за место: никакой реселлерской наценки поверх вычислений на обучение или инференс
- Используйте обученную модель сразу же в том же рабочем пространстве для чата, агентов и приложений
Сценарии использования
- ML-инженер: адаптируйте по LoRA открытую модель под соглашения кодовой базы вашей команды на GPU рабочей станции, затем подключите её к кодинг-агентам в том же рабочем пространстве
- Отраслевой специалист: дообучите модель на размеченных записях и расшифровках, чтобы она использовала вашу терминологию и отвечала в фирменном стиле без длинных промптов
- Команда с чувствительными данными: обучайте локально, чтобы проприетарные или регулируемые данные никогда не покидали устройство, оставляя адаптированную модель полностью под вашим контролем
Часто задаваемые вопросы
В чём здесь разница между LoRA и полным fine-tuning?
Полный fine-tuning обновляет все веса модели, меняя её поведение глубже, но требуя больше вычислений и памяти. LoRA вместо этого обучает небольшой набор весов адаптера, поэтому она быстрее, дешевле и работает на более скромном железе. osFoundry поддерживает оба варианта: LoRA практичный выбор для большинства задач, а полный fine-tuning доступен, когда модель нужно изменить основательнее.
Покидают ли мои обучающие данные мою машину?
Это зависит от того, где вы запускаете задачу. Когда вы обучаете локально или на своей рабочей станции, данные могут оставаться на устройстве: osFoundry работает по принципу local-first и не требует куда-либо их отправлять, чтобы получить адаптированную модель. Если вы решите обучать в облаке ради большей мощности, данные уходят в выбранную вами среду выполнения; этот компромисс вы делаете осознанно, а не по умолчанию.
Можно ли использовать обученную модель сразу после обучения?
Да. Модель, которую вы адаптируете в osFoundry, доступна в том же рабочем пространстве, поэтому её можно пустить в дело в чате, агентах и приложениях без экспорта куда-либо ещё. Поскольку osFoundry работает по принципу bring-your-own-key и без платы за место, между обучением модели и её запуском не встаёт ни реселлерская наценка, ни дополнительная плата за место.