osFoundry / Platform
Treinamento
Faça fine-tune ou adapte modelos com LoRA nos seus próprios dados — localmente, em uma Workstation ou na nuvem.
O que é
O Training do osFoundry permite adaptar um modelo aos seus próprios dados em vez de depender só de prompts. Você pode fazer um fine-tuning completo ou uma adaptação LoRA mais leve, alimentando o modelo com exemplos do seu domínio: suas transcrições de suporte, as convenções do seu código, o seu tom de escrita, seus registros rotulados, para que ele responda como o seu trabalho de fato exige. Ele fica ao lado do resto do osFoundry, então o modelo que você treina é um modelo que dá para usar de imediato em chat, agentes e apps no mesmo espaço de trabalho.
Como o osFoundry é bring-your-own-key e local-first, o treino roda onde seus dados e seu hardware fazem sentido: localmente na sua máquina, numa workstation dedicada com uma GPU capaz, ou na nuvem quando você precisa de mais potência do que a sua mesa entrega. Você escolhe o runtime; o osFoundry não força seus dados de treino a passar por um revendedor nem coloca uma margem sobre o processamento. Quando o treino roda localmente ou na sua própria workstation, seus dados podem ficar no seu dispositivo: nada precisa sair para virar um modelo adaptado. LoRA é o padrão pragmático para a maioria: treina um pequeno conjunto de pesos de adaptador em vez de reescrever o modelo inteiro, então é mais barato, mais rápido e cabe em hardware mais modesto, enquanto o fine-tuning completo está ali quando você precisa mudar o modelo mais a fundo.
Isso importa porque um prompt só carrega até certo ponto, e colar o mesmo contexto em cada requisição é caro e frágil. O treino grava seus padrões nos pesos de uma vez, então o comportamento fica consistente e não depende de você se explicar de novo a cada vez. Combinado ao modelo BYOK do osFoundry (você fornece as chaves, não há preço por usuário e seu conhecimento e seus dados já vivem no mesmo espaço de trabalho), o treino fecha o ciclo entre os dados que você possui e o modelo com o qual você de fato os usa.
Principais recursos
- Fine-tuning ou adaptação LoRA de modelos com seus próprios dados: fine-tuning completo para mudança profunda, LoRA quando você quer mais barato e rápido em hardware modesto
- Treine localmente, numa workstation com GPU ou na nuvem: você escolhe o runtime conforme seus dados e seu hardware
- Treino local e em workstation mantém seus dados no seu dispositivo: nada precisa sair para produzir um modelo adaptado
- Use suas próprias chaves, sem custo por usuário: sem margem de revendedor sobre seu processamento de treino ou inferência
- Use o modelo que você treinou na hora, no mesmo espaço de trabalho, para chat, agentes e apps
Casos de uso
- Engenheiro de ML: adapte com LoRA um modelo aberto às convenções de código do seu time numa GPU de workstation e depois conecte-o a agentes de programação no mesmo espaço de trabalho
- Especialista de domínio: faça fine-tuning de um modelo com registros rotulados e transcrições para que ele use sua terminologia e responda no estilo da casa sem prompts longos
- Time com dados sensíveis: treine localmente para que dados proprietários ou regulados nunca saiam do dispositivo, mantendo o modelo adaptado totalmente sob seu controle
Perguntas frequentes
Qual a diferença entre LoRA e fine-tuning completo aqui?
Um fine-tuning completo atualiza todos os pesos do modelo, mudando seu comportamento mais a fundo, mas custando mais processamento e memória. O LoRA treina, em vez disso, um pequeno conjunto de pesos de adaptador, então é mais rápido, mais barato e roda em hardware mais modesto. O osFoundry suporta os dois: LoRA é a escolha prática para a maioria das tarefas, e o fine-tuning completo está disponível quando você precisa mudar o modelo mais completamente.
Meus dados de treino saem da minha máquina?
Depende de onde você roda o job. Quando você treina localmente ou na sua própria workstation, seus dados podem ficar no seu dispositivo: o osFoundry é local-first e não exige enviá-los para lugar nenhum para produzir um modelo adaptado. Se você optar por treinar na nuvem por mais processamento, os dados vão para o runtime que você selecionar; você faz essa troca de forma deliberada, não por padrão.
Posso usar um modelo que treinei logo depois de treiná-lo?
Sim. Um modelo que você adapta no osFoundry fica disponível no mesmo espaço de trabalho, então dá para colocá-lo para trabalhar em chat, agentes e apps sem exportá-lo para outro lugar. Como o osFoundry é bring-your-own-key e sem custo por usuário, não há margem de revendedor nem custo extra de assento entre treinar o modelo e rodá-lo.