osFoundry / Platform
Entrenamiento
Haz fine-tune o adapta modelos con LoRA sobre tus propios datos, en local, en una workstation o en la nube.
Qué es
El Training de osFoundry te permite adaptar un modelo a tus propios datos en lugar de depender solo de los prompts. Puedes hacer un fine-tuning completo o una adaptación LoRA más ligera, alimentando al modelo con ejemplos de tu dominio: tus transcripciones de soporte, las convenciones de tu código, tu voz al escribir, tus registros etiquetados, para que responda como tu trabajo realmente lo necesita. Convive con el resto de osFoundry, así que el modelo que entrenas es un modelo que puedes usar de inmediato en chat, agentes y apps dentro del mismo espacio de trabajo.
Como osFoundry es bring-your-own-key y local-first, el entrenamiento se ejecuta donde tienen sentido tus datos y tu hardware: en local en tu propia máquina, en una workstation dedicada con una GPU capaz, o en la nube cuando necesitas más potencia de la que da tu escritorio. Tú eliges el runtime; osFoundry no obliga a que tus datos de entrenamiento pasen por un revendedor ni añade un margen sobre el cómputo. Cuando el entrenamiento corre en local o en tu propia workstation, tus datos pueden quedarse en tu dispositivo: nada tiene que salir para convertirse en un modelo adaptado. LoRA es la opción pragmática por defecto para la mayoría: entrena un pequeño conjunto de pesos de adaptador en lugar de reescribir el modelo entero, por lo que es más barato, más rápido y cabe en hardware más modesto, mientras que el fine-tuning completo está ahí cuando necesitas cambiar el modelo en profundidad.
Esto importa porque un prompt solo puede cargar hasta cierto punto, y pegar el mismo contexto en cada petición es caro y frágil. El entrenamiento graba tus patrones en los pesos una sola vez, así el comportamiento es coherente y no depende de que te expliques de nuevo cada vez. Junto al modelo BYOK de osFoundry (tú aportas las claves, no hay precio por puesto y tu conocimiento y tus datos ya viven en el mismo espacio de trabajo), el entrenamiento cierra el círculo entre los datos que posees y el modelo con el que realmente los usas.
Capacidades principales
- Fine-tuning o adaptación LoRA de modelos con tus propios datos: fine-tuning completo para un cambio profundo, LoRA cuando lo quieres más barato y rápido en hardware modesto
- Entrena en local, en una workstation con GPU o en la nube: eliges el runtime según tus datos y tu hardware
- El entrenamiento en local o en workstation mantiene tus datos en tu dispositivo: nada tiene que salir para producir un modelo adaptado
- Usa tus propias claves, sin coste por puesto: ningún margen de revendedor sobre tu cómputo de entrenamiento o inferencia
- Usa el modelo que entrenaste al instante en el mismo espacio de trabajo para chat, agentes y apps
Casos de uso
- Ingeniero de ML: adapta con LoRA un modelo abierto a las convenciones de código de tu equipo en una GPU de workstation y luego conéctalo a agentes de programación en el mismo espacio de trabajo
- Especialista de dominio: haz fine-tuning de un modelo con registros etiquetados y transcripciones para que use tu terminología y responda con el estilo de la casa sin prompts largos
- Equipo con datos sensibles: entrena en local para que los datos propietarios o regulados nunca salgan del dispositivo, manteniendo el modelo adaptado bajo tu control total
Preguntas frecuentes
¿Cuál es la diferencia entre LoRA y fine-tuning completo aquí?
Un fine-tuning completo actualiza todos los pesos del modelo, cambiando su comportamiento en mayor profundidad pero consumiendo más cómputo y memoria. LoRA entrena en su lugar un pequeño conjunto de pesos de adaptador, así que es más rápido, más barato y corre en hardware más modesto. osFoundry admite ambos: LoRA es la opción práctica para la mayoría de las tareas, y el fine-tuning completo está disponible cuando necesitas cambiar el modelo de forma más a fondo.
¿Mis datos de entrenamiento salen de mi máquina?
Depende de dónde ejecutes el trabajo. Cuando entrenas en local o en tu propia workstation, tus datos pueden quedarse en tu dispositivo: osFoundry es local-first y no requiere enviarlos a ningún sitio para producir un modelo adaptado. Si eliges entrenar en la nube para más cómputo, los datos van al runtime que selecciones; tomas esa decisión de forma deliberada, no por defecto.
¿Puedo usar un modelo que entrené justo después de entrenarlo?
Sí. Un modelo que adaptas en osFoundry está disponible en el mismo espacio de trabajo, así que puedes ponerlo a trabajar en chat, agentes y apps sin exportarlo a otro sitio. Como osFoundry es bring-your-own-key y sin coste por puesto, no hay margen de revendedor ni cargo extra de puesto entre entrenar el modelo y ejecutarlo.