osFoundry / Platform
Training
Feinabstimmung oder LoRA-Anpassung von Modellen mit Ihren eigenen Daten – lokal, auf einer Workstation oder in der Cloud.
Was es ist
Mit Training in osFoundry passt du ein Modell an deine eigenen Daten an, statt dich allein auf Prompts zu verlassen. Du kannst ein vollständiges Fine-Tuning oder eine leichtere LoRA-Anpassung machen und fütterst das Modell mit Beispielen aus deiner Domäne: deine Support-Transkripte, die Konventionen deiner Codebasis, deine Schreibstimme, deine gelabelten Datensätze, damit es so antwortet, wie deine Arbeit es wirklich braucht. Es steht neben dem Rest von osFoundry, also ist das Modell, das du trainierst, ein Modell, das du sofort in Chat, Agenten und Apps im selben Workspace nutzen kannst.
Da osFoundry Bring-your-own-Key und Local-first ist, läuft das Training dort, wo deine Daten und deine Hardware es sinnvoll machen: lokal auf deinem eigenen Rechner, auf einer dedizierten Workstation mit einer leistungsfähigen GPU oder in der Cloud, wenn du mehr Leistung brauchst, als dein Schreibtisch liefern kann. Du wählst die Runtime; osFoundry zwingt deine Trainingsdaten nicht durch einen Reseller und schlägt keine Marge auf die Rechenleistung. Läuft das Training lokal oder auf deiner eigenen Workstation, können deine Daten auf deinem Gerät bleiben: nichts muss es verlassen, um zu einem angepassten Modell zu werden. LoRA ist für die meisten der pragmatische Standard: Es trainiert einen kleinen Satz an Adapter-Gewichten, statt das ganze Modell neu zu schreiben, ist also günstiger, schneller und passt auf bescheidenere Hardware, während das vollständige Fine-Tuning bereitsteht, wenn du das Modell tiefergehend verändern musst.
Das zählt, weil ein Prompt nur begrenzt viel tragen kann und denselben Kontext in jede Anfrage zu kopieren teuer und brüchig ist. Das Training brennt deine Muster einmal in die Gewichte, sodass das Verhalten konsistent bleibt und nicht davon abhängt, dass du dich jedes Mal neu erklärst. Zusammen mit dem BYOK-Modell von osFoundry (du lieferst die Keys, es gibt keinen Preis pro Platz, und dein Wissen und deine Daten liegen schon im selben Workspace) schließt das Training den Kreis zwischen den Daten, die dir gehören, und dem Modell, gegen das du sie tatsächlich laufen lässt.
Wichtige Funktionen
- Modelle mit eigenen Daten fine-tunen oder per LoRA anpassen: vollständiges Fine-Tuning für tiefe Änderungen, LoRA, wenn es günstiger und schneller auf bescheidener Hardware sein soll
- Training lokal, auf einer GPU-Workstation oder in der Cloud: du wählst die Runtime passend zu Daten und Hardware
- Training lokal und auf der Workstation hält deine Daten auf deinem Gerät: nichts muss es verlassen, um ein angepasstes Modell zu erzeugen
- Eigene Keys, keine Gebühr pro Platz: keine Reseller-Marge auf deiner Trainings- oder Inferenz-Rechenleistung
- Nutze das trainierte Modell sofort im selben Workspace für Chat, Agenten und Apps
Anwendungsfälle
- ML-Engineer: ein offenes Modell per LoRA an die Codebasis-Konventionen deines Teams auf einer Workstation-GPU anpassen und dann im selben Workspace an Coding-Agenten anbinden
- Fachexperte: ein Modell mit gelabelten Datensätzen und Transkripten fine-tunen, damit es deine Terminologie nutzt und ohne lange Prompts im Hausstil antwortet
- Datenschutzsensibles Team: lokal trainieren, damit proprietäre oder regulierte Daten das Gerät nie verlassen und das angepasste Modell vollständig unter deiner Kontrolle bleibt
Häufig gestellte Fragen
Was ist hier der Unterschied zwischen LoRA und vollständigem Fine-Tuning?
Ein vollständiges Fine-Tuning aktualisiert alle Gewichte des Modells und verändert sein Verhalten tiefer, kostet aber mehr Rechenleistung und Speicher. LoRA trainiert stattdessen einen kleinen Satz an Adapter-Gewichten, ist also schneller, günstiger und läuft auf bescheidenerer Hardware. osFoundry unterstützt beides: LoRA ist die praktische Wahl für die meisten Aufgaben, und das vollständige Fine-Tuning steht bereit, wenn du das Modell gründlicher verändern musst.
Verlassen meine Trainingsdaten meinen Rechner?
Das hängt davon ab, wo du den Job laufen lässt. Trainierst du lokal oder auf deiner eigenen Workstation, können deine Daten auf deinem Gerät bleiben: osFoundry ist Local-first und muss sie nirgendwohin senden, um ein angepasstes Modell zu erzeugen. Entscheidest du dich für mehr Rechenleistung in der Cloud, gehen die Daten an die von dir gewählte Runtime; diese Abwägung triffst du bewusst, nicht standardmäßig.
Kann ich ein trainiertes Modell direkt nach dem Training nutzen?
Ja. Ein Modell, das du in osFoundry anpasst, ist im selben Workspace verfügbar, sodass du es in Chat, Agenten und Apps einsetzen kannst, ohne es woanders zu exportieren. Da osFoundry Bring-your-own-Key ohne Gebühr pro Platz ist, sitzt zwischen dem Training des Modells und dem Ausführen dagegen keine Reseller-Marge und kein zusätzlicher Platzkosten.