osFoundry / Platform
प्रशिक्षण
अपने डेटा पर मॉडल्स को फ़ाइन-ट्यून या LoRA-अनुकूलित करें — लोकल, Workstation पर या क्लाउड में।
यह क्या है
osFoundry में Training आपको किसी मॉडल को सिर्फ prompts पर निर्भर रहने के बजाय अपने डेटा पर अनुकूल बनाने देता है। आप पूरा fine-tune कर सकते हैं या हल्का LoRA adaptation, मॉडल को अपने domain के उदाहरण खिलाकर: आपके support transcripts, आपके codebase की conventions, आपकी लेखन शैली, आपके labeled records, ताकि वह वैसे जवाब दे जैसा आपके काम को सचमुच चाहिए। यह osFoundry के बाकी हिस्से के साथ ही रहता है, इसलिए जो मॉडल आप train करते हैं उसे आप उसी workspace में chat, agents और apps में तुरंत इस्तेमाल कर सकते हैं।
चूंकि osFoundry bring-your-own-key और local-first है, ट्रेनिंग वहीं चलती है जहां आपके डेटा और hardware के हिसाब से समझदारी हो: अपनी मशीन पर local, सक्षम GPU वाली एक dedicated workstation पर, या जब आपकी desk जितना दे सके उससे ज़्यादा ताकत चाहिए तो cloud पर। runtime आप चुनते हैं; osFoundry आपके training data को किसी reseller से होकर गुज़ारता नहीं और compute पर कोई markup नहीं लगाता। जब ट्रेनिंग local या आपकी अपनी workstation पर चलती है, आपका डेटा आपके device पर ही रह सकता है: adapted मॉडल बनाने के लिए कुछ भी बाहर भेजना ज़रूरी नहीं। ज़्यादातर लोगों के लिए LoRA व्यावहारिक default है: यह पूरे मॉडल को दोबारा लिखने के बजाय adapter weights का एक छोटा समूह train करता है, इसलिए यह सस्ता, तेज़ है और साधारण hardware पर भी fit हो जाता है, जबकि जब आपको मॉडल को गहराई से बदलना हो तो पूरा fine-tune मौजूद है।
यह इसलिए मायने रखता है क्योंकि एक prompt एक हद तक ही जानकारी ढो सकता है, और हर request में वही context चिपकाना महंगा और नाज़ुक है। Training आपके patterns को weights में एक बार पका देती है, इसलिए व्यवहार एक जैसा रहता है और हर बार खुद को दोबारा समझाने पर निर्भर नहीं करता। osFoundry के BYOK मॉडल के साथ (keys आप देते हैं, कोई per-seat कीमत नहीं, और आपका knowledge और डेटा पहले से उसी workspace में है) Training उस डेटा और उस मॉडल के बीच का चक्र पूरा कर देती है जिसके सामने आप उसे सचमुच चलाते हैं।
मुख्य क्षमताएँ
- अपने डेटा पर मॉडल fine-tune या LoRA-adapt करें: गहरे बदलाव के लिए पूरा fine-tuning, और साधारण hardware पर सस्ता-तेज़ चाहिए तो LoRA
- ट्रेनिंग local, GPU workstation या cloud पर चलाएं: अपने डेटा और hardware के मुताबिक runtime चुनें
- Local और workstation ट्रेनिंग आपके डेटा को आपके device पर रखती है: adapted मॉडल बनाने के लिए कुछ भी बाहर भेजना ज़रूरी नहीं
- अपनी keys लाएं, कोई per-seat शुल्क नहीं: आपके training या inference compute पर कोई reseller markup नहीं
- जो मॉडल आपने train किया उसे उसी workspace में chat, agents और apps के लिए तुरंत इस्तेमाल करें
उपयोग के मामले
- ML इंजीनियर: किसी open मॉडल को अपनी टीम की codebase conventions पर workstation GPU पर LoRA-adapt करें, फिर उसे उसी workspace में coding agents से जोड़ें
- Domain विशेषज्ञ: labeled records और transcripts पर मॉडल fine-tune करें ताकि वह आपकी शब्दावली इस्तेमाल करे और लंबे prompts के बिना आपकी house style में जवाब दे
- गोपनीयता-संवेदनशील टीम: local ट्रेनिंग करें ताकि proprietary या regulated डेटा कभी device से बाहर न जाए, और adapted मॉडल पूरी तरह आपके नियंत्रण में रहे
सामान्य प्रश्न
यहां LoRA और पूरे fine-tuning में क्या फ़र्क है?
पूरा fine-tune मॉडल के सारे weights update करता है, उसके व्यवहार को गहराई से बदलता है पर ज़्यादा compute और memory लेता है। LoRA इसके बजाय adapter weights का एक छोटा समूह train करता है, इसलिए तेज़, सस्ता है और साधारण hardware पर चलता है। osFoundry दोनों को support करता है: ज़्यादातर कामों के लिए LoRA व्यावहारिक विकल्प है, और जब मॉडल को ज़्यादा गहराई से बदलना हो तो पूरा fine-tuning उपलब्ध है।
क्या मेरा training डेटा मेरी मशीन से बाहर जाता है?
यह इस पर निर्भर है कि आप job कहां चलाते हैं। जब आप local या अपनी workstation पर train करते हैं, आपका डेटा आपके device पर रह सकता है: osFoundry local-first है और adapted मॉडल बनाने के लिए उसे कहीं भेजना ज़रूरी नहीं। अगर आप ज़्यादा compute के लिए cloud पर train करना चुनते हैं, डेटा आपके चुने हुए runtime पर जाता है; यह अदला-बदली आप जान-बूझकर करते हैं, default रूप से नहीं।
क्या मैं train किए मॉडल को ट्रेनिंग के तुरंत बाद इस्तेमाल कर सकता हूं?
हां। osFoundry में आप जो मॉडल adapt करते हैं वह उसी workspace में उपलब्ध रहता है, इसलिए आप उसे कहीं export किए बिना chat, agents और apps में काम पर लगा सकते हैं। चूंकि osFoundry bring-your-own-key है और per-seat शुल्क नहीं है, मॉडल को train करने और उसके सामने चलाने के बीच कोई reseller markup या अतिरिक्त seat लागत नहीं आती।