osFoundry / Platform
क्लाउड GPU
platform से सीधे A100 / H100 / L40 इंस्टेंसेज़ किराए पर लें। प्रति घंटा भुगतान करें, कोई अनुबंध नहीं।
यह क्या है
Cloud GPU आपको NVIDIA एक्सेलेरेटर इंस्टेंस (A100, H100 और L40 श्रेणी का हार्डवेयर) सीधे osFoundry के भीतर किराए पर लेने देता है और उनके लिए प्रति घंटा भुगतान करने देता है, बिना किसी अनुबंध और बिना आरक्षित क्षमता की प्रतिबद्धता के। क्लाउड अकाउंट खोलने, GPU कोटा माँगने और खुद ड्राइवर व CUDA सेट करने के बजाय, आप इंस्टेंस पिकर खोलते हैं, VRAM और रीजन के हिसाब से GPU चुनते हैं, और प्लेटफ़ॉर्म उसे आपके लिए प्रोविज़न कर देता है। काम पूरा होने पर आप उसे रिलीज़ कर देते हैं और बिलिंग रुक जाती है।
osFoundry के भीतर वही किराए की GPU बिना किसी अतिरिक्त सेटअप के तीन वर्कफ़्लो को संभालती है। आप उस पर मैनेज्ड फाइन-ट्यूनिंग जॉब चला सकते हैं, प्रयोग के लिए GPU-संचालित नोटबुक शुरू कर सकते हैं, या मॉडल को ऐसे ऑटो-स्केलिंग एंडपॉइंट के रूप में डिप्लॉय कर सकते हैं जो माँग के अनुसार क्लाउड GPU प्रोविज़न करता है। इंस्टेंस पिकर कीमतें किसी हार्डकोडेड टेबल से नहीं, बल्कि सर्वर से लाइव खींचता है, इसलिए जो प्रति-घंटा दर आप देखते हैं (GPU मॉडल, मेमोरी, vCPU, RAM और अनुमानित कोल्ड-स्टार्ट समय के साथ) वही दर वास्तव में आपसे ली जाती है। यदि असली कीमतें लोड न हो सकें, तो प्लेटफ़ॉर्म ऐसा कोई आँकड़ा दिखाने के बजाय जिसका वह पालन नहीं करेगा, चुनने के लिए कुछ भी नहीं दिखाता।
यह इसलिए मायने रखता है क्योंकि GPU का समय महँगा है और उसे चालू छोड़ देना आसान है। प्रति-घंटा बिलिंग, जो प्रोविज़निंग पर शुरू होती है और रिलीज़ पर खत्म होती है, बिना किसी न्यूनतम अवधि के, पाँच-मिनट के प्रयोग को सस्ता रखती है और भूली हुई इंस्टेंस की लागत को दिखने योग्य बनाए रखती है। चूँकि osFoundry local-first है, छोटे जॉब आपके अपने डिवाइस GPU पर मुफ़्त रहते हैं, और आप किराए की A100 या H100 की ओर तभी बढ़ते हैं जब किसी मॉडल को सचमुच आपकी मशीन से अधिक VRAM चाहिए। यह वर्कस्पेस के बाकी हिस्से जैसा ही रवैया है: आपकी कुंजियाँ, जहाँ संभव हो आपका डेटा, और भुगतान वाली इन्फ्रास्ट्रक्चर तभी जब आप उसे चुनें।
मुख्य क्षमताएँ
- A100, H100 और L40 श्रेणी के NVIDIA GPU इंस्टेंस माँग पर किराए पर लें, बिना कोटा अनुरोध, बिना खरीद प्रक्रिया और बिना आरक्षित-क्षमता अनुबंध के
- प्रति घंटा भुगतान करें: बिलिंग तब शुरू होती है जब इंस्टेंस प्रोविज़न होती है और तब रुकती है जब आप उसे रिलीज़ करते हैं, रद्द करने को कुछ नहीं और कोई न्यूनतम अवधि नहीं
- प्रतिबद्ध होने से पहले सर्वर-मूल्य वाली लाइव सूची से अपनी इंस्टेंस चुनें, जो GPU मॉडल, VRAM, vCPU, RAM, रीजन और अनुमानित कोल्ड-स्टार्ट समय दिखाती है
- एक ही किराए की GPU को फाइन-ट्यूनिंग जॉब, Jupyter-शैली की नोटबुक और ऑटो-स्केलिंग मॉडल एंडपॉइंट के लिए इस्तेमाल करें, सब एक ही वर्कस्पेस से
- छोटे जॉब अपने हार्डवेयर पर मुफ़्त रखें: डिवाइस GPU बिना किसी लागत के चलती है, और क्लाउड GPU की ओर तभी बढ़ें जब किसी मॉडल को आपके पास से अधिक VRAM चाहिए
उपयोग के मामले
- ML इंजीनियर: लैपटॉप में न समाने वाले 13B मॉडल को फाइन-ट्यून करें, ट्रेनिंग रन की अवधि भर H100 किराए पर लेकर और जॉब खत्म होते ही उसे रिलीज़ करके
- शोधकर्ता: एक दोपहर के प्रयोग के लिए A100 पर GPU नोटबुक खोलें और सिर्फ़ उन घंटों के लिए भुगतान करें जब इंस्टेंस चालू रही, बिना पहले कोई अकाउंट या कोटा सेट किए
- प्रोडक्ट टीम: मॉडल को L40 श्रेणी की GPU पर ऑटो-स्केलिंग एंडपॉइंट के रूप में डिप्लॉय करें और प्लेटफ़ॉर्म को क्षमता प्रति घंटा प्रोविज़न व बिल करने दें, जैसे-जैसे अनुरोध की मात्रा बढ़ती-घटती है
सामान्य प्रश्न
मैं कौन-से GPU किराए पर ले सकता हूँ और उनकी कीमत कितनी है?
आप A100, H100 और L40 श्रेणी के NVIDIA इंस्टेंस किराए पर ले सकते हैं। कीमतें प्रति घंटा हैं और इंस्टेंस पिकर के भीतर लाइव दी जाती हैं, जो हर GPU का मॉडल, VRAM, vCPU, RAM, रीजन और अनुमानित कोल्ड-स्टार्ट समय दिखाता है। osFoundry जानबूझकर ऐप में कोई तयशुदा मूल्य तालिका प्रकाशित नहीं करता, क्योंकि जो दर आपसे ली जाती है वही है जो चुनते समय सर्वर बताता है। अपने रीजन में मौजूदा प्रति-घंटा लागत के लिए लाइव पिकर देखें।
प्रति-घंटा बिलिंग कैसे काम करती है, और क्या कोई अनुबंध है?
कोई अनुबंध, आरक्षण या न्यूनतम अवधि नहीं है। बिलिंग तब शुरू होती है जब इंस्टेंस प्रोविज़न होती है और तब रुकती है जब आप उसे रिलीज़ करते हैं, इसलिए एक छोटा प्रयोग घंटे के केवल एक अंश जितना खर्च होता है और रद्द करने को कुछ नहीं होता। ध्यान दें कि एंडपॉइंट डिप्लॉय करने पर GPU के चालू होते ही उसका प्रोविज़न और बिलिंग शुरू हो जाती है, भले ही मॉडल पूरी तरह तैयार न हुआ हो, इसलिए जिन इंस्टेंस का इस्तेमाल न कर रहे हों उन्हें रिलीज़ कर दें।
क्या मुझे क्लाउड GPU इस्तेमाल करना ही होगा, या मैं मॉडल स्थानीय रूप से चला सकता हूँ?
आप मॉडल अपने डिवाइस GPU पर मुफ़्त चला सकते हैं: osFoundry local-first है, और स्थानीय ट्रेनिंग व इन्फेरेंस कोई क्लाउड क्रेडिट इस्तेमाल नहीं करते। क्लाउड GPU तब के लिए है जब किसी मॉडल को आपकी मशीन से अधिक VRAM चाहिए, या जब आप किसी फाइन-ट्यूनिंग जॉब या सर्व किए जा रहे एंडपॉइंट के लिए समर्पित एक्सेलेरेटर क्षमता चाहते हैं। हर वर्कलोड के लिए आप खुद तय करते हैं कि स्थानीय रहें या किराए पर लें।