स्विट्ज़रलैंड में त्वरित वर्कलोड को उनका अपना भौतिक वातावरण दें। Tensor संगत इन्फ़रेंस, रेंडरिंग और GPU प्रोसेसिंग वर्कफ़्लो के लिए NVIDIA Tesla विकल्पों को समर्पित सर्वर संसाधनों के साथ जोड़ता है।
समर्पित GPU हार्डवेयर जिसमें दोहरे Xeon E5-2680 v4 प्रोसेसर, एक सूचीबद्ध Tesla P4 / T4 GPU कॉन्फ़िगरेशन, 64 GB DDR4 मेमोरी और एक 1 TB SSD शामिल है। नेटवर्क विनिर्देश एक 1 Gbps पोर्ट है जिसमें अनमीटर्ड ट्रैफ़िक है।
एक GPU कॉन्फ़िगरेशन जिसमें 10 Gbps पोर्ट है, उन त्वरित परियोजनाओं के लिए जो बड़े डेटासेट भी स्थानांतरित करती हैं। सूचीबद्ध हार्डवेयर में दोहरे Xeon E5-2680 v4 प्रोसेसर, Tesla P4 / T4 GPU, 64 GB DDR4 मेमोरी और एक 1 TB SSD शामिल हैं।
सूचीबद्ध Tesla P4 / T4 GPU कॉन्फ़िगरेशन के साथ समर्पित त्वरित कंप्यूट के लिए दोहरे Xeon Gold 6134 प्रोसेसर शामिल हैं। इस योजना में 64 GB DDR4 मेमोरी, एक 1 TB SSD और अनमीटर्ड ट्रैफ़िक वाला 1 Gbps पोर्ट शामिल है।
सूचीबद्ध विशिष्टताओं और आधार मूल्यों की तुलना करें। अंतिम उपलब्धता, डिलीवरी और लागू कर आपके कोटेशन पर पुष्टि की जाती है। चित्रण अवधारणात्मक हैं।
समझें कि इस सेवा परिवार को क्या उपयोगी बनाता है।
Tensor श्रेणी बेयर मेटल के रूप में सूचीबद्ध है। अपने ऑपरेटिंग सिस्टम, ड्राइवर और एप्लिकेशन स्टैक की योजना सामान्य वर्चुअल इंस्टेंस के बजाय चयनित हार्डवेयर के अनुसार बनाएँ।
कॉन्फ़िगरेटर NVIDIA Tesla P4 और T4 विकल्पों को अलग करता है। सूचीबद्ध GPU मेमोरी की तुलना उस मॉडल या कार्य से करें जिसे आप चलाना चाहते हैं।
GPU वर्कफ़्लो को होस्ट मेमोरी, डेटा तैयारी और स्टोरेज की भी आवश्यकता होती है। Xeon प्लेटफ़ॉर्म की समीक्षा करें और उपयोगी होने पर RAM या डिस्क अतिरिक्त चुनें।
Tensor कॉन्फ़िगरेशन में पोर्ट और ट्रैफ़िक विशेषताओं की तुलना करें। डेटासेट आयात और आउटपुट वितरण त्वरक जितने ही महत्वपूर्ण हो सकते हैं।
इन्फ़रेंस वर्कलोड चलाएँ जिनका फ्रेमवर्क, परिशुद्धता और मेमोरी आवश्यकताएँ चयनित NVIDIA त्वरक से मेल खाती हैं।
इंजन की GPU और ड्राइवर संगतता जाँचने के बाद रेंडरिंग या विज़ुअल-प्रोसेसिंग वर्कफ़्लो तैयार करें।
उन डेटा पर दोहराने योग्य छवि, मीडिया या संख्यात्मक कार्यों के लिए त्वरक-जागरूक एप्लिकेशन का उपयोग करें जिन्हें संसाधित करने का आपको अधिकार है।
सर्वर चुनने से पहले जाँचें कि एप्लिकेशन और उसका कार्यशील डेटा चयनित त्वरक की मेमोरी में फिट बैठता है या नहीं। मॉडल आर्किटेक्चर, परिशुद्धता और बैच आकार सभी इस आवश्यकता को प्रभावित करते हैं। बड़ा होस्ट-RAM विकल्प स्वचालित रूप से GPU की अपनी मेमोरी नहीं बढ़ाता।
अपने सॉफ़्टवेयर द्वारा समर्थित ऑपरेटिंग सिस्टम चुनें, फिर NVIDIA ड्राइवर और फ्रेमवर्क आवश्यकताओं को सत्यापित करें। CPU प्रीप्रोसेसिंग, स्टोरेज रीड और डेटा स्थानांतरण वर्कफ़्लो को सीमित कर सकते हैं, भले ही GPU उपयुक्त हो। बड़े उत्पादन कार्य को शेड्यूल करने से पहले एक प्रतिनिधि कार्य का बेंचमार्क लें।
Tensor आपको आपके द्वारा कॉन्फ़िगर किए गए एप्लिकेशन स्टैक के लिए एक Swiss स्थान देता है। तय करें कि डेटासेट, मॉडल और परिणामों तक कौन पहुँच सकता है, और संवेदनशील सामग्री को सार्वजनिक निर्देशिकाओं से बाहर रखें। लाइसेंस प्राप्त सॉफ़्टवेयर और अधिकृत डेटासेट का उपयोग करें; GPU की उपस्थिति से किसी बाहरी AI सेवा या डेटा-प्रोसेसिंग दावे का संकेत नहीं मिलता।
चयनित त्वरक, ड्राइवर और एप्लिकेशन को एक संगतता निर्णय मानें। CUDA-आधारित कार्य, TensorFlow या PyTorch, वैज्ञानिक प्रोसेसिंग और GPU रेंडरिंग के लिए समर्थित सॉफ़्टवेयर संयोजन आवश्यक है। वीडियो वर्कफ़्लो FFmpeg और हार्डवेयर एन्कोडिंग का भी उपयोग कर सकते हैं, लेकिन चयनित P4 या T4 के लिए समर्थित कोडेक और व्यावहारिक थ्रूपुट की जाँच की जानी चाहिए। डिलीवरी से पहले इंस्टॉलेशन कार्य और ऑपरेटर पहुँच की पुष्टि करें।
उपलब्ध विकल्प चयनित कॉन्फ़िगरेशन पर निर्भर करते हैं। कॉन्फ़िगरेटर में शामिल चयन और विकल्प मूल्य देखें।
इस सेवा परिवार के लिए विशिष्ट उत्तर।
P4 और T4 विकल्पों की तुलना अपने सॉफ़्टवेयर की समर्थन सूची और मेमोरी आवश्यकताओं से करें। चयनित विकल्प, न कि परिवार का शीर्षक, त्वरक कॉन्फ़िगरेशन को परिभाषित करता है।
नहीं। सिस्टम RAM और GPU की अपनी मेमोरी अलग संसाधन हैं। त्वरक विकल्प और होस्ट-मेमोरी विकल्प की अलग-अलग समीक्षा करें।
कैटलॉग ऑपरेटिंग-सिस्टम और सॉफ़्टवेयर विकल्प सूचीबद्ध करता है। अपनी परिनियोजन योजना के हिस्से के रूप में किसी भी आवश्यक फ्रेमवर्क, ड्राइवर और इंस्टॉलेशन कार्य की पुष्टि करें।
एप्लिकेशन की समर्थित त्वरक, ड्राइवर और ऑपरेटिंग-सिस्टम आवश्यकताओं की जाँच करें। सर्वर विनिर्देश में सूचीबद्ध GPU प्रत्येक इंजन के साथ संगतता स्थापित नहीं करता।
GPU चयन के साथ-साथ CPU प्लेटफ़ॉर्म और नेटवर्क पोर्ट की तुलना करें। बड़े डेटा स्थानांतरण वाले वर्कलोड को कंप्यूट-भारी स्थानीय बैच से अलग संतुलन की आवश्यकता हो सकती है।
प्रकाशित Tensor विकल्प Tesla P4 और T4 सूचीबद्ध करते हैं। अन्य त्वरक या कई GPU कैटलॉग चयन में शामिल नहीं हैं और उनके लिए अलग से मान्य कॉन्फ़िगरेशन आवश्यक होगा।
चयनित GPU, ड्राइवर, टूलकिट और फ्रेमवर्क संस्करणों को एक साथ जाँचें। इंस्टॉलेशन और एक कार्यशील परीक्षण कार्य की पुष्टि आवश्यक है; NVIDIA त्वरक सूचीबद्ध करना फ्रेमवर्क को पूर्व-कॉन्फ़िगर नहीं बनाता।
FFmpeg, हार्डवेयर-एन्कोडिंग समर्थन और आपके वर्कफ़्लो के लिए आवश्यक कोडेक का मूल्यांकन करें। HLS, DASH, WebRTC या RTMP समर्थन आपके द्वारा परिनियोजित सॉफ़्टवेयर पर निर्भर करता है, और किसी स्ट्रीम संख्या या विलंबता का वादा नहीं किया जाता।
योजना अपना पोर्ट, अनमीटर्ड ट्रैफ़िक और पाँच IP सूचीबद्ध करती है। ऑपरेटर के साथ रूट या प्रशासक पहुँच, रिकवरी नियंत्रण और आधारभूत सुरक्षा की पुष्टि करें; अतिरिक्त IP और सॉफ़्टवेयर विकल्प अलग हैं।
वेट, एक्टिवेशन, कैश और अस्थायी बफ़र को ध्यान में रखें, फिर केवल मॉडल फ़ाइल के बजाय शिखर वर्कलोड का परीक्षण करें।
गाइड पढ़ेंमॉडल अनुमान को ऑर्केस्ट्रेशन से अलग रखें, वास्तविक वर्कर का आकार तय करें और AI वर्कफ़्लो को सर्वर पर लगाने से पहले यह सीमित करें कि उसके टूल क्या बदल सकते हैं।
गाइड पढ़ेंअपने संसाधन चुनें। अपनी पहचान पर नियंत्रण रखें।