تیز رفتار ورک لوڈز کو سوئٹزرلینڈ میں اپنا جسمانی ماحول دیں۔ Tensor مطابق انفرنس، رینڈرنگ اور GPU پروسیسنگ ورک فلوز کے لیے NVIDIA Tesla آپشنز کو مخصوص سرور وسائل کے ساتھ جوڑتا ہے۔
مخصوص GPU ہارڈویئر جو دوہرے Xeon E5-2680 v4 پروسیسرز، درج شدہ Tesla P4 / T4 GPU ترتیب، 64 GB DDR4 میموری اور ایک 1 TB SSD کو یکجا کرتا ہے۔ نیٹ ورک کی تفصیل 1 Gbps پورٹ بغیر میٹرڈ ٹریفک کے ساتھ ہے۔
GPU ترتیب 10 Gbps پورٹ کے ساتھ ان تیز رفتار پروجیکٹس کے لیے جو بڑے ڈیٹا سیٹ بھی منتقل کرتے ہیں۔ درج شدہ ہارڈویئر میں دوہرے Xeon E5-2680 v4 پروسیسرز، Tesla P4 / T4 GPUs، 64 GB DDR4 میموری اور ایک 1 TB SSD شامل ہیں۔
درج شدہ Tesla P4 / T4 GPU ترتیب کے ساتھ دوہرے Xeon Gold 6134 پروسیسرز مخصوص تیز رفتار کمپیوٹ کے لیے شامل ہیں۔ اس پلان میں 64 GB DDR4 میموری، ایک 1 TB SSD اور بغیر میٹرڈ ٹریفک کے ساتھ 1 Gbps پورٹ شامل ہے۔
درج شدہ تفصیلات اور بنیادی قیمتوں کا موازنہ کریں۔ حتمی دستیابی، ڈیلیوری اور قابل اطلاق ٹیکس آپ کے کوٹ پر تصدیق شدہ ہوں گے۔ تصاویر تصوراتی ہیں۔
سمجھیں کہ اس سروس فیملی کو کیا مفید بناتا ہے۔
Tensor رینج بیئر میٹل کے طور پر درج ہے۔ اپنا آپریٹنگ سسٹم، ڈرائیورز اور ایپلیکیشن اسٹیک منتخب ہارڈویئر کے گرد ترتیب دیں، نہ کہ عام ورچوئل انسٹینس کے گرد۔
کنفیگریٹر NVIDIA Tesla P4 اور T4 آپشنز میں فرق کرتا ہے۔ درج شدہ GPU میموری کا موازنہ اس ماڈل یا کام سے کریں جو آپ چلانا چاہتے ہیں۔
GPU ورک فلو کو ہوسٹ میموری، ڈیٹا کی تیاری اور اسٹوریج بھی درکار ہوتی ہے۔ Xeon پلیٹ فارم کا جائزہ لیں اور جہاں مفید ہو RAM یا ڈسک کے اضافے منتخب کریں۔
Tensor ترتیبات میں پورٹ اور ٹریفک کی خصوصیات کا موازنہ کریں۔ ڈیٹا سیٹ کی درآمد اور آؤٹ پٹ کی تقسیم خود ایکسیلریٹر جتنی اہم ہو سکتی ہے۔
ایسے انفرنس ورک لوڈز چلائیں جن کا فریم ورک، درستگی اور میموری کی ضروریات منتخب NVIDIA ایکسیلریٹر سے مطابقت رکھتی ہوں۔
انجن کی GPU اور ڈرائیور مطابقت چیک کرنے کے بعد رینڈرنگ یا بصری پروسیسنگ ورک فلو تیار کریں۔
ان ڈیٹا پر قابل تکرار تصویری، میڈیا یا عددی کاموں کے لیے ایکسیلریٹر سے آگاہ ایپلیکیشن استعمال کریں جن پر کارروائی کا آپ کو حق ہے۔
سرور منتخب کرنے سے پہلے چیک کریں کہ آیا ایپلیکیشن اور اس کا ورکنگ ڈیٹا منتخب ایکسیلریٹر کی میموری میں فٹ ہوتا ہے۔ ماڈل کی ساخت، درستگی اور بیچ سائز سب اس ضرورت پر اثر ڈالتے ہیں۔ بڑا ہوسٹ-RAM آپشن خود بخود GPU کی اپنی میموری نہیں بڑھاتا۔
اپنے سافٹ ویئر کے سپورٹ کردہ آپریٹنگ سسٹم کا انتخاب کریں، پھر NVIDIA ڈرائیور اور فریم ورک کی ضروریات کی تصدیق کریں۔ CPU پری پروسیسنگ، اسٹوریج ریڈز اور ڈیٹا ٹرانسفر ورک فلو کو محدود کر سکتے ہیں چاہے GPU موزوں ہو۔ بڑے پروڈکشن جاب کی شیڈولنگ سے پہلے نمائندہ کام کی بینچ مارک کریں۔
Tensor آپ کو ایک سوئس مقام دیتا ہے اس ایپلیکیشن اسٹیک کے لیے جو آپ ترتیب دیتے ہیں۔ فیصلہ کریں کہ ڈیٹا سیٹس، ماڈلز اور نتائج تک کس کی رسائی ہو، اور حساس مواد کو عوامی ڈائریکٹریز سے دور رکھیں۔ لائسنس یافتہ سافٹ ویئر اور مجاز ڈیٹا سیٹس استعمال کریں؛ GPU کی موجودگی سے کوئی بیرونی AI سروس یا ڈیٹا پروسیسنگ کا دعویٰ نہیں نکلتا۔
منتخب ایکسیلریٹر، ڈرائیور اور ایپلیکیشن کو ایک ہی مطابقت کا فیصلہ سمجھیں۔ CUDA پر مبنی کام، TensorFlow یا PyTorch، سائنسی پروسیسنگ اور GPU رینڈرنگ کے لیے سپورٹ شدہ سافٹ ویئر امتزاج درکار ہے۔ ویڈیو ورک فلوز FFmpeg اور ہارڈویئر انکوڈنگ بھی استعمال کر سکتے ہیں، لیکن منتخب P4 یا T4 کے لیے سپورٹ شدہ کوڈیکس اور عملی تھرو پٹ چیک کرنا ضروری ہے۔ ترسیل سے پہلے تنصیب کے کام اور آپریٹر رسائی کی تصدیق کریں۔
دستیاب انتخاب منتخب کنفیگریشن پر منحصر ہے۔ کنفیگریٹر میں شامل انتخاب اور آپشن قیمتیں دیکھیں۔
اس سروس فیملی کے لیے مخصوص جوابات۔
P4 اور T4 آپشنز کا موازنہ اپنے سافٹ ویئر کی سپورٹ فہرست اور میموری کی ضروریات کے ساتھ کریں۔ منتخب آپشن، نہ کہ فیملی کا عنوان، ایکسیلریٹر کی ترتیب طے کرتا ہے۔
نہیں۔ سسٹم RAM اور GPU کی اپنی میموری مختلف وسائل ہیں۔ ایکسیلریٹر آپشن اور ہوسٹ میموری آپشن کا الگ الگ جائزہ لیں۔
کیٹلاگ آپریٹنگ سسٹم اور سافٹ ویئر کے انتخاب درج کرتا ہے۔ اپنے ڈیپلائمنٹ پلان کے حصے کے طور پر کسی بھی درکار فریم ورک، ڈرائیور اور تنصیب کے کام کی تصدیق کریں۔
ایپلیکیشن کے سپورٹ کردہ ایکسیلریٹر، ڈرائیور اور آپریٹنگ سسٹم کی ضروریات چیک کریں۔ سرور کی تفصیل میں درج GPU ہر انجن کے ساتھ مطابقت قائم نہیں کرتا۔
GPU کے انتخاب کے ساتھ ساتھ CPU پلیٹ فارم اور نیٹ ورک پورٹ کا بھی موازنہ کریں۔ بڑے ڈیٹا ٹرانسفر والے ورک لوڈ کو کمپیوٹ پر بھاری مقامی بیچ سے مختلف توازن درکار ہو سکتا ہے۔
شائع شدہ Tensor انتخاب Tesla P4 اور T4 درج کرتے ہیں۔ دیگر ایکسیلریٹرز یا کئی GPUs کیٹلاگ کے شامل انتخاب نہیں ہیں اور ان کے لیے الگ سے تصدیق شدہ ترتیب درکار ہوگی۔
منتخب GPU، ڈرائیور، ٹول کٹ اور فریم ورک ورژنز کو ایک ساتھ چیک کریں۔ تنصیب اور کام کرنے والے ٹیسٹ جاب کی تصدیق درکار ہے؛ NVIDIA ایکسیلریٹر درج کرنا فریم ورک کو پہلے سے ترتیب شدہ نہیں بناتا۔
FFmpeg، ہارڈویئر انکوڈنگ سپورٹ اور آپ کے ورک فلو کے درکار کوڈیکس کا جائزہ لیں۔ HLS، DASH، WebRTC یا RTMP سپورٹ آپ کے ڈیپلائے کردہ سافٹ ویئر پر منحصر ہے، اور اسٹریم کی تعداد یا تاخیر کا کوئی وعدہ نہیں کیا جاتا۔
پلان اپنا پورٹ، بغیر میٹرڈ ٹریفک اور پانچ IPs درج کرتا ہے۔ آپریٹر کے ساتھ روٹ یا ایڈمنسٹریٹر رسائی، ریکوری کنٹرولز اور بنیادی تحفظ کی تصدیق کریں؛ اضافی IP اور سافٹ ویئر آپشنز الگ ہیں۔
وزن، ایکٹیویشنز، کیشز اور عارضی بفرز کا خیال رکھیں، پھر صرف ماڈل فائل کے بجائے چوٹی کے ورک لوڈ کی جانچ کریں۔
گائیڈ پڑھیںAI ورک فلو کو سرور پر رکھنے سے پہلے ماڈل انفرنس کو آرکیسٹریشن سے الگ کریں، اصل ورکر کا سائز مقرر کریں اور اس کے ٹولز کیا تبدیل کر سکتے ہیں اسے محدود کریں۔
گائیڈ پڑھیںاپنے وسائل منتخب کریں۔ اپنی شناخت پر کنٹرول رکھیں۔