ত্বরণযুক্ত ওয়ার্কলোডকে Switzerland-এ নিজস্ব ফিজিক্যাল পরিবেশ দিন। Tensor সামঞ্জস্যপূর্ণ ইনফারেন্স, রেন্ডারিং ও GPU প্রসেসিং ওয়ার্কফ্লোর জন্য NVIDIA Tesla অপশনের সঙ্গে ডেডিকেটেড সার্ভার রিসোর্স মেলায়।
ডেডিকেটেড GPU হার্ডওয়্যার, যেখানে ডুয়াল Xeon E5-2680 v4 প্রসেসর, তালিকাভুক্ত Tesla P4 / T4 GPU কনফিগারেশন, 64 GB DDR4 মেমরি এবং একটি 1 TB SSD রয়েছে। নেটওয়ার্ক স্পেসিফিকেশন হলো আনমিটারড ট্রাফিকসহ একটি 1 Gbps পোর্ট।
একটি GPU কনফিগারেশন, যেখানে বড় ডেটাসেটও সরানো ত্বরণযুক্ত প্রকল্পের জন্য 10 Gbps পোর্ট রয়েছে। তালিকাভুক্ত হার্ডওয়্যারে ডুয়াল Xeon E5-2680 v4 প্রসেসর, Tesla P4 / T4 GPU, 64 GB DDR4 মেমরি এবং একটি 1 TB SSD রয়েছে।
ডেডিকেটেড ত্বরণযুক্ত কম্পিউটের জন্য তালিকাভুক্ত Tesla P4 / T4 GPU কনফিগারেশনের সঙ্গে ডুয়াল Xeon Gold 6134 প্রসেসর রয়েছে। এই প্ল্যানে 64 GB DDR4 মেমরি, একটি 1 TB SSD এবং আনমিটারড ট্রাফিকসহ একটি 1 Gbps পোর্ট অন্তর্ভুক্ত।
তালিকাভুক্ত স্পেসিফিকেশন এবং বেস মূল্য তুলনা করুন। চূড়ান্ত প্রাপ্যতা, ডেলিভারি এবং প্রযোজ্য কর আপনার কোটে নিশ্চিত করা হয়। চিত্রগুলি ধারণাগত।
এই পরিষেবা পরিবারকে কী কাজে লাগায় তা বুঝুন।
Tensor পরিসর বেয়ার মেটাল হিসেবে তালিকাভুক্ত। সাধারণ ভার্চুয়াল ইনস্ট্যান্সের বদলে নির্বাচিত হার্ডওয়্যার ঘিরে আপনার অপারেটিং সিস্টেম, ড্রাইভার ও অ্যাপ্লিকেশন স্ট্যাক পরিকল্পনা করুন।
কনফিগারেটর NVIDIA Tesla P4 ও T4 অপশন আলাদা করে। আপনি যে মডেল বা কাজ চালাতে চান তার সঙ্গে তালিকাভুক্ত GPU মেমরি তুলনা করুন।
একটি GPU ওয়ার্কফ্লোর জন্য হোস্ট মেমরি, ডেটা প্রস্তুতি ও স্টোরেজও প্রয়োজন। Xeon প্ল্যাটফর্ম পর্যালোচনা করুন এবং প্রয়োজন হলে RAM বা ডিস্ক সংযোজন বেছে নিন।
Tensor কনফিগারেশনগুলোর মধ্যে পোর্ট ও ট্রাফিক বৈশিষ্ট্য তুলনা করুন। ডেটাসেট আমদানি ও আউটপুট বিতরণ অ্যাক্সিলারেটরের মতোই গুরুত্বপূর্ণ হতে পারে।
যেসব ইনফারেন্স ওয়ার্কলোডের ফ্রেমওয়ার্ক, প্রিসিশন ও মেমরি প্রয়োজনীয়তা নির্বাচিত NVIDIA অ্যাক্সিলারেটরের সঙ্গে মেলে, সেগুলো চালান।
ইঞ্জিনের GPU ও ড্রাইভার সামঞ্জস্যতা যাচাই করার পর একটি রেন্ডারিং বা ভিজ্যুয়াল-প্রসেসিং ওয়ার্কফ্লো প্রস্তুত করুন।
যে ডেটা প্রসেস করার অধিকার আপনার আছে, সেগুলোতে পুনরাবৃত্তিযোগ্য ইমেজ, মিডিয়া বা সংখ্যাগত কাজের জন্য অ্যাক্সিলারেটর-সচেতন অ্যাপ্লিকেশন ব্যবহার করুন।
সার্ভার বেছে নেওয়ার আগে দেখুন অ্যাপ্লিকেশন ও তার কার্যকরী ডেটা নির্বাচিত অ্যাক্সিলারেটরের মেমরিতে ফিট করে কি না। মডেল আর্কিটেকচার, প্রিসিশন ও ব্যাচ সাইজ সবই এই প্রয়োজনীয়তাকে প্রভাবিত করে। বড় হোস্ট-RAM অপশন স্বয়ংক্রিয়ভাবে GPU-এর নিজস্ব মেমরি বাড়ায় না।
আপনার সফটওয়্যার যে অপারেটিং সিস্টেম সমর্থন করে তা বেছে নিন, তারপর NVIDIA ড্রাইভার ও ফ্রেমওয়ার্ক প্রয়োজনীয়তা যাচাই করুন। CPU প্রিপ্রসেসিং, স্টোরেজ রিড ও ডেটা ট্রান্সফার GPU উপযুক্ত হলেও একটি ওয়ার্কফ্লোকে সীমিত করতে পারে। বড় প্রোডাকশন কাজ নির্ধারণের আগে প্রতিনিধিত্বমূলক একটি কাজ বেঞ্চমার্ক করুন।
Tensor আপনার কনফিগার করা অ্যাপ্লিকেশন স্ট্যাকের জন্য একটি Swiss অবস্থান দেয়। কে ডেটাসেট, মডেল ও ফলাফল অ্যাক্সেস করতে পারবে তা নির্ধারণ করুন এবং সংবেদনশীল উপকরণ পাবলিক ডিরেক্টরির বাইরে রাখুন। লাইসেন্সপ্রাপ্ত সফটওয়্যার ও অনুমোদিত ডেটাসেট ব্যবহার করুন; একটি GPU থাকার অর্থ কোনো বাহ্যিক AI সেবা বা ডেটা-প্রসেসিং দাবি নয়।
নির্বাচিত অ্যাক্সিলারেটর, ড্রাইভার ও অ্যাপ্লিকেশনকে একটি সামঞ্জস্যতা সিদ্ধান্ত হিসেবে বিবেচনা করুন। CUDA-ভিত্তিক কাজ, TensorFlow বা PyTorch, বৈজ্ঞানিক প্রসেসিং এবং GPU রেন্ডারিংয়ের জন্য সমর্থিত সফটওয়্যার সমন্বয় প্রয়োজন। ভিডিও ওয়ার্কফ্লোতে FFmpeg ও হার্ডওয়্যার এনকোডিংও ব্যবহার হতে পারে, তবে নির্বাচিত P4 বা T4-এর জন্য সমর্থিত কোডেক ও বাস্তব থ্রুপুট যাচাই করতে হবে। ডেলিভারির আগে ইনস্টলেশন কাজ ও অপারেটর অ্যাক্সেস নিশ্চিত করুন।
উপলব্ধ পছন্দগুলি নির্বাচিত কনফিগারেশনের উপর নির্ভর করে। কনফিগারেটরে অন্তর্ভুক্ত নির্বাচন এবং অপশন মূল্য দেখুন।
এই পরিষেবা পরিবারের জন্য নির্দিষ্ট উত্তর।
আপনার সফটওয়্যারের সমর্থন তালিকা ও মেমরি প্রয়োজনীয়তার সঙ্গে P4 ও T4 অপশন তুলনা করুন। পরিবারের শিরোনাম নয়, নির্বাচিত অপশনই অ্যাক্সিলারেটর কনফিগারেশন নির্ধারণ করে।
না। সিস্টেম RAM এবং GPU-এর নিজস্ব মেমরি ভিন্ন রিসোর্স। অ্যাক্সিলারেটর অপশন ও হোস্ট-মেমরি অপশন আলাদাভাবে পর্যালোচনা করুন।
ক্যাটালগে অপারেটিং-সিস্টেম ও সফটওয়্যার পছন্দ তালিকাভুক্ত। আপনার ডিপ্লয়মেন্ট পরিকল্পনার অংশ হিসেবে প্রয়োজনীয় ফ্রেমওয়ার্ক, ড্রাইভার ও ইনস্টলেশন কাজ নিশ্চিত করুন।
অ্যাপ্লিকেশনের সমর্থিত অ্যাক্সিলারেটর, ড্রাইভার ও অপারেটিং-সিস্টেম প্রয়োজনীয়তা দেখুন। সার্ভার স্পেসিফিকেশনে GPU তালিকাভুক্ত থাকা প্রতিটি ইঞ্জিনের সঙ্গে সামঞ্জস্যতা প্রতিষ্ঠা করে না।
GPU নির্বাচনের পাশাপাশি CPU প্ল্যাটফর্ম ও নেটওয়ার্ক পোর্ট তুলনা করুন। বড় ডেটা ট্রান্সফারের ওয়ার্কলোডে কম্পিউট-ভারী স্থানীয় ব্যাচের চেয়ে ভিন্ন ভারসাম্য প্রয়োজন হতে পারে।
প্রকাশিত Tensor পছন্দে Tesla P4 ও T4 তালিকাভুক্ত। অন্যান্য অ্যাক্সিলারেটর বা একাধিক GPU ক্যাটালগের অন্তর্ভুক্ত নির্বাচন নয় এবং সেগুলোর জন্য আলাদাভাবে যাচাইকৃত কনফিগারেশন প্রয়োজন হবে।
নির্বাচিত GPU, ড্রাইভার, টুলকিট ও ফ্রেমওয়ার্ক সংস্করণ একসঙ্গে যাচাই করুন। ইনস্টলেশন ও একটি কার্যকর পরীক্ষামূলক কাজ নিশ্চিত করা প্রয়োজন; NVIDIA অ্যাক্সিলারেটর তালিকাভুক্ত থাকা ফ্রেমওয়ার্ক আগে থেকে কনফিগার করা বোঝায় না।
FFmpeg, হার্ডওয়্যার-এনকোডিং সমর্থন এবং আপনার ওয়ার্কফ্লোর প্রয়োজনীয় কোডেক মূল্যায়ন করুন। HLS, DASH, WebRTC বা RTMP সমর্থন আপনার ডিপ্লয় করা সফটওয়্যারের উপর নির্ভর করে, আর কোনো স্ট্রিম সংখ্যা বা লেটেন্সির প্রতিশ্রুতি দেওয়া হয় না।
প্ল্যানে এর পোর্ট, আনমিটারড ট্রাফিক ও পাঁচটি IP তালিকাভুক্ত। অপারেটরের সঙ্গে রুট বা অ্যাডমিনিস্ট্রেটর অ্যাক্সেস, রিকভারি নিয়ন্ত্রণ ও বেসলাইন সুরক্ষা নিশ্চিত করুন; অতিরিক্ত IP ও সফটওয়্যার অপশন আলাদা।
ওয়েট, অ্যাক্টিভেশন, ক্যাশে এবং অস্থায়ী বাফারের হিসাব করুন, তারপর শুধু মডেল ফাইল নয় বরং সর্বোচ্চ ওয়ার্কলোড পরীক্ষা করুন।
গাইড পড়ুনএকটি AI ওয়ার্কফ্লো সার্ভারে বসানোর আগে মডেল ইনফারেন্সকে অর্কেস্ট্রেশন থেকে আলাদা করুন, প্রকৃত ওয়ার্কারের আকার নির্ধারণ করুন এবং তার টুলগুলো কী পরিবর্তন করতে পারে তা সীমিত করুন।
গাইড পড়ুনআপনার রিসোর্স বেছে নিন। আপনার পরিচয়ের নিয়ন্ত্রণ রাখুন।