به بارهای کاری شتاب‌گرفته محیط فیزیکی اختصاصی خودشان را در سوئیس بدهید. تنسور گزینه‌های NVIDIA Tesla را با منابع سرور اختصاصی برای جریان‌های کاری سازگار استنتاج، رندر و پردازش GPU ترکیب می‌کند.
سخت‌افزار اختصاصی GPU با ترکیب دو پردازنده Xeon E5-2680 v4، پیکربندی فهرست‌شده Tesla P4 / T4 GPU، 64 GB حافظه DDR4 و یک SSD 1 TB. مشخصات شبکه یک پورت 1 Gbps با ترافیک بدون سهمیه است.
یک پیکربندی GPU با پورت 10 Gbps برای پروژه‌های شتاب‌گرفته‌ای که مجموعه‌داده‌های بزرگ‌تری را نیز جابه‌جا می‌کنند. سخت‌افزار فهرست‌شده شامل دو پردازنده Xeon E5-2680 v4، GPUهای Tesla P4 / T4، 64 GB حافظه DDR4 و یک SSD 1 TB است.
دو پردازنده Xeon Gold 6134 همراه با پیکربندی فهرست‌شده Tesla P4 / T4 GPU برای محاسبات شتاب‌گرفته اختصاصی. این پلن شامل 64 GB حافظه DDR4، یک SSD 1 TB و یک پورت 1 Gbps با ترافیک بدون سهمیه است.
مشخصات فهرست‌شده و قیمت‌های پایه را مقایسه کنید. دسترس‌پذیری نهایی، تحویل و مالیات قابل اعمال در پیش‌فاکتور شما تأیید می‌شود. تصاویر مفهومی هستند.
درک کنید چه چیزی این خانواده خدمات را مفید می‌کند.
محدوده تنسور به‌عنوان بایر متال فهرست شده است. سیستم‌عامل، درایورها و پشته برنامه خود را حول سخت‌افزار انتخاب‌شده برنامه‌ریزی کنید، نه یک نمونه مجازی عمومی.
پیکربندی‌کننده بین گزینه‌های NVIDIA Tesla P4 و T4 تمایز قائل می‌شود. حافظه GPU فهرست‌شده را با مدل یا کاری که می‌خواهید اجرا کنید مقایسه کنید.
یک جریان کاری GPU همچنین به حافظه میزبان، آماده‌سازی داده و ذخیره‌سازی نیاز دارد. پلتفرم Xeon را بررسی کنید و در صورت مفید بودن، افزودنی‌های RAM یا دیسک را انتخاب کنید.
مشخصات پورت و ترافیک را در پیکربندی‌های تنسور مقایسه کنید. ورود مجموعه‌داده و توزیع خروجی می‌تواند به اندازه خود شتاب‌دهنده مهم باشد.
بارهای کاری استنتاج را اجرا کنید که چارچوب، دقت و نیازمندی‌های حافظه آن‌ها با شتاب‌دهنده NVIDIA انتخاب‌شده سازگار است.
پس از بررسی سازگاری موتور با GPU و درایور، یک جریان کاری رندر یا پردازش بصری آماده کنید.
از یک برنامه آگاه به شتاب‌دهنده برای کارهای تکرارپذیر تصویری، رسانه‌ای یا عددی روی داده‌هایی که مجاز به پردازش آن‌ها هستید استفاده کنید.
پیش از انتخاب سرور، بررسی کنید که آیا برنامه و داده کاری آن در حافظه شتاب‌دهنده انتخاب‌شده جا می‌شود. معماری مدل، دقت و اندازه دسته همگی بر این نیازمندی اثر می‌گذارند. گزینه بزرگ‌تر حافظه میزبان RAM به‌طور خودکار حافظه خود GPU را افزایش نمی‌دهد.
سیستم‌عاملی انتخاب کنید که نرم‌افزار شما از آن پشتیبانی می‌کند، سپس نیازمندی‌های درایور NVIDIA و چارچوب را تأیید کنید. پیش‌پردازش CPU، خواندن از ذخیره‌سازی و انتقال داده می‌تواند یک جریان کاری را محدود کند، حتی وقتی GPU مناسب است. پیش از زمان‌بندی یک کار تولیدی بزرگ، یک کار نمونه را بنچمارک کنید.
تنسور موقعیت سوئیسی برای پشته برنامه‌ای که خودتان پیکربندی می‌کنید فراهم می‌کند. تصمیم بگیرید چه کسی می‌تواند به مجموعه‌داده‌ها، مدل‌ها و نتایج دسترسی داشته باشد و مواد حساس را از پوشه‌های عمومی دور نگه دارید. از نرم‌افزار دارای مجوز و مجموعه‌داده‌های مجاز استفاده کنید؛ وجود یک GPU به معنای هیچ سرویس هوش مصنوعی خارجی یا ادعای پردازش داده نیست.
شتاب‌دهنده، درایور و برنامه انتخاب‌شده را یک تصمیم سازگاری واحد بدانید. کار مبتنی بر CUDA، TensorFlow یا PyTorch، پردازش علمی و رندر GPU به ترکیب نرم‌افزاری پشتیبانی‌شده نیاز دارند. جریان‌های کاری ویدیو ممکن است از FFmpeg و رمزگذاری سخت‌افزاری نیز استفاده کنند، اما کدک‌های پشتیبانی‌شده و توان عملی باید برای P4 یا T4 انتخاب‌شده بررسی شوند. کار نصب و دسترسی اپراتور را پیش از تحویل تأیید کنید.
گزینه‌های موجود به پیکربندی انتخاب‌شده بستگی دارند. انتخاب‌های شامل‌شده و قیمت گزینه‌ها را در پیکربندی‌کننده ببینید.
پاسخ‌های مشخص برای این خانواده خدمات.
گزینه‌های P4 و T4 را با فهرست پشتیبانی نرم‌افزار و نیازهای حافظه خود مقایسه کنید. گزینه انتخاب‌شده، نه عنوان خانواده، پیکربندی شتاب‌دهنده را تعریف می‌کند.
خیر. حافظه سیستم RAM و حافظه خود GPU منابع متفاوتی هستند. گزینه شتاب‌دهنده و گزینه حافظه میزبان را جداگانه بررسی کنید.
کاتالوگ انتخاب‌های سیستم‌عامل و نرم‌افزار را فهرست می‌کند. هر چارچوب، درایور و کار نصب موردنیاز را به‌عنوان بخشی از طرح استقرار خود تأیید کنید.
نیازمندی‌های شتاب‌دهنده، درایور و سیستم‌عامل پشتیبانی‌شده برنامه را بررسی کنید. GPU فهرست‌شده در مشخصات سرور، سازگاری با هر موتوری را اثبات نمی‌کند.
پلتفرم CPU و پورت شبکه را همراه با انتخاب GPU مقایسه کنید. یک بار کاری با انتقال داده بزرگ ممکن است به تعادل متفاوتی از یک دسته محلی محاسبات‌محور نیاز داشته باشد.
انتخاب‌های منتشرشده تنسور، Tesla P4 و T4 را فهرست می‌کنند. سایر شتاب‌دهنده‌ها یا چند GPU در انتخاب‌های کاتالوگ نیستند و به پیکربندی جداگانه اعتبارسنجی‌شده نیاز دارند.
GPU، درایور، جعبه‌ابزار و نسخه‌های چارچوب انتخاب‌شده را با هم بررسی کنید. نصب و یک کار آزمایشی موفق نیازمند تأیید است؛ فهرست کردن یک شتاب‌دهنده NVIDIA باعث نمی‌شود چارچوب از پیش پیکربندی‌شده باشد.
FFmpeg، پشتیبانی رمزگذاری سخت‌افزاری و کدک‌های موردنیاز جریان کاری خود را ارزیابی کنید. پشتیبانی HLS، DASH، WebRTC یا RTMP به نرم‌افزاری بستگی دارد که مستقر می‌کنید و هیچ تعداد استریم یا تأخیری وعده داده نمی‌شود.
پلن پورت، ترافیک بدون سهمیه و پنج IP خود را فهرست می‌کند. دسترسی root یا مدیر، کنترل‌های بازیابی و حفاظت پایه را با اپراتور تأیید کنید؛ گزینه‌های IP و نرم‌افزار اضافی جداگانه هستند.
وزن‌ها، فعال‌سازی‌ها، کش‌ها و بافرهای موقت را در نظر بگیرید، سپس بار اوج را آزمایش کنید، نه فقط فایل مدل را.
راهنما را بخوانیداستنتاج مدل را از هماهنگ‌سازی جدا کنید، کارگر واقعی را اندازه‌بندی کنید و پیش از قرار دادن یک گردش‌کار هوش مصنوعی روی سرور، محدود کنید که ابزارهای آن چه چیزی می‌توانند تغییر دهند.
راهنما را بخوانیدمنابع خود را انتخاب کنید. کنترل هویت خود را حفظ کنید.