Tensor GPU 01
ฮาร์ดแวร์ GPU เฉพาะเครื่องที่รวมโปรเซสเซอร์ Xeon E5-2680 v4 สองตัว การกำหนดค่า GPU Tesla P4 / T4 ที่ระบุ หน่วยความจำ DDR4 64 GB และ SSD 1 TB ข้อกำหนดเครือข่ายคือพอร์ต 1 Gbps พร้อมการรับส่งข้อมูลแบบไม่คิดตามปริมาณ
มอบสภาพแวดล้อมเครื่องจริงในสวิตเซอร์แลนด์ให้ภาระงานที่ใช้การเร่งประมวลผล Tensor รวมตัวเลือก NVIDIA Tesla กับทรัพยากรเซิร์ฟเวอร์เฉพาะสำหรับกระบวนการอนุมาน เรนเดอร์ และประมวลผล GPU ที่รองรับ
ฮาร์ดแวร์ GPU เฉพาะเครื่องที่รวมโปรเซสเซอร์ Xeon E5-2680 v4 สองตัว การกำหนดค่า GPU Tesla P4 / T4 ที่ระบุ หน่วยความจำ DDR4 64 GB และ SSD 1 TB ข้อกำหนดเครือข่ายคือพอร์ต 1 Gbps พร้อมการรับส่งข้อมูลแบบไม่คิดตามปริมาณ
การกำหนดค่า GPU พร้อมพอร์ต 10 Gbps สำหรับโครงการเร่งประมวลผลที่ต้องย้ายชุดข้อมูลขนาดใหญ่ขึ้น ฮาร์ดแวร์ที่ระบุมีโปรเซสเซอร์ Xeon E5-2680 v4 สองตัว GPU Tesla P4 / T4 หน่วยความจำ DDR4 64 GB และ SSD 1 TB
โปรเซสเซอร์ Xeon Gold 6134 สองตัวทำงานร่วมกับการกำหนดค่า GPU Tesla P4 / T4 ที่ระบุ เพื่อการประมวลผลแบบเร่งบนเครื่องเฉพาะ แพ็กเกจนี้รวมหน่วยความจำ DDR4 64 GB, SSD 1 TB และพอร์ต 1 Gbps พร้อมการรับส่งข้อมูลแบบไม่คิดตามปริมาณ
เปรียบเทียบข้อมูลจำเพาะและราคาพื้นฐานที่ระบุไว้ ความพร้อมใช้งานจริง การส่งมอบ และภาษีที่เกี่ยวข้องจะยืนยันในใบเสนอราคา ภาพประกอบเป็นแนวคิดจำลอง
เข้าใจว่าอะไรทำให้กลุ่มบริการนี้มีประโยชน์
กลุ่ม Tensor ระบุว่าเป็นเซิร์ฟเวอร์จริง วางระบบปฏิบัติการ ไดรเวอร์ และชุดแอปพลิเคชันให้เหมาะกับฮาร์ดแวร์ที่เลือก แทนการอิงอินสแตนซ์เสมือนทั่วไป
หน้าปรับแต่งแยกตัวเลือก NVIDIA Tesla P4 และ T4 เปรียบเทียบหน่วยความจำ GPU ที่ระบุกับโมเดลหรืองานที่ต้องการรัน
กระบวนการ GPU ยังต้องอาศัยหน่วยความจำเครื่องโฮสต์ การเตรียมข้อมูล และพื้นที่จัดเก็บ ตรวจสอบแพลตฟอร์ม Xeon และเลือก RAM หรือดิสก์เพิ่มเติมเมื่อเป็นประโยชน์
เปรียบเทียบลักษณะพอร์ตและการรับส่งข้อมูลของการกำหนดค่า Tensor แต่ละแบบ การนำเข้าชุดข้อมูลและกระจายผลลัพธ์อาจสำคัญพอ ๆ กับตัวเร่งประมวลผล
รันงานอนุมานที่มีข้อกำหนดเฟรมเวิร์ก ความแม่นยำ และหน่วยความจำตรงกับตัวเร่งประมวลผล NVIDIA ที่เลือก
เตรียมกระบวนการเรนเดอร์หรือประมวลผลภาพหลังตรวจสอบความเข้ากันได้ของเอนจินกับ GPU และไดรเวอร์
ใช้แอปพลิเคชันที่รองรับตัวเร่งประมวลผลสำหรับงานภาพ สื่อ หรือตัวเลขที่ทำซ้ำได้ บนข้อมูลที่คุณมีสิทธิ์ประมวลผล
ก่อนเลือกเซิร์ฟเวอร์ ตรวจสอบว่าแอปพลิเคชันและข้อมูลใช้งานมีขนาดพอดีกับหน่วยความจำตัวเร่งประมวลผลที่เลือกหรือไม่ สถาปัตยกรรมโมเดล ความแม่นยำ และขนาดแบตช์ล้วนมีผล ตัวเลือก RAM เครื่องโฮสต์ที่ใหญ่ขึ้นไม่ได้เพิ่มหน่วยความจำของ GPU โดยอัตโนมัติ
เลือกระบบปฏิบัติการที่ซอฟต์แวร์รองรับ แล้วตรวจสอบข้อกำหนดไดรเวอร์ NVIDIA และเฟรมเวิร์ก การเตรียมข้อมูลด้วย CPU การอ่านพื้นที่จัดเก็บ และการถ่ายโอนข้อมูลอาจจำกัดกระบวนการแม้ GPU จะเหมาะสม ทดสอบประสิทธิภาพด้วยงานตัวแทนก่อนกำหนดงานผลิตขนาดใหญ่
Tensor ให้ที่ตั้งในสวิตเซอร์แลนด์สำหรับชุดแอปพลิเคชันที่คุณกำหนดค่าเอง ตัดสินใจว่าใครเข้าถึงชุดข้อมูล โมเดล และผลลัพธ์ได้ และเก็บข้อมูลอ่อนไหวให้พ้นไดเรกทอรีสาธารณะ ใช้ซอฟต์แวร์ที่มีใบอนุญาตและชุดข้อมูลที่ได้รับอนุญาต การมี GPU ไม่ได้สื่อถึงบริการ AI ภายนอกหรือคำรับรองการประมวลผลข้อมูลใด ๆ
พิจารณาตัวเร่งประมวลผล ไดรเวอร์ และแอปพลิเคชันที่เลือกเป็นการตัดสินใจด้านความเข้ากันได้ร่วมกัน งาน CUDA, TensorFlow หรือ PyTorch การประมวลผลวิทยาศาสตร์ และการเรนเดอร์ GPU ต้องใช้ชุดซอฟต์แวร์ที่รองรับกัน งานวิดีโออาจใช้ FFmpeg และการเข้ารหัสด้วยฮาร์ดแวร์ แต่ต้องตรวจสอบโคเดกที่รองรับและปริมาณงานจริงสำหรับ P4 หรือ T4 ที่เลือก ยืนยันงานติดตั้งและการเข้าถึงของผู้ให้บริการก่อนส่งมอบ
ตัวเลือกที่มีขึ้นอยู่กับการกำหนดค่าที่เลือก ดูสิ่งที่รวมไว้และราคาตัวเลือกในหน้าปรับแต่ง
คำตอบเฉพาะสำหรับบริการกลุ่มนี้
เปรียบเทียบตัวเลือก P4 และ T4 กับรายการที่ซอฟต์แวร์รองรับและความต้องการหน่วยความจำ ตัวเลือกที่เลือกเป็นตัวกำหนดการกำหนดค่าตัวเร่งประมวลผล ไม่ใช่ชื่อหัวข้อของกลุ่มบริการ
ไม่ RAM ระบบและหน่วยความจำของ GPU เป็นคนละทรัพยากร ตรวจสอบตัวเลือกตัวเร่งประมวลผลและหน่วยความจำเครื่องโฮสต์แยกกัน
แค็ตตาล็อกระบุตัวเลือกระบบปฏิบัติการและซอฟต์แวร์ ยืนยันเฟรมเวิร์ก ไดรเวอร์ และงานติดตั้งที่ต้องการเป็นส่วนหนึ่งของแผนติดตั้งใช้งาน
ตรวจสอบข้อกำหนดตัวเร่งประมวลผล ไดรเวอร์ และระบบปฏิบัติการที่แอปพลิเคชันรองรับ การระบุ GPU ในข้อมูลจำเพาะเซิร์ฟเวอร์ไม่ได้ยืนยันว่าเข้ากันได้กับทุกเอนจิน
เปรียบเทียบแพลตฟอร์ม CPU และพอร์ตเครือข่ายร่วมกับตัวเลือก GPU งานที่ถ่ายโอนข้อมูลมากอาจต้องใช้สัดส่วนทรัพยากรต่างจากงานแบตช์ภายในเครื่องที่เน้นการประมวลผล
ตัวเลือก Tensor ที่เผยแพร่ระบุ Tesla P4 และ T4 ตัวเร่งประมวลผลอื่นหรือ GPU หลายตัวไม่ใช่ตัวเลือกในแค็ตตาล็อก และต้องมีการกำหนดค่าที่ตรวจสอบแยกต่างหาก
ตรวจสอบ GPU ไดรเวอร์ ชุดเครื่องมือ และเวอร์ชันเฟรมเวิร์กที่เลือกร่วมกัน ต้องยืนยันการติดตั้งและงานทดสอบที่ทำงานได้ การระบุตัวเร่งประมวลผล NVIDIA ไม่ได้หมายความว่ากำหนดค่าเฟรมเวิร์กไว้ล่วงหน้า
ประเมิน FFmpeg การรองรับเข้ารหัสด้วยฮาร์ดแวร์ และโคเดกที่กระบวนการทำงานต้องใช้ การรองรับ HLS, DASH, WebRTC หรือ RTMP ขึ้นอยู่กับซอฟต์แวร์ที่ติดตั้ง และไม่มีการรับประกันจำนวนสตรีมหรือค่าความหน่วง
แพ็กเกจระบุพอร์ต การรับส่งข้อมูลแบบไม่คิดตามปริมาณ และ IP ห้ารายการ ยืนยันสิทธิ์ root หรือผู้ดูแลระบบ เครื่องมือกู้คืน และการป้องกันพื้นฐานกับผู้ให้บริการ ตัวเลือก IP เพิ่มเติมและซอฟต์แวร์เป็นรายการแยก
คำนึงถึงน้ำหนัก แอคติเวชัน แคช และบัฟเฟอร์ชั่วคราว จากนั้นทดสอบภาระงานสูงสุด ไม่ใช่แค่ไฟล์โมเดลเพียงอย่างเดียว
อ่านคู่มือแยกการอนุมานโมเดลออกจากการประสานงาน กำหนดขนาดผู้ปฏิบัติงานจริง และจำกัดสิ่งที่เครื่องมือของมันเปลี่ยนแปลงได้ก่อนนำเวิร์กโฟลว์ AI ขึ้นเซิร์ฟเวอร์
อ่านคู่มือเลือกทรัพยากรของคุณ รักษาการควบคุมตัวตนของคุณ