Dành môi trường vật lý riêng tại Thụy Sĩ cho tác vụ tăng tốc. Tensor kết hợp tùy chọn NVIDIA Tesla với tài nguyên máy chủ riêng cho quy trình suy luận, kết xuất và xử lý GPU tương thích.
Phần cứng GPU riêng kết hợp bộ xử lý Xeon E5-2680 v4 kép, cấu hình GPU Tesla P4 / T4 được liệt kê, 64 GB bộ nhớ DDR4 và SSD 1 TB. Thông số mạng là cổng 1 Gbps với lưu lượng không đo đếm.
Cấu hình GPU có cổng 10 Gbps cho dự án tăng tốc đồng thời truyền tập dữ liệu lớn. Phần cứng được liệt kê gồm bộ xử lý Xeon E5-2680 v4 kép, GPU Tesla P4 / T4, 64 GB bộ nhớ DDR4 và SSD 1 TB.
Bộ xử lý Xeon Gold 6134 kép đi cùng cấu hình GPU Tesla P4 / T4 được liệt kê cho điện toán tăng tốc chuyên dụng. Gói gồm 64 GB bộ nhớ DDR4, SSD 1 TB và cổng 1 Gbps với lưu lượng không đo đếm.
So sánh các thông số kỹ thuật được liệt kê và giá cơ bản. Tình trạng khả dụng cuối cùng, việc cung cấp và thuế áp dụng được xác nhận trên báo giá của bạn. Các minh họa chỉ mang tính khái niệm.
Hiểu điều gì làm cho nhóm dịch vụ này hữu ích.
Dòng Tensor được liệt kê là máy chủ vật lý. Lập kế hoạch hệ điều hành, trình điều khiển và bộ phần mềm ứng dụng theo phần cứng đã chọn thay vì máy ảo chung chung.
Bộ cấu hình phân biệt tùy chọn NVIDIA Tesla P4 và T4. So sánh bộ nhớ GPU được liệt kê với mô hình hoặc tác vụ muốn chạy.
Quy trình GPU cũng cần bộ nhớ máy chủ, chuẩn bị dữ liệu và lưu trữ. Xem nền tảng Xeon và chọn RAM hoặc ổ đĩa bổ sung khi hữu ích.
So sánh đặc tính cổng và lưu lượng giữa các cấu hình Tensor. Nhập tập dữ liệu và phân phối đầu ra có thể quan trọng như chính bộ tăng tốc.
Chạy tác vụ suy luận có framework, độ chính xác và yêu cầu bộ nhớ phù hợp bộ tăng tốc NVIDIA đã chọn.
Chuẩn bị quy trình kết xuất hoặc xử lý hình ảnh sau khi kiểm tra khả năng tương thích GPU và trình điều khiển của công cụ.
Dùng ứng dụng hỗ trợ bộ tăng tốc cho tác vụ hình ảnh, phương tiện hoặc tính toán lặp lại trên dữ liệu bạn có quyền xử lý.
Trước khi chọn máy chủ, kiểm tra ứng dụng và dữ liệu làm việc có vừa bộ nhớ bộ tăng tốc đã chọn không. Kiến trúc mô hình, độ chính xác và kích thước lô đều ảnh hưởng yêu cầu này. Tùy chọn RAM máy chủ lớn hơn không tự tăng bộ nhớ riêng của GPU.
Chọn hệ điều hành được phần mềm hỗ trợ, rồi kiểm tra yêu cầu trình điều khiển NVIDIA và framework. Tiền xử lý CPU, đọc lưu trữ và truyền dữ liệu có thể giới hạn quy trình ngay cả khi GPU phù hợp. Đo tác vụ đại diện trước khi lên lịch công việc sản xuất lớn.
Tensor cho bạn vị trí tại Thụy Sĩ cho bộ phần mềm tự cấu hình. Xác định ai được truy cập tập dữ liệu, mô hình và kết quả, đồng thời giữ tài liệu nhạy cảm ngoài thư mục công khai. Dùng phần mềm có giấy phép và tập dữ liệu được phép; sự hiện diện của GPU không hàm ý dịch vụ AI bên ngoài hay tuyên bố xử lý dữ liệu.
Coi bộ tăng tốc, trình điều khiển và ứng dụng đã chọn là một quyết định tương thích. Công việc dựa trên CUDA, TensorFlow hoặc PyTorch, tính toán khoa học và kết xuất GPU cần tổ hợp phần mềm được hỗ trợ. Quy trình video cũng có thể dùng FFmpeg và mã hóa bằng phần cứng, nhưng phải kiểm tra codec được hỗ trợ và thông lượng thực tế cho P4 hoặc T4 đã chọn. Xác nhận công việc cài đặt và truy cập của đơn vị vận hành trước khi bàn giao.
Các lựa chọn hiện có phụ thuộc vào cấu hình đã chọn. Xem các lựa chọn được bao gồm và giá tùy chọn trong trình cấu hình.
Câu trả lời cụ thể cho nhóm dịch vụ này.
So sánh P4 và T4 với danh sách hỗ trợ của phần mềm và nhu cầu bộ nhớ. Tùy chọn đã chọn, không phải tên giới thiệu dòng sản phẩm, xác định cấu hình bộ tăng tốc.
Không. RAM hệ thống và bộ nhớ riêng GPU là các tài nguyên khác nhau. Xem xét riêng tùy chọn bộ tăng tốc và bộ nhớ máy chủ.
Danh mục liệt kê lựa chọn hệ điều hành và phần mềm. Xác nhận framework, trình điều khiển và công việc cài đặt cần thiết trong kế hoạch triển khai.
Kiểm tra yêu cầu bộ tăng tốc, trình điều khiển và hệ điều hành được ứng dụng hỗ trợ. GPU trong thông số máy chủ không xác lập khả năng tương thích với mọi công cụ kết xuất.
So sánh nền tảng CPU và cổng mạng cùng lựa chọn GPU. Tác vụ truyền dữ liệu lớn có thể cần cân đối khác với lô xử lý cục bộ nặng tính toán.
Lựa chọn Tensor được công bố liệt kê Tesla P4 và T4. Bộ tăng tốc khác hoặc nhiều GPU không phải lựa chọn có sẵn trong danh mục và cần cấu hình được xác nhận riêng.
Kiểm tra cùng nhau GPU, trình điều khiển, bộ công cụ và phiên bản framework. Cần xác nhận việc cài đặt và tác vụ kiểm thử chạy được; liệt kê bộ tăng tốc NVIDIA không có nghĩa framework đã được cấu hình sẵn.
Đánh giá FFmpeg, hỗ trợ mã hóa phần cứng và codec quy trình cần. Hỗ trợ HLS, DASH, WebRTC hoặc RTMP phụ thuộc phần mềm bạn triển khai; không cam kết số luồng hoặc độ trễ.
Gói liệt kê cổng, lưu lượng không đo đếm và năm IP. Xác nhận quyền root hoặc quản trị, biện pháp khôi phục và bảo vệ cơ bản với đơn vị vận hành; IP và phần mềm bổ sung là riêng biệt.
Tính đến trọng số, kích hoạt, bộ nhớ đệm và bộ đệm tạm thời, sau đó kiểm thử khối lượng công việc đỉnh thay vì chỉ tệp mô hình.
Đọc hướng dẫnTách suy luận mô hình khỏi điều phối, định cỡ worker thực tế và giới hạn những gì công cụ của nó có thể thay đổi trước khi đưa quy trình AI lên máy chủ.
Đọc hướng dẫnChọn tài nguyên của bạn. Giữ quyền kiểm soát danh tính của bạn.