Berikan beban kerja terakselerasi lingkungan fisiknya sendiri di Swiss. Tensor menggabungkan opsi NVIDIA Tesla dengan sumber daya server khusus untuk alur kerja inferensi, rendering, dan pemrosesan GPU yang kompatibel.
Perangkat keras GPU khusus yang menggabungkan prosesor dual Xeon E5-2680 v4, konfigurasi GPU Tesla P4 / T4 yang tercantum, memori DDR4 64 GB, dan SSD 1 TB. Spesifikasi jaringannya adalah port 1 Gbps dengan trafik tanpa batas.
Konfigurasi GPU dengan port 10 Gbps untuk proyek terakselerasi yang juga memindahkan kumpulan data lebih besar. Perangkat keras yang tercantum mencakup prosesor dual Xeon E5-2680 v4, GPU Tesla P4 / T4, memori DDR4 64 GB, dan SSD 1 TB.
Prosesor dual Xeon Gold 6134 menyertai konfigurasi GPU Tesla P4 / T4 yang tercantum untuk komputasi terakselerasi khusus. Paket ini mencakup memori DDR4 64 GB, SSD 1 TB, dan port 1 Gbps dengan trafik tanpa batas.
Bandingkan spesifikasi dan harga dasar yang tercantum. Ketersediaan akhir, pengiriman, dan pajak yang berlaku dikonfirmasi pada penawaran Anda. Ilustrasi bersifat konseptual.
Pahami apa yang membuat keluarga layanan ini berguna.
Rentang Tensor tercantum sebagai bare metal. Rencanakan sistem operasi, driver, dan tumpukan aplikasi Anda di sekitar perangkat keras yang dipilih, bukan sebagai instans virtual generik.
Konfigurator membedakan opsi NVIDIA Tesla P4 dan T4. Bandingkan memori GPU yang tercantum dengan model atau tugas yang ingin Anda jalankan.
Alur kerja GPU juga memerlukan memori host, persiapan data, dan penyimpanan. Tinjau platform Xeon dan pilih tambahan RAM atau disk jika berguna.
Bandingkan karakteristik port dan trafik di seluruh konfigurasi Tensor. Impor kumpulan data dan distribusi keluaran bisa sama pentingnya dengan akselerator itu sendiri.
Jalankan beban kerja inferensi yang kerangka kerja, presisi, dan kebutuhan memorinya sesuai dengan akselerator NVIDIA yang dipilih.
Siapkan alur kerja rendering atau pemrosesan visual setelah memeriksa kompatibilitas GPU dan driver mesin tersebut.
Gunakan aplikasi yang mendukung akselerator untuk tugas gambar, media, atau numerik yang dapat diulang pada data yang berhak Anda proses.
Sebelum memilih server, periksa apakah aplikasi dan data kerjanya sesuai dengan memori akselerator yang dipilih. Arsitektur model, presisi, dan ukuran batch semuanya memengaruhi kebutuhan ini. Opsi RAM host yang lebih besar tidak secara otomatis menambah memori GPU itu sendiri.
Pilih sistem operasi yang didukung perangkat lunak Anda, lalu verifikasi persyaratan driver dan kerangka kerja NVIDIA. Prapemrosesan CPU, pembacaan penyimpanan, dan transfer data dapat membatasi alur kerja bahkan ketika GPU sudah sesuai. Uji tolok ukur tugas yang representatif sebelum menjadwalkan pekerjaan produksi besar.
Tensor memberi Anda lokasi Swiss untuk tumpukan aplikasi yang Anda konfigurasikan. Tentukan siapa yang boleh mengakses kumpulan data, model, dan hasil, serta jauhkan materi sensitif dari direktori publik. Gunakan perangkat lunak berlisensi dan kumpulan data yang diotorisasi; tidak ada klaim layanan AI eksternal atau pemrosesan data yang tersirat dari keberadaan GPU.
Perlakukan akselerator, driver, dan aplikasi yang dipilih sebagai satu keputusan kompatibilitas. Pekerjaan berbasis CUDA, TensorFlow atau PyTorch, pemrosesan ilmiah, dan rendering GPU memerlukan kombinasi perangkat lunak yang didukung. Alur kerja video juga dapat menggunakan FFmpeg dan pengodean perangkat keras, tetapi codec yang didukung dan throughput praktis harus diperiksa untuk P4 atau T4 yang dipilih. Konfirmasikan pekerjaan instalasi dan akses operator sebelum pengiriman.
Pilihan yang tersedia bergantung pada konfigurasi yang dipilih. Lihat pilihan yang disertakan dan harga opsi di konfigurator.
Jawaban spesifik untuk keluarga layanan ini.
Bandingkan opsi P4 dan T4 dengan daftar dukungan perangkat lunak dan kebutuhan memori Anda. Opsi yang dipilih, bukan judul keluarga, yang menentukan konfigurasi akselerator.
Tidak. RAM sistem dan memori GPU itu sendiri adalah sumber daya yang berbeda. Tinjau opsi akselerator dan opsi memori host secara terpisah.
Katalog mencantumkan pilihan sistem operasi dan perangkat lunak. Konfirmasikan kerangka kerja, driver, dan pekerjaan instalasi yang diperlukan sebagai bagian dari rencana penerapan Anda.
Periksa persyaratan akselerator, driver, dan sistem operasi yang didukung aplikasi. GPU yang tercantum dalam spesifikasi server tidak menetapkan kompatibilitas dengan setiap mesin.
Bandingkan platform CPU dan port jaringan serta pilihan GPU. Beban kerja dengan transfer data besar mungkin memerlukan keseimbangan yang berbeda dari batch lokal yang berat komputasi.
Pilihan Tensor yang dipublikasikan mencantumkan Tesla P4 dan T4. Akselerator lain atau beberapa GPU bukan pilihan katalog yang disertakan dan akan memerlukan konfigurasi yang divalidasi secara terpisah.
Periksa GPU, driver, toolkit, dan versi kerangka kerja yang dipilih secara bersamaan. Instalasi dan pekerjaan uji yang berhasil perlu dikonfirmasi; mencantumkan akselerator NVIDIA tidak membuat kerangka kerja dikonfigurasi sebelumnya.
Evaluasi FFmpeg, dukungan pengodean perangkat keras, dan codec yang diperlukan oleh alur kerja Anda. Dukungan HLS, DASH, WebRTC, atau RTMP bergantung pada perangkat lunak yang Anda terapkan, dan tidak ada jumlah stream atau latensi yang dijanjikan.
Paket ini mencantumkan port, trafik tanpa batas, dan lima IP. Konfirmasikan akses root atau administrator, kontrol pemulihan, dan perlindungan dasar dengan operator; opsi IP dan perangkat lunak tambahan terpisah.
Perhitungkan bobot, aktivasi, cache, dan buffer sementara, lalu uji beban puncak, bukan hanya file model.
Baca panduannyaPisahkan inferensi model dari orkestrasi, ukur ukuran pekerja yang sebenarnya, dan batasi apa yang dapat diubah oleh alatnya sebelum menempatkan alur kerja AI di server.
Baca panduannyaPilih sumber daya Anda. Tetap kendalikan identitas Anda.