Zapewnij przyspieszonym obciążeniom własne środowisko fizyczne w Szwajcarii. Tensor łączy opcje NVIDIA Tesla z dedykowanymi zasobami serwera dla zgodnych przepływów pracy wnioskowania, renderowania i przetwarzania GPU.
Dedykowany sprzęt GPU łączący dwa procesory Xeon E5-2680 v4, wymienioną konfigurację Tesla P4 / T4 GPU, 64 GB pamięci DDR4 oraz dysk SSD 1 TB. Specyfikacja sieci to port 1 Gbps z nielimitowanym ruchem.
Konfiguracja GPU z portem 10 Gbps dla przyspieszonych projektów, które przenoszą również większe zbiory danych. Wymieniony sprzęt obejmuje dwa procesory Xeon E5-2680 v4, GPU Tesla P4 / T4, 64 GB pamięci DDR4 oraz dysk SSD 1 TB.
Dwa procesory Xeon Gold 6134 towarzyszą wymienionej konfiguracji Tesla P4 / T4 GPU dla dedykowanych przyspieszonych obliczeń. Ten plan obejmuje 64 GB pamięci DDR4, dysk SSD 1 TB oraz port 1 Gbps z nielimitowanym ruchem.
Porównaj wymienione specyfikacje i ceny bazowe. Ostateczna dostępność, dostawa i obowiązujący podatek są potwierdzane na Twojej ofercie. Ilustracje są koncepcyjne.
Zrozum, co czyni tę rodzinę usług użyteczną.
Seria Tensor jest wymieniona jako bare metal. Zaplanuj system operacyjny, sterowniki i stos aplikacji wokół wybranego sprzętu, a nie ogólnej instancji wirtualnej.
Konfigurator rozróżnia opcje NVIDIA Tesla P4 i T4. Porównaj wymienioną pamięć GPU z modelem lub zadaniem, które chcesz uruchomić.
Przepływ pracy GPU wymaga również pamięci hosta, przygotowania danych i pamięci masowej. Sprawdź platformę Xeon i wybierz dodatki RAM lub dyskowe, jeśli są przydatne.
Porównaj charakterystyki portów i ruchu w konfiguracjach Tensor. Import zbiorów danych i dystrybucja wyników mogą być równie ważne jak sam akcelerator.
Uruchamiaj obciążenia wnioskowania, których framework, precyzja i wymagania pamięciowe odpowiadają wybranemu akceleratorowi NVIDIA.
Przygotuj przepływ pracy renderowania lub przetwarzania wizualnego po sprawdzeniu zgodności silnika z GPU i sterownikami.
Użyj aplikacji świadomej akceleratora do powtarzalnych zadań obrazowych, multimedialnych lub numerycznych na danych, które masz prawo przetwarzać.
Przed wyborem serwera sprawdź, czy aplikacja i jej dane robocze mieszczą się w pamięci wybranego akceleratora. Architektura modelu, precyzja i rozmiar partii wpływają na to wymaganie. Większa opcja pamięci hosta RAM nie zwiększa automatycznie własnej pamięci GPU.
Wybierz system operacyjny obsługiwany przez Twoje oprogramowanie, a następnie zweryfikuj wymagania dotyczące sterowników NVIDIA i frameworków. Wstępne przetwarzanie CPU, odczyt z pamięci masowej i transfer danych mogą ograniczać przepływ pracy, nawet gdy GPU jest odpowiedni. Przetestuj reprezentatywne zadanie przed zaplanowaniem dużego zadania produkcyjnego.
Tensor zapewnia szwajcarską lokalizację dla konfigurowanego przez Ciebie stosu aplikacji. Zdecyduj, kto może uzyskiwać dostęp do zbiorów danych, modeli i wyników, i trzymaj wrażliwe materiały poza katalogami publicznymi. Używaj licencjonowanego oprogramowania i autoryzowanych zbiorów danych; obecność GPU nie implikuje żadnej zewnętrznej usługi AI ani roszczenia dotyczącego przetwarzania danych.
Traktuj wybrany akcelerator, sterownik i aplikację jako jedną decyzję o zgodności. Prace oparte na CUDA, TensorFlow lub PyTorch, przetwarzanie naukowe i renderowanie GPU wymagają obsługiwanego zestawu oprogramowania. Przepływy pracy wideo mogą również korzystać z FFmpeg i kodowania sprzętowego, ale obsługiwane kodeki i praktyczna przepustowość muszą zostać sprawdzone dla wybranego P4 lub T4. Potwierdź prace instalacyjne i dostęp operatora przed dostawą.
Dostępne opcje zależą od wybranej konfiguracji. Zobacz uwzględnione wybory i ceny opcji w konfiguratorze.
Konkretne odpowiedzi dla tej rodziny usług.
Porównaj opcje P4 i T4 z listą obsługiwanego oprogramowania i potrzebami pamięciowymi. Wybrana opcja, a nie nagłówek rodziny, określa konfigurację akceleratora.
Nie. Pamięć systemowa RAM i własna pamięć GPU to różne zasoby. Sprawdź osobno opcję akceleratora i opcję pamięci hosta.
Katalog wymienia wybory systemu operacyjnego i oprogramowania. Potwierdź wymagany framework, sterownik i prace instalacyjne jako część planu wdrożenia.
Sprawdź obsługiwany akcelerator, sterownik i wymagania systemu operacyjnego aplikacji. GPU wymieniony w specyfikacji serwera nie ustanawia zgodności z każdym silnikiem.
Porównaj platformę CPU i port sieciowy oraz wybór GPU. Obciążenie z dużymi transferami danych może wymagać innej równowagi niż intensywna obliczeniowo lokalna partia.
Opublikowane wybory Tensor wymieniają Tesla P4 i T4. Inne akceleratory lub kilka GPU nie są uwzględnione w wyborach katalogowych i wymagałyby osobno zwalidowanej konfiguracji.
Sprawdź razem wybrany GPU, sterownik, zestaw narzędzi i wersje frameworków. Instalacja i działające zadanie testowe wymagają potwierdzenia; wymienienie akceleratora NVIDIA nie powoduje, że framework jest wstępnie skonfigurowany.
Oceń FFmpeg, obsługę kodowania sprzętowego i kodeki wymagane przez Twój przepływ pracy. Obsługa HLS, DASH, WebRTC lub RTMP zależy od wdrażanego oprogramowania, a liczba strumieni ani opóźnienie nie są obiecywane.
Plan wymienia swój port, nielimitowany ruch i pięć adresów IP. Potwierdź z operatorem dostęp root lub administratora, mechanizmy odzyskiwania i podstawową ochronę; dodatkowe opcje IP i oprogramowania są osobne.
Uwzględnij wagi, aktywacje, pamięci podręczne i bufory tymczasowe, a następnie przetestuj szczytowe obciążenie, a nie tylko plik modelu.
Przeczytaj przewodnikOddziel wnioskowanie modelu od orkiestracji, dobierz rozmiar rzeczywistego workera i ogranicz to, co mogą zmieniać jego narzędzia, zanim umieścisz przepływ pracy AI na serwerze.
Przeczytaj przewodnikWybierz swoje zasoby. Zachowaj kontrolę nad swoją tożsamością.