Adjon saját fizikai környezetet a gyorsított feladatoknak Svájcban. A Tensor NVIDIA Tesla opciókat és dedikált szervererőforrásokat egyesít kompatibilis inferencia-, renderelési és GPU-feldolgozási munkafolyamatokhoz.
Dedikált GPU-hardver két Xeon E5-2680 v4 processzorral, a felsorolás szerinti Tesla P4 / T4 GPU-konfigurációval, 64 GB DDR4-memóriával és 1 TB SSD-vel. A hálózati specifikáció 1 Gbps-os portot és forgalommérés nélküli adatforgalmat ad meg.
GPU-konfiguráció 10 Gbps-os porttal olyan gyorsított projektekhez, amelyek nagyobb adathalmazokat is mozgatnak. A felsorolt hardver két Xeon E5-2680 v4 processzort, Tesla P4 / T4 GPU-kat, 64 GB DDR4-memóriát és 1 TB SSD-t tartalmaz.
Két Xeon Gold 6134 processzor egészíti ki a felsorolt Tesla P4 / T4 GPU-konfigurációt dedikált gyorsított számításhoz. Ez a csomag 64 GB DDR4-memóriát, 1 TB SSD-t és 1 Gbps-os portot tartalmaz, forgalommérés nélküli adatforgalommal.
Hasonlítsa össze a felsorolt specifikációkat és alapárakat. A végleges elérhetőséget, átadást és alkalmazandó adót az árajánlat erősíti meg. Az illusztrációk szemléltető jellegűek.
Ismerje meg, mire használható ez a szolgáltatáscsalád.
A Tensor-család fizikai szerverként szerepel a felsorolásban. Az operációs rendszert, illesztőprogramokat és alkalmazáskörnyezetet a választott hardverhez tervezze, ne egy általános virtuális példányhoz.
A konfigurátor megkülönbözteti az NVIDIA Tesla P4 és T4 opciókat. Vesse össze a felsorolt GPU-memóriát a futtatni kívánt modellel vagy feladattal.
Egy GPU-s munkafolyamatnak gazdagépi memóriára, adat-előkészítésre és tárhelyre is szüksége van. Tekintse át a Xeon-platformot, és ahol indokolt, válasszon további RAM-ot vagy lemezt.
Hasonlítsa össze a Tensor-konfigurációk port- és adatforgalmi jellemzőit. Az adathalmazok betöltése és az eredmények továbbítása ugyanolyan fontos lehet, mint maga a gyorsító.
Futtasson olyan inferenciafeladatokat, amelyek keretrendszere, számítási pontossága és memóriaigénye illeszkedik a kiválasztott NVIDIA-gyorsítóhoz.
A motor GPU- és illesztőprogram-kompatibilitásának ellenőrzése után készítsen renderelési vagy vizuális feldolgozási munkafolyamatot.
Használjon gyorsítót támogató alkalmazást ismételhető kép-, média- vagy numerikus feladatokhoz, olyan adatokon, amelyek feldolgozására jogosult.
Szerverválasztás előtt ellenőrizze, hogy az alkalmazás és munkaadatai elférnek-e a kiválasztott gyorsító memóriájában. A modell architektúrája, számítási pontossága és kötegmérete egyaránt befolyásolja ezt az igényt. A gazdagép nagyobb RAM-opciója nem növeli automatikusan a GPU saját memóriáját.
Válasszon a szoftvere által támogatott operációs rendszert, majd ellenőrizze az NVIDIA-illesztőprogram és a keretrendszer követelményeit. A CPU-s előfeldolgozás, a tárhelyolvasás és az adatátvitel akkor is korlátozhatja a munkafolyamatot, ha a GPU megfelelő. Nagy éles feladat ütemezése előtt mérjen egy reprezentatív mintafeladatot.
A Tensor svájci elhelyezést biztosít az Ön által konfigurált alkalmazáskörnyezetnek. Döntse el, ki férhet hozzá az adathalmazokhoz, modellekhez és eredményekhez, és ne helyezzen érzékeny anyagokat nyilvános könyvtárakba. Használjon licencelt szoftvereket és engedélyezett adathalmazokat; egy GPU jelenléte nem jelent külső AI-szolgáltatást vagy adatfeldolgozási vállalást.
A kiválasztott gyorsítót, illesztőprogramot és alkalmazást egyetlen kompatibilitási döntésként kezelje. A CUDA-alapú munka, a TensorFlow vagy PyTorch, a tudományos feldolgozás és a GPU-renderelés támogatott szoftverkombinációt igényel. A videós munkafolyamatok FFmpeg-et és hardveres kódolást is használhatnak, de a támogatott kodekeket és a gyakorlati átviteli teljesítményt ellenőrizni kell a választott P4 vagy T4 esetében. Átadás előtt erősítse meg a telepítési munkát és az üzemeltetői hozzáférést.
Az elérhető opciók a kiválasztott konfigurációtól függenek. Az alapbeállításokat és az opciók árait a konfigurátorban találja.
Konkrét válaszok erről a szolgáltatáscsaládról.
Hasonlítsa össze a P4 és T4 opciókat a szoftvere támogatási listájával és memóriaigényével. A gyorsító konfigurációját a kiválasztott opció határozza meg, nem a család főcíme.
Nem. A rendszermemória és a GPU saját memóriája külön erőforrás. A gyorsító- és gazdagépi memóriaopciót külön tekintse át.
A katalógus operációsrendszer- és szoftveropciókat sorol fel. A szükséges keretrendszert, illesztőprogramot és telepítési munkát a telepítési terv részeként erősítse meg.
Ellenőrizze az alkalmazás által támogatott gyorsítókra, illesztőprogramokra és operációs rendszerekre vonatkozó követelményeket. A szerver specifikációjában felsorolt GPU nem igazolja a kompatibilitást minden motorral.
A GPU-választás mellett a CPU-platformot és a hálózati portot is hasonlítsa össze. A nagy adatátvitellel járó feladatnak más egyensúlyra lehet szüksége, mint egy számításigényes helyi kötegnek.
A közzétett Tensor-opciók Tesla P4-et és T4-et sorolnak fel. Más gyorsítók vagy több GPU nem szerepelnek a katalógus választható konfigurációiban; ezekhez külön ellenőrzött konfiguráció szükséges.
Együtt ellenőrizze a kiválasztott GPU, illesztőprogram, eszközkészlet és keretrendszer verzióit. A telepítést és egy működő tesztfeladatot meg kell erősíteni; egy NVIDIA-gyorsító felsorolása nem jelent előre konfigurált keretrendszert.
Értékelje az FFmpeg-et, a hardveres kódolás támogatását és a munkafolyamatához szükséges kodekeket. A HLS, DASH, WebRTC vagy RTMP támogatása a telepített szoftvertől függ; közvetítésszámot vagy késleltetést nem ígérünk.
A csomag felsorolja a portját, a forgalommérés nélküli adatforgalmat és öt IP-címet. Erősítse meg az üzemeltetővel a root- vagy rendszergazdai hozzáférést, a helyreállítási lehetőségeket és az alapvető védelmet; a további IP-címek és szoftveropciók különállók.
Számoljon a súlyokkal, aktivációkkal, gyorsítótárakkal és ideiglenes pufferekkel, majd tesztelje a csúcsigényű munkaterhelést, ne csak magát a modellfájlt.
Olvassa el az útmutatótVálassza el a modell következtetését az orchestrációtól, méretezze a tényleges munkavégzőt, és korlátozza, mit változtathatnak az eszközei, mielőtt egy AI-munkafolyamatot szerverre helyezne.
Olvassa el az útmutatótVálassza ki az erőforrásokat. Tartsa kézben identitását.