Ge accelererade arbetsbelastningar sin egen fysiska miljö i Schweiz. Tensor kombinerar NVIDIA Tesla-alternativ med dedikerade serverresurser för kompatibla arbetsflöden för inferens, rendering och GPU-bearbetning.
Dedikerad GPU-hårdvara som kombinerar dubbla Xeon E5-2680 v4-processorer, en angiven Tesla P4 / T4 GPU-konfiguration, 64 GB DDR4-minne och en 1 TB SSD. Nätverksspecifikationen är en 1 Gbps-port med omätad trafik.
En GPU-konfiguration med en 10 Gbps-port för accelererade projekt som även flyttar större datamängder. Den angivna hårdvaran innehåller dubbla Xeon E5-2680 v4-processorer, Tesla P4 / T4 GPU:er, 64 GB DDR4-minne och en 1 TB SSD.
Dubbla Xeon Gold 6134-processorer åtföljer den angivna Tesla P4 / T4 GPU-konfigurationen för dedikerad accelererad beräkningskapacitet. Denna plan innehåller 64 GB DDR4-minne, en 1 TB SSD och en 1 Gbps-port med omätad trafik.
Jämför de listade specifikationerna och baspriserna. Slutlig tillgänglighet, leverans och tillämplig skatt bekräftas i din offert. Illustrationerna är konceptuella.
Förstå vad som gör denna tjänstefamilj användbar.
Tensor-serien anges som bare metal. Planera operativsystem, drivrutiner och applikationsstack utifrån den valda hårdvaran i stället för en generisk virtuell instans.
Konfiguratorn skiljer mellan NVIDIA Tesla P4- och T4-alternativ. Jämför det angivna GPU-minnet med den modell eller uppgift du vill köra.
Ett GPU-arbetsflöde behöver även värdminne, dataförberedelse och lagring. Granska Xeon-plattformen och välj RAM- eller disktillägg där det är användbart.
Jämför port- och trafik egenskaperna mellan Tensor-konfigurationer. Dataimport och distribution av utdata kan vara lika viktiga som acceleratorn själv.
Kör inferensarbetsbelastningar vars ramverk, precision och minneskrav matchar den valda NVIDIA-acceleratorn.
Förbered ett arbetsflöde för rendering eller visuell bearbetning efter att ha kontrollerat motorns GPU- och drivrutinskompatibilitet.
Använd en acceleratormedveten applikation för repeterbara bild-, medie- eller numeriska uppgifter på data som du har rätt att bearbeta.
Innan du väljer server bör du kontrollera om applikationen och dess arbetsdata ryms i den valda acceleratorns minne. Modellarkitektur, precision och batchstorlek påverkar alla detta krav. Ett större värd-RAM-alternativ ökar inte automatiskt GPU:s eget minne.
Välj ett operativsystem som stöds av din programvara och verifiera sedan NVIDIA-drivrutinens och ramverkets krav. CPU-förbearbetning, lagringsläsningar och dataöverföring kan begränsa ett arbetsflöde även när GPU är lämplig. Benchmarka en representativ uppgift innan du schemalägger ett stort produktionsjobb.
Tensor ger dig en schweizisk plats för en applikationsstack som du konfigurerar. Bestäm vem som får komma åt datamängder, modeller och resultat, och håll känsligt material borta från publika kataloger. Använd licensierad programvara och auktoriserade datamängder; ingen extern AI-tjänst eller datahanteringsanspråk antyds av att en GPU finns.
Behandla den valda acceleratorn, drivrutinen och applikationen som ett enda kompatibilitetsbeslut. CUDA-baserat arbete, TensorFlow eller PyTorch, vetenskaplig bearbetning och GPU-rendering kräver en programvarukombination som stöds. Videobearbetningsflöden kan även använda FFmpeg och hårdvarukodning, men codecs som stöds och praktisk genomströmning måste kontrolleras för den valda P4 eller T4. Bekräfta installationsarbete och operatörsåtkomst före leverans.
Tillgängliga val beror på den valda konfigurationen. Se inkluderade val och alternativpriser i konfiguratorn.
Specifika svar för denna tjänstefamilj.
Jämför P4- och T4-alternativen med din programvaras supportlista och minnesbehov. Det valda alternativet, snarare än familjens rubrik, definierar acceleratorkonfigurationen.
Nej. System-RAM och GPU:s eget minne är olika resurser. Granska acceleratoralternativet och värdminnesalternativet separat.
Katalogen listar val av operativsystem och programvara. Bekräfta eventuellt nödvändigt ramverk, drivrutin och installationsarbete som en del av din distributionsplan.
Kontrollera applikationens krav på stödd accelerator, drivrutin och operativsystem. En GPU som anges i en serverspecifikation fastställer inte kompatibilitet med varje motor.
Jämför CPU-plattformen och nätverksporten samt valet av GPU. En arbetsbelastning med stora dataöverföringar kan behöva en annan balans än en beräkningsintensiv lokal batch.
De publicerade Tensor-valen listar Tesla P4 och T4. Andra acceleratorer eller flera GPU:er ingår inte som katalogval och skulle kräva en separat validerad konfiguration.
Kontrollera den valda GPU, drivrutinen, verktygslådan och ramverksversionerna tillsammans. Installation och ett fungerande testjobb behöver bekräftas; att en NVIDIA-accelerator listas gör inte ett ramverk förkonfigurerat.
Utvärdera FFmpeg, stöd för hårdvarukodning och de codecs som ditt arbetsflöde kräver. Stöd för HLS, DASH, WebRTC eller RTMP beror på programvaran du distribuerar, och inget antal strömmar eller någon latens utlovas.
Planen anger sin port, omätad trafik och fem IP-adresser. Bekräfta root- eller administratörsåtkomst, återställningskontroller och basskydd med operatören; ytterligare IP- och programvarualternativ är separata.
Ta hänsyn till vikter, aktiveringar, cachar och tillfälliga buffertar och testa sedan toppbelastningen snarare än enbart modellfilen.
Läs guidenSeparera modellinferens från orkestrering, dimensionera den faktiska arbetaren och begränsa vad dess verktyg kan ändra innan du sätter ett AI-arbetsflöde på en server.
Läs guidenVälj dina resurser. Behåll kontrollen över din identitet.