Giv accelererede arbejdsbelastninger deres eget fysiske miljø i Schweiz. Tensor kombinerer NVIDIA Tesla-muligheder med dedikerede serverressourcer til kompatible inferens-, renderings- og GPU-behandlingsarbejdsgange.
Dedikeret GPU-hardware, der kombinerer dobbelte Xeon E5-2680 v4-processorer, en angivet Tesla P4 / T4 GPU-konfiguration, 64 GB DDR4-hukommelse og en 1 TB SSD. Netværksspecifikationen er en 1 Gbps-port med ubegrænset trafik.
En GPU-konfiguration med en 10 Gbps-port til accelererede projekter, der også flytter større datasæt. Den angivne hardware inkluderer dobbelte Xeon E5-2680 v4-processorer, Tesla P4 / T4-GPU'er, 64 GB DDR4-hukommelse og en 1 TB SSD.
Dobbelte Xeon Gold 6134-processorer ledsager den angivne Tesla P4 / T4 GPU-konfiguration til dedikeret accelereret compute. Denne plan inkluderer 64 GB DDR4-hukommelse, en 1 TB SSD og en 1 Gbps-port med ubegrænset trafik.
Sammenlign de opførte specifikationer og basispriser. Endelig tilgængelighed, levering og gældende skat bekræftes i dit tilbud. Illustrationer er konceptuelle.
Forstå, hvad der gør denne tjenestefamilie nyttig.
Tensor-serien er angivet som bare metal. Planlæg dit operativsystem, drivere og applikationsstak ud fra den valgte hardware i stedet for en generisk virtuel instans.
Konfiguratoren skelner mellem NVIDIA Tesla P4 og T4-muligheder. Sammenlign den angivne GPU-hukommelse med den model eller opgave, du vil køre.
En GPU-arbejdsgang har også brug for værtshukommelse, dataforberedelse og lagring. Gennemgå Xeon-platformen, og vælg RAM- eller disktilføjelser, hvor det er nyttigt.
Sammenlign port- og trafikegenskaber på tværs af Tensor-konfigurationer. Import af datasæt og distribution af output kan være lige så vigtigt som selve acceleratoren.
Kør inferensarbejdsbelastninger, hvis framework-, præcisions- og hukommelseskrav matcher den valgte NVIDIA-accelerator.
Forbered en renderings- eller visuel behandlingsarbejdsgang efter at have kontrolleret motorens GPU- og driverkompatibilitet.
Brug en acceleratorbevidst applikation til repeterbare billed-, medie- eller numeriske opgaver på data, du har ret til at behandle.
Før du vælger en server, skal du kontrollere, om applikationen og dens arbejdsdata passer til den valgte accelerators hukommelse. Modelarkitektur, præcision og batchstørrelse påvirker alle dette krav. En større værts-RAM-mulighed øger ikke automatisk GPU'ens egen hukommelse.
Vælg et operativsystem, der understøttes af din software, og verificér derefter NVIDIA-driver- og frameworkkravene. CPU-forbehandling, læsning fra lager og dataoverførsel kan begrænse en arbejdsgang, selv når GPU er passende. Benchmark en repræsentativ opgave, før du planlægger et stort produktionsjob.
Tensor giver dig en schweizisk placering til en applikationsstak, du selv konfigurerer. Beslut, hvem der må få adgang til datasæt, modeller og resultater, og hold følsomt materiale væk fra offentlige mapper. Brug licenseret software og autoriserede datasæt; tilstedeværelsen af en GPU indebærer ikke nogen ekstern AI-tjeneste eller databehandlingspåstand.
Behandl den valgte accelerator, driver og applikation som én kompatibilitetsbeslutning. CUDA-baseret arbejde, TensorFlow eller PyTorch, videnskabelig behandling og GPU-rendering kræver en understøttet softwarekombination. Videoworkflows kan også bruge FFmpeg og hardwarekodning, men understøttede codecs og praktisk gennemstrømning skal kontrolleres for den valgte P4 eller T4. Bekræft installationsarbejde og operatøradgang før levering.
Tilgængelige valg afhænger af den valgte konfiguration. Se inkluderede valg og priser på tilføjelser i konfiguratoren.
Specifikke svar for denne tjenestefamilie.
Sammenlign P4- og T4-mulighederne med din softwares supportliste og hukommelsesbehov. Den valgte mulighed, snarere end familiens overskrift, definerer acceleratorkonfigurationen.
Nej. System-RAM og GPU'ens egen hukommelse er forskellige ressourcer. Gennemgå acceleratorvalget og værtshukommelsesvalget separat.
Kataloget angiver valg af operativsystem og software. Bekræft eventuelt nødvendigt framework, driver og installationsarbejde som en del af din udrulningsplan.
Kontrollér applikationens understøttede accelerator-, driver- og operativsystemkrav. En GPU, der er angivet i en serverspecifikation, etablerer ikke kompatibilitet med enhver motor.
Sammenlign CPU-platformen og netværksporten samt GPU-valget. En arbejdsbelastning med store dataoverførsler kan have brug for en anden balance end en compute-tung lokal batch.
De offentliggjorte Tensor-valg angiver Tesla P4 og T4. Andre acceleratorer eller flere GPU'er er ikke inkluderede katalogvalg og vil kræve en separat valideret konfiguration.
Kontrollér den valgte GPU, driver, toolkit og frameworkversioner samlet. Installation og et fungerende testjob skal bekræftes; angivelse af en NVIDIA-accelerator gør ikke et framework forudkonfigureret.
Vurder FFmpeg, hardwarekodningsunderstøttelse og de codecs, din arbejdsgang kræver. HLS-, DASH-, WebRTC- eller RTMP-understøttelse afhænger af den software, du udruller, og der loves ikke noget antal streams eller latenstid.
Planen angiver sin port, ubegrænset trafik og fem IP'er. Bekræft root- eller administratoradgang, gendannelseskontroller og grundlæggende beskyttelse med operatøren; yderligere IP- og softwaremuligheder er separate.
Tag højde for vægte, aktiveringer, caches og midlertidige buffere, og test derefter spidsbelastningen frem for kun modelfilen.
Læs guidenAdskil modelinferens fra orkestrering, dimensionér den faktiske arbejder, og begræns hvad dens værktøjer kan ændre, før du sætter en AI-arbejdsgang på en server.
Læs guidenVælg dine ressourcer. Behold kontrollen over din identitet.