Gi akselererte arbeidsmengder sitt eget fysiske miljø i Sveits. Tensor kombinerer NVIDIA Tesla-alternativer med dedikerte serverressurser for kompatible arbeidsflyter for inferens, rendering og GPU-behandling.
Dedikert GPU-maskinvare som kombinerer doble Xeon E5-2680 v4-prosessorer, en oppført Tesla P4 / T4 GPU-konfigurasjon, 64 GB DDR4-minne og en 1 TB SSD. Nettverksspesifikasjonen er en 1 Gbps-port med ubegrenset trafikk.
En GPU-konfigurasjon med en 10 Gbps-port for akselererte prosjekter som også flytter større datasett. Maskinvaren inkluderer doble Xeon E5-2680 v4-prosessorer, Tesla P4 / T4-GPU-er, 64 GB DDR4-minne og en 1 TB SSD.
Doble Xeon Gold 6134-prosessorer følger med den oppførte Tesla P4 / T4 GPU-konfigurasjonen for dedikert akselerert databehandling. Denne planen inkluderer 64 GB DDR4-minne, en 1 TB SSD og en 1 Gbps-port med ubegrenset trafikk.
Sammenlign de oppførte spesifikasjonene og grunnprisene. Endelig tilgjengelighet, levering og gjeldende avgifter bekreftes i tilbudet ditt. Illustrasjonene er konseptuelle.
Forstå hva som gjør denne tjenestefamilien nyttig.
Tensor-serien er oppført som bare metal. Planlegg operativsystemet, driverne og applikasjonsstakken rundt den valgte maskinvaren i stedet for en generisk virtuell instans.
Konfiguratoren skiller mellom NVIDIA Tesla P4- og T4-alternativer. Sammenlign det oppførte GPU-minnet med modellen eller oppgaven du vil kjøre.
En GPU-arbeidsflyt trenger også vertsminne, databehandling og lagring. Gå gjennom Xeon-plattformen og velg RAM- eller disktillegg der det er nyttig.
Sammenlign port- og trafikkegenskapene på tvers av Tensor-konfigurasjoner. Import av datasett og distribusjon av resultater kan være like viktig som akseleratoren selv.
Kjør inferensarbeidsmengder der rammeverket, presisjonen og minnekravene samsvarer med den valgte NVIDIA-akseleratoren.
Forbered en arbeidsflyt for rendering eller visuell behandling etter å ha kontrollert motorens GPU- og driverkompatibilitet.
Bruk en akseleratorbevisst applikasjon for repeterbare bilde-, medie- eller numeriske oppgaver på data du har rett til å behandle.
Før du velger en server, kontroller om applikasjonen og arbeidsdataene passer i minnet til den valgte akseleratoren. Modellarkitekturen, presisjonen og batchstørrelsen påvirker alle dette kravet. Et større verts-RAM-alternativ øker ikke automatisk GPU-ens eget minne.
Velg et operativsystem som støttes av programvaren din, og verifiser deretter NVIDIA-driver- og rammeverkskravene. CPU-forbehandling, lesing fra lagring og dataoverføring kan begrense en arbeidsflyt selv når GPU er egnet. Benchmark en representativ oppgave før du planlegger en stor produksjonsjobb.
Tensor gir deg en sveitsisk plassering for en applikasjonsstakk du konfigurerer selv. Bestem hvem som kan få tilgang til datasett, modeller og resultater, og hold sensitivt materiale utenfor offentlige kataloger. Bruk lisensiert programvare og autoriserte datasett; ingen ekstern AI-tjeneste eller databehandlingspåstand antydes ved tilstedeværelsen av en GPU.
Behandle den valgte akseleratoren, driveren og applikasjonen som én kompatibilitetsbeslutning. CUDA-basert arbeid, TensorFlow eller PyTorch, vitenskapelig behandling og GPU-rendering trenger en støttet programvarekombinasjon. Videoløsninger kan også bruke FFmpeg og maskinvarekoding, men støttede kodeker og praktisk gjennomstrømning må kontrolleres for den valgte P4 eller T4. Bekreft installasjonsarbeid og operatørtilgang før levering.
Tilgjengelige valg avhenger av konfigurasjonen du har valgt. Se inkluderte valg og priser for tillegg i konfiguratoren.
Konkrete svar for denne tjenestefamilien.
Sammenlign P4- og T4-alternativene med støttelisten og minnebehovet til programvaren din. Det valgte alternativet, ikke familiens overskrift, definerer akseleratorkonfigurasjonen.
Nei. System-RAM og GPU-ens eget minne er forskjellige ressurser. Gå gjennom akseleratoralternativet og vertsminnealternativet separat.
Katalogen oppgir valg for operativsystem og programvare. Bekreft eventuelt nødvendig rammeverk, driver og installasjonsarbeid som en del av distribusjonsplanen din.
Kontroller applikasjonens støttede krav til akselerator, driver og operativsystem. En GPU oppført i en serverspesifikasjon etablerer ikke kompatibilitet med alle motorer.
Sammenlign CPU-plattformen og nettverksporten samt GPU-valget. En arbeidsmengde med store dataoverføringer kan trenge en annen balanse enn en beregningstung lokal batch.
De publiserte Tensor-valgene oppgir Tesla P4 og T4. Andre akseleratorer eller flere GPU-er er ikke inkluderte katalogvalg og vil kreve en separat validert konfigurasjon.
Kontroller den valgte GPU-, driver-, verktøysett- og rammeverksversjonen samlet. Installasjon og en fungerende testjobb må bekreftes; oppføring av en NVIDIA-akselerator gjør ikke et rammeverk forhåndskonfigurert.
Vurder FFmpeg, støtte for maskinvarekoding og kodekene arbeidsflyten din krever. Støtte for HLS, DASH, WebRTC eller RTMP avhenger av programvaren du distribuerer, og ingen strømmetall eller latens loves.
Planen oppgir porten, ubegrenset trafikk og fem IP-er. Bekreft root- eller administrator tilgang, gjenopprettingskontroller og grunnleggende beskyttelse med operatøren; flere IP- og programvarealternativer er separate.
Ta høyde for vekter, aktiveringer, hurtigbufre og midlertidige buffere, og test deretter toppbelastningen i stedet for bare modellfilen.
Les veiledningenSkill modellinferens fra orkestrering, dimensjoner den faktiske arbeideren og begrens hva verktøyene kan endre før du setter en AI-arbeidsflyt på en server.
Les veiledningenVelg ressursene dine. Behold kontrollen over identiteten din.