Anna kiihdytetyille kuormille oma fyysinen ympäristö Sveitsissä. Tensor yhdistää NVIDIA Tesla -valinnat dedikoituihin palvelinresursseihin yhteensopiviin päättely-, renderöinti- ja GPU-käsittelytyönkulkuihin.
Dedikoitu GPU-laitteisto yhdistää kaksi Xeon E5-2680 v4 -prosessoria, ilmoitetun Tesla P4 / T4 GPU -kokoonpanon, 64 GB DDR4-muistia ja 1 TB:n SSD:n. Verkkomääritys on 1 Gbps:n portti ilman liikennemäärän mittausta.
GPU-kokoonpano 10 Gbps:n portilla kiihdytettyihin projekteihin, joissa siirretään myös suurempia aineistoja. Ilmoitettu laitteisto sisältää kaksi Xeon E5-2680 v4 -prosessoria, Tesla P4 / T4 GPU:t, 64 GB DDR4-muistia ja 1 TB:n SSD:n.
Kaksi Xeon Gold 6134 -prosessoria täydentää ilmoitettua Tesla P4 / T4 GPU -kokoonpanoa dedikoituun kiihdytettyyn laskentaan. Paketti sisältää 64 GB DDR4-muistia, 1 TB:n SSD:n ja 1 Gbps:n portin ilman liikennemäärän mittausta.
Vertaa lueteltuja teknisiä tietoja ja perushintoja. Lopullinen saatavuus, toimitus ja sovellettava vero vahvistetaan tarjouksessasi. Havainnekuvat ovat käsitteellisiä.
Ymmärrä, mikä tekee tästä palveluperheestä hyödyllisen.
Tensor-perhe on ilmoitettu fyysiseksi palvelinlaitteistoksi. Suunnittele käyttöjärjestelmä, ajurit ja sovellusympäristö valitun laitteiston ympärille yleisen virtuaali-instanssin sijaan.
Kokoonpanotyökalu erottaa NVIDIA Tesla P4- ja T4-valinnat. Vertaa ilmoitettua GPU-muistia käyttämäsi mallin tai tehtävän tarpeisiin.
GPU-työnkulku tarvitsee myös isäntäkoneen muistia, tietojen valmistelua ja tallennusta. Tarkista Xeon-alusta ja valitse tarvittaessa lisää RAM-muistia tai levytilaa.
Vertaa Tensor-kokoonpanojen portti- ja liikenneominaisuuksia. Aineistojen tuonti ja tulosten jakelu voivat olla yhtä tärkeitä kuin kiihdytin itse.
Suorita päättelykuormia, joiden ohjelmistokehys, laskentatarkkuus ja muistivaatimukset vastaavat valittua NVIDIA-kiihdytintä.
Valmistele renderöinti- tai kuvankäsittelytyönkulku moottorin GPU- ja ajuriyhteensopivuuden tarkistamisen jälkeen.
Käytä kiihdytintä tukevaa sovellusta toistettaviin kuva-, media- tai numeerisiin tehtäviin tiedoilla, joita sinulla on oikeus käsitellä.
Tarkista ennen palvelimen valitsemista, mahtuvatko sovellus ja sen aktiiviset tiedot valitun kiihdyttimen muistiin. Mallin arkkitehtuuri, laskentatarkkuus ja eräkoko vaikuttavat kaikki tähän vaatimukseen. Suurempi isäntäkoneen RAM-valinta ei automaattisesti lisää GPU:n omaa muistia.
Valitse ohjelmistosi tukema käyttöjärjestelmä ja varmista sitten NVIDIA-ajurin ja ohjelmistokehyksen vaatimukset. CPU-esikäsittely, tallennuksen lukunopeus ja tiedonsiirto voivat rajoittaa työnkulkua, vaikka GPU olisi sopiva. Mittaa edustava tehtävä ennen suuren tuotantotyön ajoittamista.
Tensor antaa sveitsiläisen sijainnin määrittämällesi sovellusympäristölle. Päätä, kuka saa käyttää aineistoja, malleja ja tuloksia, ja pidä arkaluonteinen materiaali poissa julkisista hakemistoista. Käytä lisensoituja ohjelmistoja ja luvallisia aineistoja; GPU:n olemassaolo ei itsessään tarkoita ulkoista tekoälypalvelua tai tietojenkäsittelyä koskevaa lupausta.
Käsittele valittua kiihdytintä, ajuria ja sovellusta yhtenä yhteensopivuuspäätöksenä. CUDA-pohjainen työ, TensorFlow tai PyTorch, tieteellinen käsittely ja GPU-renderöinti vaativat tuetun ohjelmistoyhdistelmän. Videotyönkuluissa voidaan käyttää myös FFmpeg:iä ja laitteistokoodausta, mutta tuetut koodekit ja käytännön läpäisynopeus on tarkistettava valitulle P4:lle tai T4:lle. Vahvista asennustyö ja palveluntarjoajan käyttöoikeudet ennen toimitusta.
Saatavilla olevat valinnat riippuvat valitusta kokoonpanosta. Katso sisältyvät valinnat ja vaihtoehtojen hinnat määrittimestä.
Yksityiskohtaiset vastaukset tälle palveluperheelle.
Vertaa P4- ja T4-valintoja ohjelmistosi tukiluetteloon ja muistitarpeisiin. Kiihdyttimen kokoonpanon määrittää valittu vaihtoehto, ei palveluperheen otsikko.
Ei. Järjestelmän RAM ja GPU:n oma muisti ovat eri resursseja. Tarkista kiihdytinvalinta ja isäntäkoneen muistivalinta erikseen.
Luettelo sisältää käyttöjärjestelmä- ja ohjelmistovalintoja. Vahvista tarvittava ohjelmistokehys, ajuri ja asennustyö osana käyttöönottosuunnitelmaasi.
Tarkista sovelluksen tukemat kiihdytin-, ajuri- ja käyttöjärjestelmävaatimukset. Palvelimen tiedoissa ilmoitettu GPU ei vahvista yhteensopivuutta jokaisen moottorin kanssa.
Vertaa CPU-alustaa ja verkkoporttia GPU-valinnan lisäksi. Suuria tietomääriä siirtävä kuorma voi vaatia erilaisen tasapainon kuin laskentapainotteinen paikallinen eräajo.
Julkaistuissa Tensor-valinnoissa ilmoitetaan Tesla P4 ja T4. Muut kiihdyttimet tai useat GPU:t eivät kuulu luettelon valintoihin ja vaatisivat erikseen vahvistetun kokoonpanon.
Tarkista valittu GPU, ajuri, työkalupakki ja ohjelmistokehyksen versiot yhdessä. Asennus ja toimiva testitehtävä on vahvistettava; NVIDIA-kiihdyttimen ilmoittaminen ei tarkoita valmiiksi määritettyä ohjelmistokehystä.
Arvioi FFmpeg, laitteistokoodauksen tuki ja työnkulkusi vaatimat koodekit. HLS-, DASH-, WebRTC- tai RTMP-tuki riippuu käyttöön ottamastasi ohjelmistosta, eikä lähetysmäärää tai viivettä luvata.
Paketti ilmoittaa porttinsa, liikenteen ilman määrän mittausta ja viisi IP-osoitetta. Vahvista palveluntarjoajan kanssa root- tai järjestelmänvalvojan oikeudet, palautuskeinot ja perustason suojaus; lisä-IP- ja ohjelmistovaihtoehdot ovat erillisiä.
Ota huomioon painot, aktivoinnit, välimuistit ja väliaikaiset puskurit ja testaa sitten huippukuormitus eikä pelkkä mallitiedosto.
Lue opasErota mallin päättely orkestroinnista, mitoita todellinen työntekijä ja rajoita sitä, mitä sen työkalut voivat muuttaa, ennen kuin asetat tekoälytyönkulun palvelimelle.
Lue opasValitse resurssisi. Pidä henkilöllisyytesi hallinnassasi.