Dejte akcelerovaným úlohám vlastní fyzické prostředí ve Švýcarsku. Tensor kombinuje volby NVIDIA Tesla s vyhrazenými prostředky serveru pro kompatibilní pracovní postupy inference, renderování a zpracování GPU.
Vyhrazený hardware GPU kombinující dva procesory Xeon E5-2680 v4, uvedenou konfiguraci Tesla P4 / T4 GPU, 64 GB paměti DDR4 a SSD 1 TB. Specifikace sítě je port 1 Gbps s neomezeným provozem.
Konfigurace GPU s portem 10 Gbps pro akcelerované projekty, které také přenášejí větší datové sady. Uvedený hardware zahrnuje dva procesory Xeon E5-2680 v4, GPU Tesla P4 / T4, 64 GB paměti DDR4 a SSD 1 TB.
Dva procesory Xeon Gold 6134 doprovázejí uvedenou konfiguraci Tesla P4 / T4 GPU pro vyhrazený akcelerovaný výpočet. Tento plán zahrnuje 64 GB paměti DDR4, SSD 1 TB a port 1 Gbps s neomezeným provozem.
Porovnejte uvedené specifikace a základní ceny. Konečná dostupnost, dodání a příslušná daň jsou potvrzeny ve vaší nabídce. Ilustrace jsou koncepční.
Pochopte, co dělá tuto rodinu služeb užitečnou.
Řada Tensor je uvedena jako bare metal. Operační systém, ovladače a aplikační stack plánujte podle zvoleného hardwaru, nikoli podle obecné virtuální instance.
Konfigurátor rozlišuje volby NVIDIA Tesla P4 a T4. Porovnejte uvedenou paměť GPU s modelem nebo úlohou, kterou chcete spustit.
Pracovní postup GPU potřebuje také paměť hostitele, přípravu dat a úložiště. Projděte platformu Xeon a v případě potřeby zvolte doplnění RAM nebo disku.
Porovnejte vlastnosti portu a provozu napříč konfiguracemi Tensor. Import datových sad a distribuce výstupů mohou být stejně důležité jako samotný akcelerátor.
Spouštějte inferenční úlohy, jejichž požadavky na framework, přesnost a paměť odpovídají zvolenému akcelerátoru NVIDIA.
Připravte pracovní postup renderování nebo vizuálního zpracování po kontrole kompatibility enginu s GPU a ovladači.
Použijte aplikaci pracující s akcelerátorem pro opakovatelné obrazové, mediální nebo numerické úlohy na datech, která jste oprávněni zpracovávat.
Před výběrem serveru zkontrolujte, zda se aplikace a její pracovní data vejdou do paměti zvoleného akcelerátoru. Architektura modelu, přesnost a velikost dávky tento požadavek ovlivňují. Volba větší paměti hostitele RAM automaticky nezvyšuje vlastní paměť GPU.
Zvolte operační systém podporovaný vaším softwarem a poté ověřte požadavky na ovladač NVIDIA a framework. Předzpracování CPU, čtení z úložiště a přenos dat mohou omezit pracovní postup, i když je GPU vhodný. Před naplánováním velké produkční úlohy proveďte benchmark reprezentativní úlohy.
Tensor vám poskytuje švýcarské umístění pro aplikační stack, který si sami nakonfigurujete. Rozhodněte, kdo smí přistupovat k datovým sadám, modelům a výsledkům, a citlivý materiál neukládejte do veřejných adresářů. Používejte licencovaný software a autorizované datové sady; přítomnost GPU neimplikuje žádnou externí službu AI ani tvrzení o zpracování dat.
Zvolený akcelerátor, ovladač a aplikaci považujte za jedno rozhodnutí o kompatibilitě. Práce s CUDA, TensorFlow nebo PyTorch, vědecké zpracování a renderování GPU vyžadují podporovanou kombinaci softwaru. Video pracovní postupy mohou také používat FFmpeg a hardwarové kódování, ale podporované kodeky a praktickou propustnost je třeba ověřit pro zvolený P4 nebo T4. Před dodáním potvrďte instalační práce a přístup operátora.
Dostupné volby závisí na zvolené konfiguraci. Zahrnuté volby a ceny možností najdete v konfigurátoru.
Konkrétní odpovědi pro tuto rodinu služeb.
Porovnejte volby P4 a T4 se seznamem podpory vašeho softwaru a potřebami paměti. Konfiguraci akcelerátoru definuje zvolená volba, nikoli název řady.
Ne. Systémová paměť RAM a vlastní paměť GPU jsou různé prostředky. Volbu akcelerátoru a volbu paměti hostitele posuzujte samostatně.
Katalog uvádí volby operačního systému a softwaru. Požadovaný framework, ovladač a instalační práce potvrďte jako součást svého plánu nasazení.
Zkontrolujte podporovaný akcelerátor, ovladač a požadavky aplikace na operační systém. GPU uvedený ve specifikaci serveru nezakládá kompatibilitu s každým enginem.
Porovnejte platformu CPU a síťový port i volbu GPU. Úloha s velkými přenosy dat může potřebovat jinou rovnováhu než výpočetně náročná místní dávka.
Zveřejněné volby Tensor uvádějí Tesla P4 a T4. Jiné akcelerátory nebo několik GPU nejsou součástí katalogových voleb a vyžadovaly by samostatně ověřenou konfiguraci.
Zkontrolujte společně zvolený GPU, ovladač, toolkit a verze frameworku. Instalaci a funkční testovací úlohu je třeba potvrdit; uvedení akcelerátoru NVIDIA neznamená, že je framework předkonfigurován.
Vyhodnoťte FFmpeg, podporu hardwarového kódování a kodeky požadované vaším pracovním postupem. Podpora HLS, DASH, WebRTC nebo RTMP závisí na softwaru, který nasadíte, a není slibován žádný počet streamů ani latence.
Plán uvádí svůj port, neomezený provoz a pět IP adres. S operátorem potvrďte přístup root nebo správce, možnosti obnovy a základní ochranu; další volby IP adres a softwaru jsou samostatné.
Zohledněte váhy, aktivace, mezipaměti a dočasné buffery a poté otestujte špičkovou zátěž, ne jen soubor modelu.
Přečtěte si průvodceOddělte inferenci modelu od orchestrace, dimenzujte skutečného pracovníka a omezte, co mohou jeho nástroje měnit, než umístíte AI pracovní postup na server.
Přečtěte si průvodceZvolte si prostředky. Udržte si kontrolu nad svou identitou.