Oferiți sarcinilor de lucru accelerate propriul mediu fizic în Elveția. Tensor combină opțiunile NVIDIA Tesla cu resurse dedicate de server pentru fluxuri de lucru compatibile de inferență, randare și procesare GPU.
Hardware dedicat GPU care combină procesoare duale Xeon E5-2680 v4, o configurație listată Tesla P4 / T4 GPU, 64 GB de memorie DDR4 și un SSD 1 TB. Specificația de rețea este un port 1 Gbps cu trafic nemăsurat.
O configurație GPU cu un port 10 Gbps pentru proiecte accelerate care mută și seturi de date mai mari. Hardware-ul listat include procesoare duale Xeon E5-2680 v4, GPU-uri Tesla P4 / T4, 64 GB de memorie DDR4 și un SSD 1 TB.
Procesoare duale Xeon Gold 6134 însoțesc configurația listată Tesla P4 / T4 GPU pentru compute accelerat dedicat. Acest plan include 64 GB de memorie DDR4, un SSD 1 TB și un port 1 Gbps cu trafic nemăsurat.
Comparați specificațiile listate și prețurile de bază. Disponibilitatea finală, livrarea și taxele aplicabile sunt confirmate în oferta dvs. Ilustrațiile sunt conceptuale.
Înțelegeți ce face utilă această familie de servicii.
Gama Tensor este listată ca bare metal. Planificați-vă sistemul de operare, driverele și stiva de aplicații în jurul hardware-ului selectat, nu al unei instanțe virtuale generice.
Configuratorul distinge opțiunile NVIDIA Tesla P4 și T4. Comparați memoria GPU listată cu modelul sau sarcina pe care doriți să o rulați.
Un flux de lucru GPU are nevoie și de memorie gazdă, pregătirea datelor și stocare. Analizați platforma Xeon și selectați completări RAM sau de disc acolo unde este util.
Comparați caracteristicile portului și ale traficului între configurațiile Tensor. Importurile de seturi de date și distribuirea rezultatelor pot fi la fel de importante ca acceleratorul în sine.
Rulați sarcini de inferență ale căror cerințe de framework, precizie și memorie corespund acceleratorului NVIDIA selectat.
Pregătiți un flux de lucru de randare sau procesare vizuală după verificarea compatibilității motorului cu GPU și driverele.
Folosiți o aplicație conștientă de accelerator pentru sarcini repetabile de imagini, media sau numerice pe date pe care aveți dreptul să le procesați.
Înainte de a selecta un server, verificați dacă aplicația și datele sale de lucru se încadrează în memoria acceleratorului ales. Arhitectura modelului, precizia și dimensiunea lotului afectează toate această cerință. O opțiune mai mare de RAM gazdă nu crește automat memoria proprie a GPU.
Alegeți un sistem de operare acceptat de software-ul dvs., apoi verificați cerințele pentru driverul NVIDIA și framework. Preprocesarea CPU, citirile din stocare și transferul de date pot limita un flux de lucru chiar și atunci când GPU este potrivit. Testați o sarcină reprezentativă înainte de a programa un job mare de producție.
Tensor vă oferă o locație elvețiană pentru o stivă de aplicații pe care o configurați. Decideți cine poate accesa seturile de date, modelele și rezultatele și țineți materialele sensibile în afara directoarelor publice. Folosiți software licențiat și seturi de date autorizate; prezența unui GPU nu implică niciun serviciu AI extern sau vreo afirmație privind procesarea datelor.
Tratați acceleratorul selectat, driverul și aplicația ca o singură decizie de compatibilitate. Lucrul bazat pe CUDA, TensorFlow sau PyTorch, procesarea științifică și randarea GPU necesită o combinație software acceptată. Fluxurile video pot folosi și FFmpeg și codare hardware, dar codecurile acceptate și debitul practic trebuie verificate pentru P4 sau T4 ales. Confirmați lucrările de instalare și accesul operatorului înainte de livrare.
Opțiunile disponibile depind de configurația selectată. Consultați selecțiile incluse și prețurile opțiunilor în configurator.
Răspunsuri specifice pentru această familie de servicii.
Comparați opțiunile P4 și T4 cu lista de suport a software-ului dvs. și nevoile de memorie. Opțiunea selectată, nu titlul familiei, definește configurația acceleratorului.
Nu. Memoria RAM de sistem și memoria proprie a GPU sunt resurse diferite. Analizați separat opțiunea de accelerator și opțiunea de memorie gazdă.
Catalogul listează opțiuni de sistem de operare și software. Confirmați orice framework, driver și lucrare de instalare necesare ca parte a planului dvs. de implementare.
Verificați cerințele aplicației privind acceleratorul, driverul și sistemul de operare acceptate. Un GPU listat într-o specificație de server nu stabilește compatibilitatea cu fiecare motor.
Comparați platforma CPU și portul de rețea, precum și selecția GPU. O sarcină cu transferuri mari de date poate avea nevoie de un echilibru diferit față de un lot local intensiv de compute.
Opțiunile Tensor publicate listează Tesla P4 și T4. Alți acceleratori sau mai multe GPU-uri nu sunt selecții incluse în catalog și ar necesita o configurație validată separat.
Verificați împreună versiunile alese pentru GPU, driver, toolkit și framework. Instalarea și un job de test funcțional necesită confirmare; listarea unui accelerator NVIDIA nu face un framework preconfigurat.
Evaluați FFmpeg, suportul pentru codare hardware și codecurile cerute de fluxul dvs. de lucru. Suportul HLS, DASH, WebRTC sau RTMP depinde de software-ul pe care îl implementați, iar nu se promite niciun număr de fluxuri sau latență.
Planul listează portul său, trafic nemăsurat și cinci IP-uri. Confirmați cu operatorul accesul root sau de administrator, controalele de recuperare și protecția de bază; opțiunile suplimentare de IP și software sunt separate.
Luați în calcul ponderile, activările, cache-urile și bufferele temporare, apoi testați sarcina de vârf, nu doar fișierul modelului.
Citiți ghidulSeparați inferența modelului de orchestrare, dimensionați lucrătorul real și limitați ce pot schimba instrumentele sale înainte de a pune un flux de lucru AI pe un server.
Citiți ghidulAlegeți-vă resursele. Păstrați controlul asupra identității dumneavoastră.