Dê às cargas de trabalho aceleradas seu próprio ambiente físico na Suíça. A Tensor combina opções NVIDIA Tesla com recursos de servidor dedicado para fluxos de trabalho compatíveis de inferência, renderização e processamento GPU.
Hardware GPU dedicado que combina processadores dual Xeon E5-2680 v4, uma configuração GPU Tesla P4 / T4 listada, 64 GB de memória DDR4 e um SSD 1 TB. A especificação de rede é uma porta 1 Gbps com tráfego não medido.
Uma configuração GPU com uma porta 10 Gbps para projetos acelerados que também movimentam grandes conjuntos de dados. O hardware listado inclui processadores dual Xeon E5-2680 v4, GPUs Tesla P4 / T4, 64 GB de memória DDR4 e um SSD 1 TB.
Processadores dual Xeon Gold 6134 acompanham a configuração GPU Tesla P4 / T4 listada para computação acelerada dedicada. Este plano inclui 64 GB de memória DDR4, um SSD 1 TB e uma porta 1 Gbps com tráfego não medido.
Compare as especificações listadas e os preços base. A disponibilidade final, a entrega e os impostos aplicáveis são confirmados na sua cotação. As ilustrações são conceituais.
Entenda o que torna esta família de serviços útil.
A linha Tensor é listada como bare metal. Planeje seu sistema operacional, drivers e pilha de aplicações em torno do hardware selecionado, e não de uma instância virtual genérica.
O configurador distingue as opções NVIDIA Tesla P4 e T4. Compare a memória GPU listada com o modelo ou a tarefa que você deseja executar.
Um fluxo de trabalho GPU também precisa de memória do host, preparação de dados e armazenamento. Revise a plataforma Xeon e selecione adições de RAM ou disco quando for útil.
Compare as características de porta e tráfego entre as configurações Tensor. A importação de conjuntos de dados e a distribuição de resultados podem ser tão importantes quanto o próprio acelerador.
Execute cargas de trabalho de inferência cujo framework, precisão e requisitos de memória correspondam ao acelerador NVIDIA selecionado.
Prepare um fluxo de trabalho de renderização ou processamento visual após verificar a compatibilidade do mecanismo com GPU e drivers.
Use uma aplicação compatível com acelerador para tarefas repetíveis de imagem, mídia ou numéricas em dados que você tem o direito de processar.
Antes de selecionar um servidor, verifique se a aplicação e seus dados de trabalho cabem na memória do acelerador escolhido. A arquitetura do modelo, a precisão e o tamanho do lote afetam esse requisito. Uma opção maior de RAM do host não aumenta automaticamente a memória do próprio GPU.
Escolha um sistema operacional compatível com o seu software e depois verifique os requisitos de driver e framework do NVIDIA. O pré-processamento CPU, as leituras de armazenamento e a transferência de dados podem limitar um fluxo de trabalho mesmo quando o GPU é adequado. Faça benchmark de uma tarefa representativa antes de agendar um grande trabalho de produção.
A Tensor oferece uma localização suíça para uma pilha de aplicações que você configura. Decida quem pode acessar conjuntos de dados, modelos e resultados, e mantenha material sensível fora de diretórios públicos. Use software licenciado e conjuntos de dados autorizados; nenhuma alegação de serviço externo de IA ou de processamento de dados está implícita pela presença de uma GPU.
Trate o acelerador selecionado, o driver e a aplicação como uma única decisão de compatibilidade. Trabalhos baseados em CUDA, TensorFlow ou PyTorch, processamento científico e renderização GPU precisam de uma combinação de software compatível. Fluxos de trabalho de vídeo também podem usar FFmpeg e codificação por hardware, mas os codecs suportados e a taxa de transferência prática devem ser verificados para a P4 ou T4 escolhida. Confirme o trabalho de instalação e o acesso do operador antes da entrega.
As opções disponíveis dependem da configuração selecionada. Veja as seleções incluídas e os preços das opções no configurador.
Respostas específicas para esta família de serviços.
Compare as opções P4 e T4 com a lista de suporte e as necessidades de memória do seu software. A opção selecionada, e não o nome da família, define a configuração do acelerador.
Não. O RAM do sistema e a memória da própria GPU são recursos diferentes. Revise a opção de acelerador e a opção de memória do host separadamente.
O catálogo lista escolhas de sistema operacional e software. Confirme qualquer framework, driver e trabalho de instalação necessários como parte do seu plano de implantação.
Verifique os requisitos de acelerador, driver e sistema operacional suportados pela aplicação. Um GPU listado em uma especificação de servidor não estabelece compatibilidade com todos os mecanismos.
Compare a plataforma CPU e a porta de rede, bem como a seleção de GPU. Uma carga de trabalho com grandes transferências de dados pode precisar de um equilíbrio diferente de um lote local com uso intenso de computação.
As opções Tensor publicadas listam Tesla P4 e T4. Outros aceleradores ou várias GPUs não são seleções incluídas no catálogo e exigiriam uma configuração validada separadamente.
Verifique em conjunto o GPU, o driver, o kit de ferramentas e as versões de framework escolhidos. A instalação e um trabalho de teste funcional precisam de confirmação; listar um acelerador NVIDIA não torna um framework pré-configurado.
Avalie o FFmpeg, o suporte a codificação por hardware e os codecs exigidos pelo seu fluxo de trabalho. O suporte a HLS, DASH, WebRTC ou RTMP depende do software que você implanta, e nenhuma contagem de streams ou latência é prometida.
O plano lista sua porta, tráfego não medido e cinco IPs. Confirme o acesso root ou de administrador, os controles de recuperação e a proteção básica com o operador; opções adicionais de IP e software são separadas.
Considere pesos, ativações, caches e buffers temporários e, em seguida, teste a carga de pico em vez de apenas o arquivo do modelo.
Leia o guiaSepare a inferência do modelo da orquestração, dimensione o worker real e limite o que suas ferramentas podem alterar antes de colocar um fluxo de trabalho de IA em um servidor.
Leia o guiaEscolha seus recursos. Mantenha o controle da sua identidade.