Dê às cargas de trabalho aceleradas o seu próprio ambiente físico na Suíça. A Tensor combina opções NVIDIA Tesla com recursos de servidor dedicados para fluxos de trabalho compatíveis de inferência, renderização e processamento GPU.
Hardware GPU dedicado que combina processadores duplos Xeon E5-2680 v4, uma configuração GPU Tesla P4 / T4 listada, 64 GB de memória DDR4 e um SSD de 1 TB. A especificação de rede é uma porta de 1 Gbps com tráfego não limitado.
Uma configuração GPU com uma porta de 10 Gbps para projetos acelerados que também movimentam grandes conjuntos de dados. O hardware listado inclui processadores duplos Xeon E5-2680 v4, GPUs Tesla P4 / T4, 64 GB de memória DDR4 e um SSD de 1 TB.
Processadores duplos Xeon Gold 6134 acompanham a configuração GPU Tesla P4 / T4 listada para computação acelerada dedicada. Este plano inclui 64 GB de memória DDR4, um SSD de 1 TB e uma porta de 1 Gbps com tráfego não limitado.
Compare as especificações listadas e os preços base. A disponibilidade final, a entrega e os impostos aplicáveis são confirmados no seu orçamento. As ilustrações são conceptuais.
Compreenda o que torna esta família de serviços útil.
A gama Tensor está listada como bare metal. Planeie o seu sistema operativo, controladores e pilha de aplicações em torno do hardware selecionado, em vez de uma instância virtual genérica.
O configurador distingue as opções NVIDIA Tesla P4 e T4. Compare a memória GPU listada com o modelo ou a tarefa que pretende executar.
Um fluxo de trabalho GPU também necessita de memória do anfitrião, preparação de dados e armazenamento. Reveja a plataforma Xeon e selecione adições de RAM ou disco quando for útil.
Compare as características de porta e tráfego entre as configurações Tensor. As importações de conjuntos de dados e a distribuição de resultados podem ser tão importantes como o próprio acelerador.
Execute cargas de trabalho de inferência cujo framework, precisão e requisitos de memória correspondam ao acelerador NVIDIA selecionado.
Prepare um fluxo de trabalho de renderização ou processamento visual depois de verificar a compatibilidade do motor com GPU e com os controladores.
Utilize uma aplicação com reconhecimento de acelerador para tarefas repetíveis de imagem, multimédia ou numéricas sobre dados que tem o direito de processar.
Antes de selecionar um servidor, verifique se a aplicação e os seus dados de trabalho cabem na memória do acelerador escolhido. A arquitetura do modelo, a precisão e o tamanho do lote afetam todos este requisito. Uma opção maior de RAM do anfitrião não aumenta automaticamente a memória da própria GPU.
Escolha um sistema operativo suportado pelo seu software e depois verifique os requisitos de controladores e frameworks NVIDIA. O pré-processamento CPU, as leituras de armazenamento e a transferência de dados podem limitar um fluxo de trabalho mesmo quando a GPU é adequada. Avalie uma tarefa representativa antes de agendar um grande trabalho de produção.
A Tensor dá-lhe uma localização suíça para uma pilha de aplicações que configura. Decida quem pode aceder aos conjuntos de dados, aos modelos e aos resultados, e mantenha o material sensível fora de diretórios públicos. Utilize software licenciado e conjuntos de dados autorizados; a presença de uma GPU não implica qualquer serviço de IA externo nem qualquer alegação de processamento de dados.
Trate o acelerador, o controlador e a aplicação selecionados como uma única decisão de compatibilidade. O trabalho baseado em CUDA, o TensorFlow ou o PyTorch, o processamento científico e a renderização GPU necessitam de uma combinação de software suportada. Os fluxos de trabalho de vídeo também podem utilizar FFmpeg e codificação por hardware, mas os codecs suportados e o débito prático devem ser verificados para o P4 ou T4 escolhido. Confirme o trabalho de instalação e o acesso do operador antes da entrega.
As opções disponíveis dependem da configuração selecionada. Consulte as seleções incluídas e os preços das opções no configurador.
Respostas específicas para esta família de serviços.
Compare as opções P4 e T4 com a lista de suporte e as necessidades de memória do seu software. A opção selecionada, e não o nome da família, define a configuração do acelerador.
Não. A RAM do sistema e a memória da própria GPU são recursos diferentes. Reveja a opção de acelerador e a opção de memória do anfitrião separadamente.
O catálogo lista escolhas de sistema operativo e de software. Confirme qualquer framework, controlador e trabalho de instalação necessários como parte do seu plano de implementação.
Verifique os requisitos de acelerador, controlador e sistema operativo suportados pela aplicação. Uma GPU listada numa especificação de servidor não estabelece compatibilidade com todos os motores.
Compare a plataforma CPU e a porta de rede, bem como a seleção de GPU. Uma carga de trabalho com grandes transferências de dados pode necessitar de um equilíbrio diferente de um lote local com muita computação.
As escolhas Tensor publicadas listam Tesla P4 e T4. Outros aceleradores ou várias GPUs não são seleções incluídas no catálogo e exigiriam uma configuração validada separadamente.
Verifique em conjunto a GPU, o controlador, o toolkit e as versões de framework escolhidos. A instalação e um trabalho de teste funcional necessitam de confirmação; listar um acelerador NVIDIA não torna um framework pré-configurado.
Avalie o FFmpeg, o suporte de codificação por hardware e os codecs exigidos pelo seu fluxo de trabalho. O suporte de HLS, DASH, WebRTC ou RTMP depende do software que implementar, e não é prometido qualquer número de streams nem latência.
O plano lista a sua porta, tráfego não limitado e cinco IPs. Confirme com o operador o acesso root ou de administrador, os controlos de recuperação e a proteção de base; as opções adicionais de IP e de software são separadas.
Contabilize pesos, ativações, caches e buffers temporários e depois teste a carga de pico em vez de apenas o ficheiro do modelo.
Leia o guiaSepare a inferência do modelo da orquestração, dimensione o trabalhador real e limite o que as suas ferramentas podem alterar antes de colocar um fluxo de trabalho de IA num servidor.
Leia o guiaEscolha os seus recursos. Mantenha o controlo da sua identidade.