De a las cargas de trabajo aceleradas su propio entorno físico en Suiza. Tensor combina opciones NVIDIA Tesla con recursos de servidor dedicados para flujos de trabajo compatibles de inferencia, renderizado y procesamiento GPU.
Hardware GPU dedicado que combina procesadores duales Xeon E5-2680 v4, una configuración GPU Tesla P4 / T4 indicada, 64 GB de memoria DDR4 y un SSD 1 TB. La especificación de red es un puerto 1 Gbps con tráfico no medido.
Una configuración GPU con un puerto 10 Gbps para proyectos acelerados que también mueven grandes conjuntos de datos. El hardware indicado incluye procesadores duales Xeon E5-2680 v4, GPU Tesla P4 / T4, 64 GB de memoria DDR4 y un SSD 1 TB.
Procesadores duales Xeon Gold 6134 acompañan la configuración GPU Tesla P4 / T4 indicada para cómputo acelerado dedicado. Este plan incluye 64 GB de memoria DDR4, un SSD 1 TB y un puerto 1 Gbps con tráfico no medido.
Compara las especificaciones listadas y los precios base. La disponibilidad final, la entrega y los impuestos aplicables se confirman en tu cotización. Las ilustraciones son conceptuales.
Comprende qué hace útil a esta familia de servicios.
La gama Tensor se indica como bare metal. Planifique su sistema operativo, controladores y pila de aplicaciones en torno al hardware seleccionado en lugar de una instancia virtual genérica.
El configurador distingue las opciones NVIDIA Tesla P4 y T4. Compare la memoria GPU indicada con el modelo o la tarea que desea ejecutar.
Un flujo de trabajo GPU también necesita memoria del host, preparación de datos y almacenamiento. Revise la plataforma Xeon y seleccione adiciones de RAM o disco cuando sea útil.
Compare las características de puerto y tráfico entre las configuraciones Tensor. Las importaciones de conjuntos de datos y la distribución de resultados pueden ser tan importantes como el propio acelerador.
Ejecute cargas de trabajo de inferencia cuyos requisitos de framework, precisión y memoria coincidan con el acelerador NVIDIA seleccionado.
Prepare un flujo de trabajo de renderizado o procesamiento visual después de comprobar la compatibilidad del motor con GPU y los controladores.
Utilice una aplicación compatible con aceleradores para tareas repetibles de imagen, medios o numéricas sobre datos que tenga derecho a procesar.
Antes de seleccionar un servidor, compruebe si la aplicación y sus datos de trabajo caben en la memoria del acelerador elegido. La arquitectura del modelo, la precisión y el tamaño del lote afectan a este requisito. Una opción mayor de RAM del host no aumenta automáticamente la memoria propia del GPU.
Elija un sistema operativo compatible con su software y luego verifique los requisitos de controlador y framework de NVIDIA. El preprocesamiento CPU, las lecturas de almacenamiento y la transferencia de datos pueden limitar un flujo de trabajo incluso cuando el GPU es adecuado. Realice una prueba comparativa de una tarea representativa antes de programar un trabajo de producción grande.
Tensor le ofrece una ubicación suiza para una pila de aplicaciones que usted configura. Decida quién puede acceder a los conjuntos de datos, modelos y resultados, y mantenga el material sensible fuera de los directorios públicos. Utilice software con licencia y conjuntos de datos autorizados; la presencia de un GPU no implica ningún servicio de IA externo ni afirmación sobre el procesamiento de datos.
Trate el acelerador, el controlador y la aplicación seleccionados como una única decisión de compatibilidad. El trabajo basado en CUDA, TensorFlow o PyTorch, el procesamiento científico y el renderizado GPU necesitan una combinación de software compatible. Los flujos de trabajo de vídeo también pueden usar FFmpeg y codificación por hardware, pero los códecs compatibles y el rendimiento práctico deben comprobarse para la P4 o T4 elegida. Confirme el trabajo de instalación y el acceso del operador antes de la entrega.
Las opciones disponibles dependen de la configuración seleccionada. Consulta las selecciones incluidas y los precios de las opciones en el configurador.
Respuestas específicas para esta familia de servicios.
Compare las opciones P4 y T4 con la lista de compatibilidad y las necesidades de memoria de su software. La opción seleccionada, y no el nombre de la familia, define la configuración del acelerador.
No. El RAM del sistema y la memoria propia del GPU son recursos diferentes. Revise la opción de acelerador y la opción de memoria del host por separado.
El catálogo indica opciones de sistema operativo y software. Confirme cualquier framework, controlador y trabajo de instalación necesarios como parte de su plan de despliegue.
Compruebe los requisitos de acelerador, controlador y sistema operativo compatibles con la aplicación. Un GPU indicado en una especificación de servidor no establece compatibilidad con todos los motores.
Compare la plataforma CPU y el puerto de red, así como la selección de GPU. Una carga de trabajo con grandes transferencias de datos puede necesitar un equilibrio diferente al de un lote local con mucha carga de cómputo.
Las opciones publicadas de Tensor indican Tesla P4 y T4. Otros aceleradores o varias GPU no son selecciones incluidas en el catálogo y requerirían una configuración validada por separado.
Compruebe juntas las versiones elegidas de GPU, controlador, kit de herramientas y framework. La instalación y un trabajo de prueba funcional necesitan confirmación; indicar un acelerador NVIDIA no hace que un framework esté preconfigurado.
Evalúe FFmpeg, la compatibilidad con codificación por hardware y los códecs requeridos por su flujo de trabajo. La compatibilidad con HLS, DASH, WebRTC o RTMP depende del software que despliegue, y no se promete ningún número de streams ni latencia.
El plan indica su puerto, tráfico no medido y cinco IP. Confirme con el operador el acceso root o de administrador, los controles de recuperación y la protección básica; las opciones adicionales de IP y software son independientes.
Tenga en cuenta los pesos, las activaciones, las cachés y los búferes temporales, y luego pruebe la carga de trabajo máxima en lugar de solo el archivo del modelo.
Lea la guíaSepare la inferencia del modelo de la orquestación, dimensione el trabajador real y limite lo que sus herramientas pueden cambiar antes de poner un flujo de trabajo de IA en un servidor.
Lea la guíaElija sus recursos. Mantenga el control de su identidad.