Donnez aux charges de travail accélérées leur propre environnement physique en Suisse. Tensor combine des options NVIDIA Tesla avec des ressources de serveur dédié pour des flux de travail compatibles d'inférence, de rendu et de traitement GPU.
Matériel GPU dédié combinant des processeurs double Xeon E5-2680 v4, une configuration GPU Tesla P4 / T4 listée, 64 GB de mémoire DDR4 et un SSD 1 TB. La spécification réseau est un port 1 Gbps avec trafic non mesuré.
Une configuration GPU avec un port 10 Gbps pour les projets accélérés qui déplacent également de plus grands ensembles de données. Le matériel listé comprend des processeurs double Xeon E5-2680 v4, des GPU Tesla P4 / T4, 64 GB de mémoire DDR4 et un SSD 1 TB.
Des processeurs Dual Xeon Gold 6134 accompagnent la configuration GPU Tesla P4 / T4 indiquée pour un calcul accéléré dédié. Ce plan comprend 64 GB de mémoire DDR4, un SSD 1 TB et un port 1 Gbps avec trafic illimité.
Comparez les spécifications listées et les prix de base. La disponibilité finale, la livraison et les taxes applicables sont confirmées sur votre devis. Les illustrations sont conceptuelles.
Comprenez ce qui rend cette famille de services utile.
La gamme Tensor est proposée en bare metal. Planifiez votre système d'exploitation, vos pilotes et votre pile applicative en fonction du matériel sélectionné plutôt que d'une instance virtuelle générique.
Le configurateur distingue les options NVIDIA Tesla P4 et T4. Comparez la mémoire GPU indiquée avec le modèle ou la tâche que vous souhaitez exécuter.
Un flux de travail GPU nécessite aussi de la mémoire hôte, de la préparation de données et du stockage. Examinez la plateforme Xeon et sélectionnez des ajouts de RAM ou de disque là où c'est utile.
Comparez les caractéristiques de port et de trafic entre les configurations Tensor. Les imports de jeux de données et la distribution des sorties peuvent être aussi importants que l'accélérateur lui-même.
Exécutez des charges d'inférence dont le framework, la précision et les besoins en mémoire correspondent à l'accélérateur NVIDIA sélectionné.
Préparez un flux de travail de rendu ou de traitement visuel après avoir vérifié la compatibilité du moteur avec GPU et ses pilotes.
Utilisez une application compatible avec l'accélérateur pour des tâches répétables d'image, de média ou de calcul numérique sur des données que vous êtes autorisé à traiter.
Avant de sélectionner un serveur, vérifiez si l'application et ses données de travail tiennent dans la mémoire de l'accélérateur choisi. L'architecture du modèle, la précision et la taille des lots influent tous sur ce besoin. Une option de mémoire hôte RAM plus importante n'augmente pas automatiquement la mémoire propre du GPU.
Choisissez un système d'exploitation pris en charge par votre logiciel, puis vérifiez les exigences de pilote et de framework NVIDIA. Le prétraitement CPU, les lectures de stockage et le transfert de données peuvent limiter un flux de travail même lorsque le GPU est adapté. Évaluez une tâche représentative avant de planifier une grande tâche de production.
Tensor vous offre un emplacement suisse pour une pile applicative que vous configurez. Décidez qui peut accéder aux jeux de données, aux modèles et aux résultats, et tenez les éléments sensibles à l'écart des répertoires publics. Utilisez des logiciels sous licence et des jeux de données autorisés ; la présence d'un GPU n'implique aucun service d'IA externe ni aucune prétention au traitement des données.
Traitez l'accélérateur, le pilote et l'application sélectionnés comme une seule décision de compatibilité. Les travaux basés sur CUDA, TensorFlow ou PyTorch, le traitement scientifique et le rendu GPU nécessitent une combinaison logicielle prise en charge. Les flux vidéo peuvent aussi utiliser FFmpeg et l'encodage matériel, mais les codecs pris en charge et le débit pratique doivent être vérifiés pour le P4 ou le T4 choisi. Confirmez les travaux d'installation et l'accès opérateur avant la livraison.
Les choix disponibles dépendent de la configuration sélectionnée. Consultez les sélections incluses et les prix des options dans le configurateur.
Des réponses spécifiques pour cette famille de services.
Comparez les options P4 et T4 avec la liste de prise en charge de votre logiciel et vos besoins en mémoire. C'est l'option sélectionnée, et non le nom de la famille, qui définit la configuration de l'accélérateur.
Non. La mémoire système RAM et la mémoire propre du GPU sont des ressources différentes. Examinez séparément l'option d'accélérateur et l'option de mémoire hôte.
Le catalogue présente des choix de système d'exploitation et de logiciels. Confirmez tout framework, pilote et travail d'installation requis dans le cadre de votre plan de déploiement.
Vérifiez les exigences prises en charge par l'application en matière d'accélérateur, de pilote et de système d'exploitation. Un GPU indiqué dans une spécification de serveur n'établit pas la compatibilité avec tous les moteurs.
Comparez la plateforme CPU et le port réseau ainsi que la sélection du GPU. Une charge de travail avec de gros transferts de données peut nécessiter un équilibre différent d'un lot local à forte intensité de calcul.
Les choix Tensor publiés listent les Tesla P4 et T4. D'autres accélérateurs ou plusieurs GPU ne figurent pas parmi les sélections du catalogue et nécessiteraient une configuration validée séparément.
Vérifiez ensemble les versions choisies du GPU, du pilote, du toolkit et du framework. L'installation et une tâche de test fonctionnelle doivent être confirmées ; l'indication d'un accélérateur NVIDIA ne signifie pas qu'un framework est préconfiguré.
Évaluez FFmpeg, la prise en charge de l'encodage matériel et les codecs requis par votre flux de travail. La prise en charge de HLS, DASH, WebRTC ou RTMP dépend du logiciel que vous déployez, et aucun nombre de flux ni aucune latence n'est promis.
Le plan indique son port, son trafic illimité et cinq IP. Confirmez avec l'opérateur l'accès root ou administrateur, les contrôles de récupération et la protection de base ; les options d'IP supplémentaires et de logiciels sont distinctes.
Tenez compte des poids, des activations, des caches et des tampons temporaires, puis testez la charge de travail de pointe plutôt que le seul fichier du modèle.
Lire le guideSéparez l'inférence du modèle de l'orchestration, dimensionnez l'agent réel et limitez ce que ses outils peuvent modifier avant de placer un flux de travail IA sur un serveur.
Lire le guideChoisissez vos ressources. Gardez le contrôle de votre identité.