Предоставьте ускоренным рабочим нагрузкам собственную физическую среду в Швейцарии. Tensor сочетает варианты NVIDIA Tesla с выделенными серверными ресурсами для совместимых рабочих процессов инференса, рендеринга и обработки GPU.
Выделенное оборудование GPU, сочетающее два процессора Xeon E5-2680 v4, указанную конфигурацию Tesla P4 / T4 GPU, 64 GB памяти DDR4 и SSD 1 TB. Сетевая спецификация — порт 1 Gbps с неограниченным трафиком.
Конфигурация GPU с портом 10 Gbps для ускоренных проектов, которые также перемещают большие наборы данных. Указанное оборудование включает два процессора Xeon E5-2680 v4, графические процессоры Tesla P4 / T4, 64 GB памяти DDR4 и SSD 1 TB.
Два процессора Xeon Gold 6134 сопровождают указанную конфигурацию Tesla P4 / T4 GPU для выделенных ускоренных вычислений. Этот план включает 64 GB памяти DDR4, SSD 1 TB и порт 1 Gbps с неограниченным трафиком.
Сравните указанные спецификации и базовые цены. Окончательная доступность, поставка и применимый налог подтверждаются в вашем предложении. Иллюстрации концептуальны.
Поймите, что делает это семейство сервисов полезным.
Линейка Tensor указана как bare metal. Планируйте операционную систему, драйверы и стек приложений с учётом выбранного оборудования, а не универсального виртуального экземпляра.
Конфигуратор различает варианты NVIDIA Tesla P4 и T4. Сравните указанную память GPU с моделью или задачей, которую вы хотите запускать.
Рабочему процессу GPU также нужны память хоста, подготовка данных и хранилище. Изучите платформу Xeon и выберите дополнения RAM или диска, где это полезно.
Сравните характеристики порта и трафика в конфигурациях Tensor. Импорт наборов данных и распространение результатов могут быть не менее важны, чем сам ускоритель.
Запускайте рабочие нагрузки инференса, чьи требования к фреймворку, точности и памяти соответствуют выбранному ускорителю NVIDIA.
Подготовьте рабочий процесс рендеринга или визуальной обработки после проверки совместимости движка с GPU и драйверами.
Используйте приложение с поддержкой ускорителя для повторяемых задач обработки изображений, медиа или числовых данных, на которые у вас есть право.
Перед выбором сервера проверьте, помещаются ли приложение и его рабочие данные в память выбранного ускорителя. На это требование влияют архитектура модели, точность и размер пакета. Вариант с большей памятью хоста RAM не увеличивает автоматически собственную память GPU.
Выберите операционную систему, поддерживаемую вашим программным обеспечением, затем проверьте требования к драйверу NVIDIA и фреймворку. Предобработка CPU, чтение из хранилища и передача данных могут ограничивать рабочий процесс, даже когда GPU подходит. Проведите тестирование на репрезентативной задаче перед планированием крупного производственного задания.
Tensor предоставляет вам швейцарское расположение для настраиваемого вами стека приложений. Решите, кому разрешён доступ к наборам данных, моделям и результатам, и держите конфиденциальные материалы вне публичных каталогов. Используйте лицензированное программное обеспечение и авторизованные наборы данных; наличие GPU не подразумевает никакого внешнего AI-сервиса или заявления об обработке данных.
Рассматривайте выбранный ускоритель, драйвер и приложение как единое решение о совместимости. Работа на основе CUDA, TensorFlow или PyTorch, научная обработка и рендеринг GPU требуют поддерживаемой комбинации программного обеспечения. Видеорабочие процессы также могут использовать FFmpeg и аппаратное кодирование, но поддерживаемые кодеки и практическую пропускную способность необходимо проверять для выбранного P4 или T4. Подтвердите работы по установке и доступ оператора перед поставкой.
Доступные варианты зависят от выбранной конфигурации. Смотрите включённые варианты и цены опций в конфигураторе.
Конкретные ответы для этого семейства сервисов.
Сравните варианты P4 и T4 со списком поддерживаемого программного обеспечения и потребностями в памяти. Выбранный вариант, а не общее название семейства, определяет конфигурацию ускорителя.
Нет. Системная память RAM и собственная память GPU — это разные ресурсы. Рассматривайте вариант ускорителя и вариант памяти хоста отдельно.
В каталоге перечислены варианты операционной системы и программного обеспечения. Подтвердите необходимый фреймворк, драйвер и работы по установке как часть плана развёртывания.
Проверьте требования приложения к поддерживаемому ускорителю, драйверу и операционной системе. Указанный в спецификации сервера GPU не устанавливает совместимость с каждым движком.
Сравните платформу CPU и сетевой порт, а также выбор GPU. Рабочей нагрузке с большими передачами данных может потребоваться иной баланс, чем для вычислительно интенсивной локальной пакетной обработки.
Опубликованные варианты Tensor включают Tesla P4 и T4. Другие ускорители или несколько GPU не входят в выбор каталога и потребовали бы отдельно проверенной конфигурации.
Проверяйте выбранные версии GPU, драйвера, инструментария и фреймворка вместе. Установка и рабочее тестовое задание требуют подтверждения; указание ускорителя NVIDIA не делает фреймворк предварительно настроенным.
Оцените FFmpeg, поддержку аппаратного кодирования и кодеки, необходимые вашему рабочему процессу. Поддержка HLS, DASH, WebRTC или RTMP зависит от развёртываемого программного обеспечения, и никакое количество потоков или задержка не обещаются.
В плане указаны его порт, неограниченный трафик и пять IP-адресов. Подтвердите с оператором доступ root или администратора, средства восстановления и базовую защиту; дополнительные опции IP и программного обеспечения являются отдельными.
Учтите веса, активации, кэши и временные буферы, а затем протестируйте пиковую нагрузку, а не только файл модели.
Читать руководствоОтделите вывод модели от оркестрации, рассчитайте размер фактического воркера и ограничьте то, что могут менять его инструменты, прежде чем размещать ИИ-процесс на сервере.
Читать руководствоВыберите свои ресурсы. Сохраняйте контроль над своей личностью.