アクセラレーションされたワークロードにスイスで専用の物理環境を提供します。Tensor は NVIDIA Tesla オプションと専用サーバーリソースを組み合わせ、互換性のある推論、レンダリング、GPU 処理ワークフローに対応します。
デュアル Xeon E5-2680 v4 プロセッサ、記載されている Tesla P4 / T4 GPU 構成、64 GB の DDR4 メモリ、1 TB SSD を組み合わせた専用 GPU ハードウェア。ネットワーク仕様は、無制限トラフィック付きの 1 Gbps ポートです。
大規模なデータセットも移動するアクセラレーションされたプロジェクト向けの、10 Gbps ポートを備えた GPU 構成。記載されているハードウェアには、デュアル Xeon E5-2680 v4 プロセッサ、Tesla P4 / T4 GPU、64 GB の DDR4 メモリ、1 TB SSD が含まれます。
デュアル Xeon Gold 6134 プロセッサが、記載されている Tesla P4 / T4 GPU 構成とともに専用のアクセラレーションコンピューティングを提供します。このプランには、64 GB の DDR4 メモリ、1 TB SSD、無制限トラフィック付きの 1 Gbps ポートが含まれます。
記載された仕様と基本価格を比較してください。最終的な可用性、提供、適用される税金はお見積もりで確認されます。イラストは概念的なものです。
このサービスファミリーを有用にしている理由を理解しましょう。
Tensor ラインナップはベアメタルとして記載されています。汎用の仮想インスタンスではなく、選択したハードウェアに合わせてオペレーティングシステム、ドライバー、アプリケーションスタックを計画してください。
コンフィギュレーターは NVIDIA Tesla P4 と T4 オプションを区別しています。記載されている GPU メモリを、実行したいモデルまたはタスクと比較してください。
GPU ワークフローには、ホストメモリ、データ準備、ストレージも必要です。Xeon プラットフォームを確認し、必要に応じて RAM またはディスクの追加を選択してください。
Tensor 構成全体でポートとトラフィックの特性を比較してください。データセットのインポートと出力の配布は、アクセラレーター自体と同じくらい重要になる場合があります。
フレームワーク、精度、メモリ要件が選択した NVIDIA アクセラレーターに適合する推論ワークロードを実行してください。
エンジンの GPU とドライバーの互換性を確認したうえで、レンダリングまたはビジュアル処理ワークフローを準備してください。
処理する権利のあるデータに対して、反復可能な画像、メディア、数値タスクにアクセラレーター対応アプリケーションを使用してください。
サーバーを選択する前に、アプリケーションとその作業データが選択したアクセラレーターのメモリに収まるか確認してください。モデルアーキテクチャ、精度、バッチサイズはすべてこの要件に影響します。ホスト RAM のオプションを大きくしても、GPU 自体のメモリが自動的に増えるわけではありません。
ソフトウェアがサポートするオペレーティングシステムを選択し、NVIDIA ドライバーとフレームワークの要件を確認してください。CPU の前処理、ストレージの読み取り、データ転送は、GPU が適切であってもワークフローを制限する可能性があります。大規模な本番ジョブをスケジュールする前に、代表的なタスクをベンチマークしてください。
Tensor は、お客様が構成するアプリケーションスタック用のスイスのロケーションを提供します。データセット、モデル、結果にアクセスできる人を決定し、機密資料を公開ディレクトリに置かないでください。ライセンス済みソフトウェアと許可されたデータセットを使用してください。GPU の存在は、外部 AI サービスやデータ処理の主張を意味するものではありません。
選択したアクセラレーター、ドライバー、アプリケーションを 1 つの互換性判断として扱ってください。CUDA ベースの作業、TensorFlow または PyTorch、科学処理、GPU レンダリングには、サポートされたソフトウェアの組み合わせが必要です。動画ワークフローでは FFmpeg とハードウェアエンコードも使用できますが、サポートされるコーデックと実用的なスループットは、選択した P4 または T4 について確認する必要があります。納品前にインストール作業とオペレーターアクセスを確認してください。
利用可能な選択肢は選択した構成によって異なります。含まれる選択内容とオプション価格はコンフィギュレーターでご確認ください。
このサービスファミリーに関する具体的な回答。
P4 と T4 のオプションを、ソフトウェアのサポートリストとメモリ要件と比較してください。ファミリーの見出しではなく、選択したオプションがアクセラレーター構成を定義します。
いいえ。システム RAM と GPU 自体のメモリは別のリソースです。アクセラレーターオプションとホストメモリオプションを別々に確認してください。
カタログにはオペレーティングシステムとソフトウェアの選択肢が記載されています。必要なフレームワーク、ドライバー、インストール作業をデプロイ計画の一部として確認してください。
アプリケーションがサポートするアクセラレーター、ドライバー、オペレーティングシステムの要件を確認してください。サーバー仕様に GPU が記載されていることは、すべてのエンジンとの互換性を確立するものではありません。
GPU の選択だけでなく、CPU プラットフォームとネットワークポートも比較してください。大規模なデータ転送を伴うワークロードでは、計算負荷の高いローカルバッチとは異なるバランスが必要になる場合があります。
公開されている Tensor の選択肢には Tesla P4 と T4 が記載されています。その他のアクセラレーターや複数 GPU はカタログの選択肢に含まれておらず、別途検証された構成が必要です。
選択した GPU、ドライバー、ツールキット、フレームワークのバージョンをまとめて確認してください。インストールと動作するテストジョブの確認が必要です。NVIDIA アクセラレーターが記載されているからといって、フレームワークが事前構成されているわけではありません。
FFmpeg、ハードウェアエンコードのサポート、ワークフローに必要なコーデックを評価してください。HLS、DASH、WebRTC、RTMP のサポートはデプロイするソフトウェアに依存し、ストリーム数やレイテンシーは約束されません。
プランにはポート、無制限トラフィック、5 つの IP が記載されています。root または管理者アクセス、リカバリ制御、ベースライン保護についてオペレーターに確認してください。追加 IP とソフトウェアオプションは別です。
リソースを選択。アイデンティティの制御を維持。