תנו לעומסים מואצים סביבה פיזית משלהם בשווייץ. Tensor משלבת אפשרויות NVIDIA Tesla עם משאבי שרת ייעודיים לתהליכי הסקה, רינדור ועיבוד GPU תואמים.
חומרת GPU ייעודית המשלבת שני מעבדי Xeon E5-2680 v4, תצורת Tesla P4 / T4 GPU מפורטת, 64 GB של זיכרון DDR4 ו-SSD של 1 TB. מפרט הרשת הוא פורט 1 Gbps עם תעבורה ללא מדידה.
תצורת GPU עם פורט 10 Gbps עבור פרויקטים מואצים שמעבירים גם מערכי נתונים גדולים יותר. החומרה המפורטת כוללת שני מעבדי Xeon E5-2680 v4, כרטיסי Tesla P4 / T4, 64 GB של זיכרון DDR4 ו-SSD של 1 TB.
שני מעבדי Xeon Gold 6134 מלווים את תצורת Tesla P4 / T4 GPU המפורטת למחשוב מואץ ייעודי. תוכנית זו כוללת 64 GB של זיכרון DDR4, SSD של 1 TB ופורט 1 Gbps עם תעבורה ללא מדידה.
השוו את המפרטים המפורטים ומחירי הבסיס. הזמינות הסופית, האספקה והמס החל מאושרים בהצעת המחיר שלכם. האיורים הם קונספטואליים.
הבינו מה הופך את משפחת השירותים הזו לשימושית.
טווח Tensor מפורט כ-bare metal. תכננו את מערכת ההפעלה, הדרייברים ומערך היישומים סביב החומרה הנבחרת ולא סביב מופע וירטואלי גנרי.
התצורה מבדילה בין אפשרויות NVIDIA Tesla P4 ו-T4. השוו את זיכרון ה-GPU המפורט מול המודל או המשימה שברצונכם להריץ.
תהליך עבודה של GPU זקוק גם לזיכרון מארח, להכנת נתונים ולאחסון. סקרו את פלטפורמת ה-Xeon ובחרו תוספות RAM או דיסק היכן שמועיל.
השוו את מאפייני הפורט והתעבורה בין תצורות Tensor. ייבוא מערכי נתונים והפצת פלט יכולים להיות חשובים לא פחות מהמאיץ עצמו.
הריצו עומסי הסקה שה-framework, הדיוק ודרישות הזיכרון שלהם תואמים למאיץ ה-NVIDIA הנבחר.
הכינו תהליך רינדור או עיבוד חזותי לאחר בדיקת התאימות של המנוע ל-GPU ולדרייברים.
השתמשו ביישום מודע-מאיץ למשימות חוזרות של תמונה, מדיה או חישוב על נתונים שאתם רשאים לעבד.
לפני בחירת שרת, בדקו אם היישום ונתוני העבודה שלו נכנסים לזיכרון המאיץ הנבחר. ארכיטקטורת המודל, הדיוק וגודל האצווה משפיעים כולם על דרישה זו. אפשרות גדולה יותר של זיכרון RAM מארח אינה מגדילה אוטומטית את הזיכרון של ה-GPU עצמו.
בחרו מערכת הפעלה הנתמכת על ידי התוכנה שלכם, ואז אמתו את דרישות הדרייבר וה-framework של NVIDIA. עיבוד מקדים של CPU, קריאות אחסון והעברת נתונים יכולים להגביל תהליך עבודה גם כשהמעבד GPU מתאים. בצעו בנצ'מרק למשימה מייצגת לפני תזמון עבודת ייצור גדולה.
Tensor נותנת לכם מיקום שווייצרי עבור מערך יישומים שאתם מגדירים. החליטו מי רשאי לגשת למערכי נתונים, למודלים ולתוצאות, והרחיקו חומר רגיש מתיקיות ציבוריות. השתמשו בתוכנה ברישיון ובמערכי נתונים מורשים; נוכחות GPU אינה מרמזת על שירות AI חיצוני או על טענת עיבוד נתונים.
התייחסו למאיץ, לדרייבר וליישום הנבחרים כהחלטת תאימות אחת. עבודה מבוססת CUDA, TensorFlow או PyTorch, עיבוד מדעי ורינדור GPU זקוקים לשילוב תוכנה נתמך. תהליכי וידאו עשויים להשתמש גם ב-FFmpeg ובקידוד חומרה, אך יש לבדוק קודקים נתמכים ותפוקה מעשית עבור P4 או T4 הנבחרים. אשרו עבודת התקנה וגישת מפעיל לפני האספקה.
האפשרויות הזמינות תלויות בתצורה הנבחרת. ראו בחירות כלולות ומחירי אפשרויות בתצורת ההגדרה.
תשובות ספציפיות למשפחת שירותים זו.
השוו בין אפשרויות P4 ו-T4 מול רשימת התמיכה של התוכנה שלכם וצורכי הזיכרון. האפשרות הנבחרת, ולא הכותרת של המשפחה, מגדירה את תצורת המאיץ.
לא. זיכרון RAM המערכתי והזיכרון של ה-GPU עצמו הם משאבים שונים. סקרו את אפשרות המאיץ ואת אפשרות זיכרון המארח בנפרד.
הקטלוג מפרט בחירות מערכת הפעלה ותוכנה. אשרו כל framework, דרייבר ועבודת התקנה נדרשים כחלק מתוכנית הפריסה שלכם.
בדקו את דרישות המאיץ, הדרייבר ומערכת ההפעלה הנתמכות של היישום. GPU המפורט במפרט שרת אינו מבסס תאימות לכל מנוע.
השוו את פלטפורמת ה-CPU ופורט הרשת כמו גם את בחירת ה-GPU. עומס עם העברות נתונים גדולות עשוי להזדקק לאיזון שונה מאצווה מקומית עתירת מחשוב.
אפשרויות Tensor המפורסמות מפרטות Tesla P4 ו-T4. מאיצים אחרים או מספר GPUs אינם בחירות קטלוג כלולות וידרשו תצורה מאומתת בנפרד.
בדקו יחד את גרסאות ה-GPU, הדרייבר, ערכת הכלים וה-framework הנבחרים. התקנה ועבודת בדיקה עובדת דורשות אישור; פירוט מאיץ NVIDIA אינו הופך framework למוגדר מראש.
העריכו FFmpeg, תמיכת קידוד חומרה והקודקים הנדרשים לתהליך העבודה שלכם. תמיכה ב-HLS, DASH, WebRTC או RTMP תלויה בתוכנה שאתם פורסים, ואין הבטחה למספר זרמים או השהיה.
התוכנית מפרטת את הפורט שלה, תעבורה ללא מדידה וחמישה IPs. אשרו גישת root או מנהל, בקרות שחזור והגנת בסיס מול המפעיל; אפשרויות IP ותוכנה נוספות הן נפרדות.
יש להתחשב במשקלים, אקטיבציות, מטמונים וחוצצים זמניים, ואז לבדוק את עומס השיא ולא רק את קובץ המודל.
קרא את המדריךהפרד הסקת מודל מתזמור, התאם את גודל ה-worker בפועל והגבל מה שהכלים שלו יכולים לשנות לפני העלאת תהליך עבודה מבוסס AI לשרת.
קרא את המדריךבחר את המשאבים שלך. שמור על שליטה בזהות שלך.