ilבחר
תפריט

תַקצִיר

ככל שהבינה המלאכותית (AI) מתקדמת במהירות, רשתות מרכזי הנתונים המסורתיות מתמודדות עם אתגרים גדולים בעת נשיאת תעבורת AI. ניצול גבוה של רוחב פס ומספר קטן של זרימות פילים יכולים להפוך את איזון העומס הקונבנציונלי לכל-זרימה ללא יעיל, וכתוצאה מכך גודש ואובדן מנות שמגדילים משמעותית את ההכשרה של מודל AI ואת זמני השלמת העבודה. נייר לבן זה בוחן טכנולוגיית ניתוב חכמה דינמית המשלבת מודעות בזמן אמת עם קבלת החלטות-תבונה. הוא משתמש במדידת-איכות של נתיב, בסנכרון מורחב-BGP,-עלויות ריבוי נתיב (WCMP) משוקלל דינמי, הסרת נתיב- חריגה, ו

איזון עומס אוטומטי (ALB) ברמת -זרימת כדי לשפר את תזמון התנועה בסביבות AI. העיצוב משתמש גם בווירטואליזציה כדי לספק בידוד ריבוי-דיירים ומציע תרחישי יישומים והכוונה לתכנון לרשתות מרכזי נתונים יעילות, יציבות וחכמות של AI.

 

מבוא: התפתחות רשת ב-AI תְקוּפָה

 

מדוע רשתות מסורתיות נאבקות עם AI תְנוּעָה

ברשתות מרכזי נתונים מסורתיות, מספר רב של זרימות קטנות מאפשר איזון עומסים בכל-זרימה כדי להשיג הפצה מקובלת והימנעות מגודש גם ללא מודעות- בזמן אמת לתנאי הרשת. תעבורת בינה מלאכותית שונה מאוד: ניצול רוחב הפס גבוה ביותר ולעתים קרובות התנועה נשלטת על ידי רק כמה זרימות פילים. לכן התנגשויות חשיש יכולות להציב מספר זרימות גדולות באותו נתיב בעוד שבילים אחרים נותרים בשימוש חסר. ברגע שמתרחש אובדן מנות, זמן ההשלמה של כל עומס העבודה של AI עשוי לעלות באופן משמעותי. מסיבה זו, התעשייה מתמקדת יותר ויותר באלגוריתמים אופטימליים של איזון עומסים עבור בינה מלאכותית, כך שהתעבורה תתפזר באופן שווה יותר על פני מספר נתיבים.

1

 

איור 1. השוואה בין תנועת פיל-של בינה מלאכותית לבין תעבורת זרימה קטנה- מסורתית.

 

שילוב של מודעות דינמית עם החלטות אינטליגנטיות-קבלת החלטות

ניתוב אינטליגנטי דינמי הוא טכנולוגיה לאיזון עומס-מבוסס{1}}מודעות. הוא משתמש באיכות נתיב הנחושת על ידי מתגים במארג כדי להתאים את בחירת הנתיב המקומית ותומך באיזון עומסים משוקלל דינמי. בנויה על BGP, הטכנולוגיה מגדירה תכונת קהילה מורחבת- חדשה.

מדידות -רב-ממדיות ודיוק גבוהות- משמשות להערכת איכות הנתיב, והתוצאה מופצת דרך BGP כדי להנחות את העברת התנועה הבאה. זה משפר את התפלגות העומס הרחבה- ברשת ומפחית את זמן התגובה של האפליקציה [1].

 

2

 

איור 2. זרימת עבודה דינמית של מודעות, החלטות וביצוע.

 

טכנולוגיות ליבה: תזמון תנועה חכם

 

גישות רגילות לאיזון עומסים- ברשת כוללות:

  • ECMP לכל-זרימה: הגישה הנפוצה ביותר, המבוססת על גיבוב של חמישה-טופלים. זה עובד היטב כאשר יש זרימות רבות ושומר על סדר מנות, אבל התנגשויות גיבוב יכולות לייצר איזון גרוע כאשר ספירת הזרימה נמוכה, כמו באימוני בינה מלאכותית [1].
  • איזון מבוסס-זרימה: תלוי בתצורה נכונה של הפער בין-הזרימה. קשה להגדיר תצורה מדויקת כאשר זמן האחזור ברמת הנתיב הגלובלי- אינו ידוע [1].
  • לכל-מנה ECMP: מספק איזון תיאורטי מצוין אך עשוי ליצור סידור מנות נרחב במקלט [1].

גישת הניתוב החכמה הדינמית המשמשת את מתגי ה-RoCE של XingRongyuan CX-N (מבוססים SONiC-) משלבת איזון לפי-זרימה ECMP ו-Flowlet-. הוא מציג WCMP דינמי (Weighted Cost Multipath) ו-Flowlet-מבוסס ALB (איזון עומסים אוטומטי) [1].

 

מדידת איכות נתיב

המערכת מעריכה את איכות נתיב הרשת באמצעות גורמים המשפיעים מאוד על מאגרי אשכולות בינה מלאכותית, כולל ניצול רוחב פס, ניצול תורים וזמן השהייה להעברה.

מונים סטטיסטיים

רוחב הפס וניצול התורים נמדדים באמצעות מוני חומרה של ASIC עם דיוק ברמה של מאה-מילישניות. ה-ASIC מתעד את מונה-העברה והעברה בתור-בזמן אמת. מישור הבקרה של SONiC קורא את המונים דרך ממשק SAI בדיוק של פחות-שניות ומאחסן אותם ב-Redis. תהליך בקרת הניתוב- מעריך את איכות הממשק באמצעות מונים אלה ומפרסם את התוצאה באמצעות BGP. כדי להגביל את עומס השליטה-במטוס, פרסומות נשלחות כעת במרווחי{10}}רמה שניה, כאשר ממוצע משוקלל מוחל על מספר דוגמאות; דגימות עדכניות יותר מקבלות משקל גבוה יותר.

 

ב-טלמטריית להקה

מדידת העיכוב-העברה מבוססת על INT (In-band Network Telemetry) ויכולה להגיע לרמת דיוק של ננו-שניות-. HDC (High Delay Capture) לוכד מנות שחוות חביון גבוה בתוך ה-ASIC. כאשר מנה חורגת מסף השהיה המוגדר על ידי המשתמש, המתג שולח את 150 הבתים הראשונים של החבילה המקורית יחד עם מטא נתונים, כולל יציאת כניסה, יציאת יציאה והשהייה, לאספן. בתכנון זה, ה-CPU פועל כאוסף ה-HDC והנתח, ומאפשר-דיוק של העברת-מדידות עיכובים והערכת איכות{10}}שביל מדויקת יותר.

 

3

איור 3. התפשטות-איכות של נתיב והתקנת WCMP.

 

הטכנולוגיה משתמשת בתכונה חדשה של BGP מורחבת-קהילה, Path Bandwidth Extended Community, כדי לציין את האיכות המצטברת של נתיב ליעד. בית הסדר הגבוה- של שדה הסוג המורחב- הוא 0x00 ובית הסדר הנמוך- הוא 0x05. בשדה הערך, שדה המשנה 'מנהל כללי גלובלי' מייצג את מספר ה-AS. איכות הנתיב מקודדת בארבעה בתים באמצעות פורמט IEEE נקודה צפה{10} ומבוטאת ב-GB/s .

כאשר NIC1 מתקשר עם NIC2, NIC2 מפרסם לראשונה את כתובת ה-IP שלו ל-Leaf2. Leaf2 מפרסם את הכתובת לעמוד השדרה יחד עם ערך האיכות- של הקישור לכיוון NIC2 כפול משקל Leaf2 downlink. השדרה מוסיף איכות קישור משוקלל משלו ומעביר את הערך המצטבר ל-Leaf1. Leaf1 מסכם את איכות הנתיב ומתקין מסלולים המנחים את ההעברה. במארג Leaf-דו-שכבתי, יציאות מסווגות כ-Leaf uplinks, Leaf downlinks ו-Spine ports, עם מקדמי חישוב הניתנים להגדרה עבור כל מחלקה.

 

WCMP דינמי

איזון עומסים מפיץ תנועה על פני מספר קישורים. בסביבות בינה מלאכותית, זה חיוני לבניית מארג Ethernet נטול אובדן עם אובדן מנות מינימלי, חביון וירידה בתפוקה. ECMP הוא המנגנון המקובל במרכזי נתונים. WCMP מרחיב את ECMP על ידי הפצה

תעבורה פרופורציונלית בין קישורים. בניתוב אינטליגנטי דינמי, משקלי WCMP מותאמים בזמן אמת לפי איכות הנתיב. לדוגמה, אם קיימים שני נתיבים בין NIC1 ל-NIC2, המערכת עשויה לחשב יחס של 3:7. כאשר התנועה משתנה, מידע מעודכן על נתיב- איכותי מופץ דרך BGP לכל מתג עלים, שם נוצרים נתיבי WCMP דינמיים כדי להנחות את ההעברה.

 

הסרת נתיב לא נורמלי

כאשר האיכות המצטברת של נתיב יורדת מתחת לסף מוסכם, הנתיב נחשב ללא שמיש לעומס העבודה של AI ומוסר מהעברה. הנתיבים הנותרים ממשיכים להעביר תנועה דרך WCMP דינמית. ברגע שהנתיב חוזר לקדמותו, הוא משוחזר. למרות שזה עשוי להשאיר באופן זמני חלק מהקיבולת ללא שימוש, זה מונע גודש ואיבוד מנות חמורים יותר [1].

 

איזון עומסים חכם (ALB)

ALB מספקת הפצת עומסים מבוססת-Flowlet. ה-ASIC מודד עומס והשהייה ביציאות שונות בזמן אמת ומפנה כל Flowlet לקישור עם עומס נמוך יותר או עיכוב נמוך יותר. זה מוסיף תזמון- עדין יותר על גבי ECMP המסורתי. ALB תומך גם במעבר לכשל ביציאה ומפיץ מחדש את התעבורה באופן אוטומטי כאשר קישור יציאה נכשל [1].

 

וירטואליזציה

רשתות חזית-זקוקות לרוב לתמיכה בריבוי-דיירים כך שניתן להקצות משאבי GPU שונים למשתמשים שונים. הפתרון משתמש ב-VRF (ניתוב והעברה וירטואלית) כדי לבודד דיירים, כאשר לכל משתמש מוקצה VRF אחד. רשתות משנה הקשורות ל-GPU- ממוקמות ב-VRF של המשתמש, ו-PRE ACLs ב-ASIC מסווגים תעבורה נכנסת כך שתעבורת כל משתמש מועברת רק בתוך ה-VRF המתאים [1].

 

תרחישי יישום

 

1. כיצד WCMP דינמי סופג עליות תנועה

עבור בד עם יציאות GPU של 256 x 400G, ניתן לתכנן ארכיטקטורת Clos דו-עם יחס התכנסות של קישור למטה-ל-על 1:1 כדי לשמור על תפוקה גבוהה, רוחב פס גבוה וקיבולת סימטרית. דגמי מוצר מתאימים כוללים את XingRongyuan CX864E-N או CX732Q-N [1]. תחת ECMP קונבנציונלי, מספר קטן של זרימות פילים בינה מלאכותית עשויות לגיבוב לאותו עמוד שדרה, ולגרום לעומס בקישור למעלה או לאובדן מנות. Dynamic WCMP מתאים באופן רציף את התפלגות התעבורה בהתאם לאיכות הנתיב בזמן אמת-, מפחית את עליית התנועה ומונע עומס [1].

 

2.Flowlet-איזון עומסים ברמה

באותו בד GPU בגודל 256 x 400G, לא כל מכשיר או עומס עבודה מטופלים בצורה הטובה ביותר על ידי WCMP דינמי. המתג יכול לבחור באופן דינמי את ALB המבוסס על Flowlet-. ALB מודד את העומס והשהייה של קישורים בקבוצת ECMP ושולח Flowlets לקישורים עם ניצול נמוך יותר או עיכוב. אם ממשק נהיה עומס יתר או עיכוב ההעברה שלו עולה, ה-ASIC נמנע אוטומטית מהיציאה הזו עד שהתנאים יחזרו לנורמליים [1].

 

תכנון ועיצוב רשתות בינה מלאכותית

 

שירותי בינה מלאכותית כוללים בדרך כלל שלושה שלבים: איסוף נתונים ועיבוד מקדים, אימון מודלים והסקת AI. כל שלב מטיל דרישות שונות על הרשת.

 

1. איסוף נתונים ועיבוד מוקדם

רשת הדרכה גלובלית-לאיסוף נתונים ועיבוד מקדים חייבת לספק משאבי IP ציבוריים ורוחב פס בקנה מידה גדול וגמיש, כך שניתן יהיה לאסוף ביעילות מערכי נתונים גולמיים מאסיביים מהאינטרנט הגלובלי. התכנון חייב להבטיח שידור מאובטח ויציב תוך שיפור צבירת נתונים וביצועי עיבוד מקדים [2].

 

1.1 פילוח VPC

עיצוב VPC לאיסוף נתונים מבוסס-ענן צריך לעקוב לפחות-הרשאות, בידוד שכבות, בקרת אבטחה ועקרונות מדרגיות אלסטית. ניתן להשתמש במספר VPCs או במספר רשתות משנה בתוך VPC יחיד [2].

  • פילוח לפי שלב שירות: פרוס איסוף נתונים, עיבוד מקדים, אחסון, הדרכה והסקת מסקנות ברשתות משנה נפרדות או VPCs. מקם נקודות כניסה לאיסוף ב-DMZ VPC או רשת משנה ציבורית; מיקום עיבוד מקדים ונתונים זמניים ב-VPC ייעודי לעיבוד; הצב נתונים גולמיים רגישים והדרכה בינה מלאכותית ב-VPC-ברמת אבטחה גבוהה ללא גישה ישירה לציבור.
  • בידוד לפי רמת אבטחה: צור VPCs או רשתות משנה באבטחה גבוהה-, בינונית- ונמוכה- והשתמש בקבוצות אבטחה, רשתות ACL וקישוריות פרטית כדי לשלוט בתעבורת-VPC חוצה-תת רשתות.
  • לבודד לפי דייר או פרויקט: הקצה VPCs נפרדים לדיירים או פרויקטים שונים כדי לבודד משאבים, רשתות ונתונים.

 

1.2 רשת יציאה לאיסוף נתונים

שער NAT: השתמש במאגר של EIPs ו-SNAT דרך שער NAT, המאפשר לתוכניות איסוף לגשת לאינטרנט מכתובות IP ציבוריות שנבחרו באקראי.

Proxy בנוי עצמי-: פרוס שרתי Proxy השומרים על מיפויים בין תהליכי איסוף וכתובות IP ציבוריות, והפצת בקשת איסוף יחידה על פני מספר פרוקסי.

ספק שירותי IP: התחבר לספק שירותי IP דרך הרשת הפרטית בענן לעלות נמוכה יותר, אבטחה מבוקרת ואיכות יציבה [2].

 

1.3 צבירת נתונים חוצה-אזור ועיבוד מקדים

בחר את אזור ה-OSS בהתאם לתוכנית-העיבוד המקדים וצור VPC לצבירה-נתונים באותו אזור. צור נתב מעבר (TR) בכל אזור, חבר את ה-VPCs המקומי, וחבר את ה-TRs כך ש-VPCs לאיסוף אזורי יוכלו לגשת ישירות ל-OSS המרכזי. שירותים כגון PAI-iTAG, MaxCompute ו-Flink יכולים לאחר מכן לבצע תיוג נתונים ועיבוד מקדים באזור OSS [2].

 

2. רשת הדרכה למודלים

רשת ההדרכה-של המודל משולבת באופן הדוק עם רשת האיסוף והעיבוד המקדים כדי ליצור מארג גלובלי שמחבר בין מרכזי נתונים בענן, צמתים קצה ו-מרכזי תקשורת מקומיים.

חיבור{0}}במהירות גבוהה מספק תנועת נתונים-נמוכה,-תפוקה גבוהה, בעוד שרוחב פס, מדיניות אבטחה, בקרות גישה והתאוששות מאסון חייבים להיות מתוכננים מקצה לקצה [2].

  • ב-אזור חוצה-מאגר מחשוב של אשכולות: נתב תחבורה ציבורית מחבר מספר VPCs באותו אזור. שרת ENI מתחבר למתגי VPC וניתן להגדיר אותם עבור התפוקה הנדרשת ו-RDMA.
  • מאגר מחשוב-צולב בענן: מעגלים ייעודיים מחברים IDC או ענן אחר לאותו -אזור VPC. Alibaba Cloud VBRs מתחברים בשכבה 3 למכשיר העמית, עם BGP, BFD ו-failover מהיר להתכנסות מהירה.

מאגר מחשוב גלובלי: קישורי אזורים צולבים- בין TRs מסופקים לפי שיא התעבורה בין-אזור, עם QoS בין-אזור אופציונלי ליצירת מאגר מחשוב מאוחד בין אזורים [2].

 

3. רשת שירות גלובלית-

רשת מסקנות גלובלית בוחרת מודלים של פריסה בהתאם למשאבים ולשירותי הענן הזמינים בכל אזור ומספקת הפצה וגישה יעילה של שירותים [2].

  • פריסת מודל או סוכן: השתמש בפריסת Model Studio MaaS, PAI-EAS או Function Compute PaaS, או פריסת IaaS על EGS, ACK, ACS או Lingjun -תשתית מתכת חשופה בתוך ה-VPC של הלקוח.
  • הפצת שירותים: צור VPC להפצה- וחבר רשתות פרטיות באמצעות VPC Peering, שירותי VPC הקשורים לענן- או PrivateLink. פרוס ALB או ALB משופר כנקודת גישה ובקשות פרוקסי לדגמים או סוכנים שונים.
  • גישה לשירות: משתמשי אינטרנט מקומיים יכולים לגשת ישירות ל-ALB משופר; משתמשים מרוחקים יכולים להשתמש ב-Global Accelerator (GA); משתמשי Alibaba Cloud ארגוניים פנימיים או חיצוניים יכולים להתחבר באופן פרטי דרך PrivateLink.

 

מסקנה ואאוטלוק

 

נייר לבן זה מסביר את האתגרים העומדים בפני רשתות IDC בעידן הבינה המלאכותית וכיצד ניתוב אינטליגנטי דינמי יכול להתמודד איתם. מודעות דינמית, קבלת החלטות{{1} מושכלת, וירטואליזציה של WCMP, ALB ו-VRF משפרים את יעילות-איזון העומס, מפחיתים עומס ואובדן מנות ומאיצים אימון והסקת AI. קטע התכנון מדגיש פילוח VPC, איסוף-עיצוב יציאה, צבירה- בין אזורים ועיבוד מקדים, הדרכת מודלים והספקת מסקנות גלובליות. ככל שה-AI ממשיך להתפתח, רשתות מרכזי הנתונים יעמדו בפני דרישות מחמירות יותר. ניתוב אינטליגנטי דינמי ימשיך להשתפר עבור AI קצה, למידה מאוחדת ותרחישים מורכבים אחרים. רשתות IDC עתידיות ישימו דגש רב יותר על התכנסות-רשתות מחשוב, יעילות אנרגטית ופעולות אוטומטיות, וייצרו בסיס אינטליגנטי, יעיל ואמין יותר לכלכלה הדיגיטלית.

 

הפניות

מסמך מקור טכני-שסיפק על ידי המשתמש.

ספר לבן של Alibaba Cloud AI Network. נגישה ב-27 במאי 2026.

https://help.aliyun.com/zh/cloud-רשת-מעוצבת היטב-בעיצוב-design/alibaba-cloud-ai-רשת-לבן-

 

 

שלח החקירה