Kad GPU mērogojas, tīkli nosaka rezultātu
AI ieiet laikmetā, kurā kopas aug ātrāk, nekā kāds gaidīja. Tūkstošiem GPU kļūst par desmitiem tūkstošu, un tad nākamais solis ir vienkārši vairāk. Tomēr daudzas komandas atklāj neērtu patiesību: skaitļošanas pievienošana ne vienmēr palielina veiktspēju. Pieaugot modeļiem, palielinās komunikācijas izmaksas, sinhronizācija kļūst smagāka un tīkls kļūst par klusu sašaurinājumu.
Šeit parādās jauns noteikums. Mūsdienu mākslīgā intelekta apmācībā patiesie griesti bieži vien nav paātrinātājs,{1}}bet gan materiāls. Ja jūsu starpsavienojums nevar sekot līdzi, jūs maksājat par dārgu aprēķinu, kas gaida, dīkstāvē un patērē enerģiju, nesniedzot rezultātus.
Kāpēc mākslīgā intelekta audumiem nepieciešams 1,6 T-klases optiskais lēciens
AI audumi ir izstrādāti vienai misijai: saglabājiet datu kustību mērogā. Tomēr tradicionālās starpsavienojumu paaudzes nebija paredzētas masveida izplatītas apmācības komunikācijas intensitātei. Sastrēgumi, lielāks latentums zem slodzes un mērogošanas berze parādās tieši tad, kad jums visvairāk nepieciešama stabilitāte.
1,6 T optiskais slānis nav jauninājums skaitļu dēļ. Tā vietā tā ir praktiska atbilde uz mūsdienu AI realitāti: lielāka satiksme austrumu–rietumu virzienā, blīvāka pārslēgšanās un stingrāki jaudas aploksnes. Kad auduma joslas platums palielinās, klasteris kļūst vairāk skaitļojošs un mazāk jāgaida.
Šis lēciens arī nodrošina elpu jauninājumiem. Inženieri var izpētīt jaunas paralēlizācijas stratēģijas, eksperimentēt ar lielākiem partijas izmēriem un izveidot sarežģītākus modeļus, jo tīkls vairs nav vājākais posms. 1.6T klase ļauj izstrādātājiem koncentrēties uz algoritmiskiem sasniegumiem, nevis tīkla ierobežojumiem.
1.6T OSFP-XD DR8+: paredzēts blīvam, īsam-sasniedzamam AI savienojumam
1,6 T OSFP-XD DR8+ raiduztvērējs ir izstrādāts tā, lai nodrošinātu 1600 G kopējo caurlaidspēju pa viena -režīmu šķiedru ar PAM4 modulāciju, kas paredzēts nākamā AI tīkla atbalstam. Tā OSFP-XD formas faktors nodrošina augstu pieslēgvietu blīvumu, savukārt DR8 arhitektūra dabiski sakrīt ar moderniem lapu un mugurkaula audumiem, kur dominē īsas-sasniedzamības, augstas{10}}caurlaidības saites.
Vēl svarīgāk ir tas, ka tas līdzsvaro veiktspēju ar darbības realitāti. AI datu centri rūpējas par siltuma augstumu, enerģijas sadali un sistēmas stabilitāti, nevis tikai līniju ātrumu. Ja jaudas izkliede ir mazāka par 25 W, modulis ir novietots tā, lai atbalstītu mērogu, nepiespiežot pārveidot jūsu dzesēšanas stratēģiju.
Moduļa atbilstība IEEE 802.3df un saskaņošana ar OSFP-XD vairāku avotu līgumiem nodrošina sadarbspēju. Tas ir karsti pievienojams un atbalsta standarta pārvaldības saskarnes, padarot izvietošanu vienkāršu.
No “neapstrādāta joslas platuma” līdz “izmantojamās klastera efektivitātei”
AI infrastruktūrā atšķirība starp teorētisko joslas platumu un reālo veiktspēju ir viss. Audums uz papīra var izskatīties ātri, tomēr palēnināt apmācību, jo aizkavējas sinhronizācija, nevienmērīgi satiksmes modeļi un pārmērīgas abonēšanas sāpes. Pareizs optiskais savienojums palīdz atgūt zaudēto efektivitāti.
Izmantojot 1,6 T saites, varat palielināt tīkla jaudu katrā portā, vienkāršot topoloģijas plānošanu un samazināt spiedienu uz kabeļu skaitu un apkopošanas slāņiem. Tā rezultātā audums kļūst par veiktspējas veicinātāju, nevis pastāvīgu ierobežojumu. Kabeļu izplešanās samazināšana nozīmē arī vieglāku apkopi un mazāku kļūdu risku jaunināšanas laikā.
Paredzēts operatoriem, kuri mēro AI iztikai
AI datu centri ir ne tikai lielāki, - tie ir arī jutīgāki. Operatoriem ir jārisina milzīga izaugsme, vienlaikus kontrolējot darbības laiku, apkalpojamību un enerģijas izmaksas. Tāpēc 1.6T OSFP-XD DR8+ koncentrējas uz praktiskām izvietošanas prasībām: karstās pieslēgšanas dizains, standartizēts pārvaldības interfeiss (I2C) un datu -centram-draudzīgs darba temperatūras diapazons.
Paplašinoties klasteriem, jums ir nepieciešama infrastruktūra, kas vienmērīgi paplašinās. Jums ir nepieciešama optika, kas nodrošina audumu paredzamu, kopjamu un konsekventu -, īpaši jaunināšanas un jaudas palielināšanas laikā. Modulārā pieeja samazina dīkstāves laiku un sniedz operatoriem pārliecību ieviest jaunu jaudu, nepārtraucot notiekošo darba slodzi.
Kur tas vislabāk iederas
Šis modulis ir lieliski piemērots AI apmācības materiāliem, liela mēroga-secinājumu klasteriem un hipermēroga pārslēgšanas vidēm, kurām nepieciešams augsts blīvums un ātra izlaišana. Tā atbalsta īsas-attiecības optisko starpsavienojumu slāni, kurā plūst lielākā daļa AI trafika, savienojot ātrgaitas slēdžus- un skaitļošanas mezglus starp plauktiem, rindām vai datu zāles segmentiem.
Ja jūsu mērķis ir paātrināt laiku-apmācībai-un uzturēt augstu izmantošanu, optiskajam slānim ir jābūt tikpat attīstītam kā skaitļošanas slānim. Tāda ir 1.6T loma.
Secinājums: izveidojiet AI tīklus, kas neaizkavē AI aprēķinus
AI ieguldījums tiek mērīts GPU, bet AI panākumus mēra caurlaidspējā, stabilitātē un iterācijas ātrumā. Ja audums kļūst par sašaurinājumu, visa kopa zaudē vērtību. 1.6T OSFP-XD DR8+ ir izstrādāts, lai novērstu šo vājo vietu un palīdzētu jūsu AI infrastruktūrai ar pārliecību paplašināties.
Pārejot uz 1,6 T, jūs ne tikai iegādājaties ātrāku moduli. Jūs pērkat audumu, kas atbilst jūsu ambīcijām -, lai jūsu GPU varētu pavadīt vairāk laika treniņiem un mazāk laika gaidīšanai. Ieguldot tālredzīgā-optiskā slānī šodien, jūs varat bez vilcināšanās pieņemt rītdienas modeļu arhitektūru.
