Rritja e përdorimit të Inteligjencës Artificiale (IA) ka sjellë një nevojë të madhe për superkompjuterë dhe qendra të mëdha trajnuese të të dhënave, të njohura ndryshe si “fabrikat e AI”. Në këtë kontekst, lidhja ndërmjet komponentëve të sistemit – CPU, GPU dhe accelerators – po bëhet një nga hallkat më të rëndësishme të performancës.
Tradicionalisht, performanca vlerësohej mbi bazën e bërthamave të procesorëve ose fuqisë së GPU-ve, por sot qendrat masive të trajnuara për IA kërkojnë rrjete me shpejtësi të jashtëzakonshme dhe latencë minimale mes komponentëve.
Standardet dhe garat globale
Në këtë treg po përplasen dy lloje standardesh: ato të mbyllura dhe ato të hapura.
– Një nga standardet më të forta të mbyllura, i mbështetur nga Nvidia dhe i njohur si InfiniBand, kontrollohet nga një grup i kufizuar kompanish dhe ofron performancë të lartë për qendrat masive të të dhënave.
– Një tjetër front është përpjekja e standardeve të hapura, përfshirë Ethernet-in e avancuar me protokolle si RoCE (RDMA over Converged Ethernet), që po forcohet nga konsorciume globale si Ultra Ethernet Consortium (UEC), ku bëjnë pjesë AMD, Broadcom, Cisco, HPE, Intel, Meta dhe Microsoft. Qëllimi është krijimi i një standardi të hapur, interopereues dhe të shkallëzueshëm për superkompjuterët e së ardhmes.
Një tjetër lojtar kyç është Huawei, me arkitekturën e saj “UnifiedBus”, e dizajnuar për të përballuar latencë të ulët në sistemet shumë të mëdha dhe qendrat SuperClusters me qindra mijë GPU/CPU.
Sfida teknike
Një sfidë kryesore është konsumimi i energjisë në sinjalizimin e bakrit – kur sistemi zgjerohet, sinjalet duhet të udhëtojnë më shumë, gjë që rrit energjinë e nevojshme. Zgjidhjet e reja si Co‑Packaged Optics (CPO) mund të ulin konsumin e energjisë dhe të rrisin performancën e lidhjeve në shkallë masive.
Impikimet
Për kompanitë që ndërtojnë qendra të mëdha AI, performanca nuk varet vetëm nga fuqia e përpunimit, por nga sa shpejt dhe me efikasitet mund të transferohen të dhënat mes komponentëve. Kontrolli i standardeve dhe teknologjive të interconnect-ve mund të japë avantazh të madh në kosto, latencë dhe energji.
Kompani dhe vende që investojnë në teknologji dhe infrastruktura të shkallëzueshme do të jenë më afër liderëve globalë në Inteligjencë Artificiale dhe superkompjuterë.
Discussion about this post