Industria e inteligjencës artificiale është kapur pas idesë se më shumë fuqi llogaritëse + modele më të mëdha = përparim i pakushtëzuar. Por një studim i MIT Massachusetts Institute of Technology — një nga universitetet më të njohura dhe prestigjioze në botë, i vendosur në Cambridge, Massachusetts (SHBA) sjell një paralajmërim: ky komb është ndaj klifit — sepse përparimet e vogla në fuqi mund të mos sjellin përmirësime të mëdha, dhe kostot mund të bëhen të paqëndrueshme.
Hulumtuesit nga MIT analizuan se si ligjet e skalimit (scaling laws) — idetë që thonë se duke rritur fuqinë e trajnimit dhe madhësinë e modeleve do të vijë përmirësimi — po fillojnë të takojnë kufijtë e tyre. Ata zbuluan se brenda 5-10 viteve, avantazhet e modeleve shumë të mëdha mund të kritikohen nga zgjerimi i modeleve më të vogla dhe efikasiteti—algoritme më mirëoptimizuara dhe harta të përllogaritura mirë mund të kapërcejnë barrierat që sot duken të pamundura.
Një nga rastet që e vërteton këtë është modeli i DeepSeek me kosto të ulët, i përmendur nga studiuesit si një shembull që tregon se nuk duhet gjithmonë të “digjesh” GPU dhe energji në modele gjigande për të arritur performancë të lartë. Kjo sugjeron se kompanitë e mëdha që investojnë miliarda dollarë në infrastrukturë AI duhet të analizojnë mirë se si përdorin këto burime dhe të mos shënojnë avancime vetëm me të mëdha.
Studimi gjithashtu vëren se shumë nga marrëveshjet e fundit për infrastrukturë, që shpresojnë në performancën e modele të mëdha, mund të jenë të bazuara mbi parashikime që nuk do të mbeten të vërteta në afat të gjatë — veçanërisht për modelet që kanë kërkesa të mëdha për inferencë (përpunim gjatë përdorimit) dhe përdorin GPU që dp ndjeshëm në çmim dhe konsumin e energjisë.
Deri tani, kompanitë po deklarojnë se “bota ka nevojë për më shumë compute”, duke vendosur partneritete dhe investime masive në qendra të të dhënave, çipe speciale dhe kapacitete GPU. Por MIT paralajmëron se kjo mund të mos jetë strategjia më e zgjuar për gjithçka — ndonjëherë efikasiteti në algoritme dhe optimizime mund të jenë urëkalimi për tejkalimin e kostove të skalimit.
Në përfundim, industria e AI-së po qëndron përballë një udhe që kërkon gjykim më të mirë: a është zgjatja e fuqisë dhe madhësisë vlerë reale, ose thjesht një garë që po shkon drejt një klifi ekonomik dhe teknik? Studiuesit nga MIT rekomandojnë investime më të balancuara në optimizim, reduktim të shpërdorimeve dhe më shumë fokus në avantazhet që vijnë jo nga madhësia, por nga inteligjenca në dizajn dhe funksionim.
Discussion about this post