Në vitet e fundit, prodhuesit e telefonëve kanë reklamuar me entuziazëm fuqinë e re të NPU-ve — çipe të specializuara për detyrat e inteligjencës artificiale që punojnë paralelisht me CPU dhe GPU. Në teori, çdo gjeneratë e re sjell më shumë fuqi llogaritëse, më pak konsum energjie dhe përpunim më të shpejtë të të dhënave. Por, siç vëren një analizë e Ars Technica, këto përmirësime nuk janë përkthyer automatikisht në një përvojë më “inteligjente” për përdoruesin.
Problemi thelbësor është se IA moderne kërkon shumë më tepër sesa një NPU të fuqishëm. Modelet e mëdha gjuhësore dhe sistemet gjenerative — teknologjitë që sot konsiderohen si standardi i inteligjencës artificiale — kërkojnë memorie masive, bandwidth të lartë dhe qindra miliarda parametra që thjesht nuk mund të ngarkohen në një telefon. Për këtë arsye, edhe pajisjet më të avancuara vazhdojnë të mbështeten te cloud-i për procesimin më të rëndë.
Megjithëse prodhuesit publikojnë shifra mbresëlënëse si TOPS (tera operations per second), këto numra shpesh nuk përkthehen në përfitime reale. Këto matje i tregojnë vetëm kapacitetet teorike të çipit — jo atë që telefoni arrin të përpunojë në situata të vërteta, ku kufizime si fuqia e baterisë, nxehtësia dhe RAM-i bëhen pengesë. Pavarësisht kësaj, NPU-t kanë një rol të rëndësishëm. Ata përmirësojnë cilësinë e fotove dhe videove, njohjen e zërit, filtrat vizualë, funksionet e kamerës dhe analiza të shpejta që mund të kryhen pa dërguar të dhënat në serverë. Kjo ul vonesën, rrit privatësinë dhe krijon funksione më të qëndrueshme offline.
Por kur bëhet fjalë për IA gjenerative — përgjigje të avancuara, krijim përmbajtjeje, përkthime të thelluara, kode komplekse — telefonët vazhdojnë të jenë të varur nga serverë të fuqishëm që ndodhen larg. Dhe derisa të krijohen modele të optimizuara posaçërisht për pajisje mobile, hendeku mes potencialit të NPU-ve dhe aftësive reale të IA-së në telefon pritet të mbetet. Në fund, përmirësimi i NPU-ve është pjesë e domosdoshme e evolucionit teknologjik, por jo garanci për inteligjencë artificiale më të mirë. Për këtë nevojitet një ekosistem i tërë optimizimesh — nga softueri te arkitektura e modeleve — që ende është në zhvillim.
Discussion about this post