Për vite me radhë, industria e inteligjencës artificiale është përqendruar te modelet që flasin me njerëzit. ChatGPT, Gemini dhe modelet e tjera gjeneruese prodhojnë tekst, kod dhe përgjigje të gjata. Por Diogo Almeida, një prej studiuesve që kontribuoi në teknikat e përdorura për ta bërë ChatGPT më të dobishëm, mendon se kjo nuk është mënyra më efikase për t’i dhënë inteligjencë softuerit.
Almeida është bashkëthemelues i startup-it TypeSafe AI, i cili këtë muaj prezantoi Jev, një model që nuk është chatbot dhe as një Large Language Model (LLM) tradicional. Në vend që të gjenerojë fjali, Jev prodhon vendime të strukturuara dhe probabilitete që programet mund t’i përdorin drejtpërdrejt.
Ideja është relativisht e thjeshtë: një program nuk ka gjithmonë nevojë për një paragraf nga AI. Shpesh i duhet vetëm një përgjigje e tillë si “po”, “jo”, “kalojë”, “refuzoje” ose një probabilitet që tregon sa e sigurt është makina. Kjo e bën modelin më të përshtatshëm për detyra automatizimi, klasifikim, filtrimin e kërkesave dhe vendimmarrje brenda aplikacioneve.
TypeSafe e quan këtë qasje “System One” dhe thotë se Jev është ndërtuar për të marrë vendime të shpejta, të strukturuara dhe me një nivel të matshëm besueshmërie. Kompania pretendon se modeli përgjigjet në rreth 70 deri në 500 milisekonda dhe kushton shumë më pak për përdorim sesa modelet gjuhësore.
Një tjetër ndryshim është mënyra se si trajtohen “halucinacionet”. Një chatbot mund të shpikë një përgjigje sepse është projektuar të prodhojë tekst edhe kur nuk është i sigurt. Jev, sipas TypeSafe, nuk gjeneron tekst të lirë: rezultatet dhe formatet e mundshme përcaktohen paraprakisht dhe çdo vendim shoqërohet me probabilitetin e tij. Kjo nuk do të thotë se modeli nuk mund të gabojë, por pasiguria bëhet pjesë e përgjigjes dhe mund të përdoret nga programi për të vendosur nëse duhet të veprojë apo të kërkojë kontroll njerëzor.
Zhvilluesit po e testojnë pikërisht për këtë arsye. Sipas TechCrunch, Vercel raportoi rezultate 5 deri në 18 herë më të shpejta në një detyrë klasifikimi, ndërsa një zhvillues tjetër gjeti se Gemini ishte pak më i saktë në një test, por Jev ishte 10 deri në 20 herë më i lirë. Këto janë teste të veçanta të zhvilluesve, jo prova se Jev është përgjithësisht më i mirë se modelet e mëdha.
Në thelb, Almeida po propozon një ndryshim të rëndësishëm: AI nuk duhet të jetë gjithmonë një makinë që flet me njerëzit. Mund të jetë edhe një shtresë inteligjence që funksionon në heshtje brenda programeve. Dhe pikërisht kjo ide po tërheq vëmendjen e komunitetit të zhvilluesve.
Discussion about this post