Meta ka zgjedhur të ndiqet rruga e modellerave gjenerues “open source” me Llama, familje modeli që zhvillohet me qëllim të aksesit të gjerë. Ndryshe nga shumë modele të tjera (si GPT, Claude apo Gemini), Llama mund të shkarkohet dhe përdoret nga zhvillues në kushte të caktuara.
Versioni më i fundit, Llama 4, përfshin tre modelet kryesore:
- Scout — 17 miliardë “active parameters”, dritare konteksti 10 milion tokena
- Maverick — 17 miliardë aktive, 400 miliardë totale, dritare konteksti 1 milion tokena
- Behemoth — ende në zhvillim, me parametra të mëdhenj aktivë dhe totalë
Llama përdor arkitekturë “mixture-of-experts” që e bën përpunimin më efikas dhe skalon pjesëtarë ekspertë për çdo situatë.
Modelet e Llama janë hartuar për të përpunuar tekst, imazhe dhe video, dhe për të zgjidhur detyra si:
- Përmbledhje dokumentesh
- Përgjigje pyetjesh
- Përkthime
- Kodim dhe asistim teknik
- Integrim me API dhe vegla të tjera ekzistuese
Scout synohet për punë me të dhëna masive; Maverick për përdorim të përditshëm dhe chatbote; Behemoth për kërkime dhe projekte të avancuara.
Zhvilluesit mund të shkarkojnë Llama ose ta përdorin përmes partnerëve cloud si AWS, Google Cloud apo Azure. Meta ka lidhur marrëveshje me mbi 25 host-e për ta bërë modelin të disponueshëm publikisht.
Megjithatë, aplikacionet me mbi 700 milionë përdorues në muaj duhet të marrin leje speciale nga Meta për përdorimin e modelit.
Për të adresuar rreziqet e përmbajtjes së papërshtatshme, Meta ka prezantuar disa shtresa mbrojtëse:
- Llama Guard — filtrim për përmbajtje të dëmshme
- Prompt Guard — mbrojtje nga injektimi i komandave që mashtrojnë modelin
- CyberSecEval, Llama Firewall, Code Shield etj.
Por modeli nuk është pa probleme: ai mund të gjenerojë informacione të pasakta (hallucinations), të prodhojë kod me gabime ose të shfaqë fragmente që mund të shmangen mes të drejtave të autorit.
Discussion about this post