Google Gemini përdoret për një sërë detyrash në shumë industri, duke përfshirë shkrimin e kodit dhe gjetjen e dobësive të softuerit. Të njëjtat aftësi të modelit gjenerues të AI janë shfrytëzuar gjithashtu nga kriminelët kibernetikë rusë, kinezë, iranianë dhe koreano-veriorë. Kompania Mountain View përshkroi teknikat e përdorura për sulmet (të gjitha të zbuluara dhe të bllokuara).
Google Gemini Jailbreak
Pothuajse të gjithë kriminelët kibernetikë janë përpjekur (pa sukses) të mashtrojnë Binjakët përmes jailbreak. Në praktikë, ata donin të anashkalonin kontrollet e sigurisë së modelit me nxitje (inpute) specifike për të marrë përgjigje të caktuara, të tilla si kodi për të kryer një sulm DDoS dhe për një info vjedhës ose udhëzimet për një sulm phishing kundër Gmail dhe për të anashkaluar metodën e verifikimit kur krijoni një llogari Google.
Gemini u përdor gjatë të gjitha fazave të një sulmi: mbledhja e informacionit rreth objektivit, shkrimi i kodit të malware, shpërndarja, shfrytëzimi i dobësive, instalimi dhe lidhja me serverin C2 (komandë dhe kontroll). Modeli i Google është shfrytëzuar nga më shumë se 10 grupe kibernetike iraniane, më shumë se 20 kinezë, 9 koreano-veriorë dhe 3 rusë.
Pothuajse në të gjitha rastet, kriminelët kibernetikë u përpoqën të përdorin Gemini për të mbështetur aktivitetet e spiunazhit kibernetik kundër agjencive dhe kompanive të qeverisë perëndimore ose të SHBA-së. Mbrojtjet e zbatuara nga Google kanë parandaluar abuzimin e modelit gjenerues të AI. Raportin e plotë mund ta lexoni në faqen zyrtare të internetit.
Discussion about this post