AI gjeneruese kërkon një sasi të madhe energjie dhe uji si gjatë fazës së trajnimit të modelit ashtu edhe gjatë përdorimit të chatbot-eve. Washington Post dhe studiuesit në Universitetin e Kalifornisë (Riverside) vlerësuan konsumin e ChatGPT kur shkruanin një email të gjatë 100 fjalë me modelin GPT-4.
Sa konsumon ChatGPT?
Kur një përdorues i kërkon ChatGPT të shkruajë një email me 100 fjalë, kërkesat (hyrjet) përpunohen në serverë të vendosur në qendrat e të dhënave (në rastin e OpenAI, ato janë kryesisht ato të shërbimit Azure të Microsoft). Përdorimi i serverëve gjeneron nxehtësi e cila eliminohet nga sistemet e ftohjes së ujit. Përveç fuqizimit të drejtpërdrejtë të serverëve, energjia elektrike përdoret gjithashtu për të ulur temperaturën e brendshme të qendrave të të dhënave.
Konsumi i ujit varet nga vendndodhja gjeografike e qendrave të të dhënave. Sipas studiuesve në Universitetin e Kalifornisë (Riverside), ai në shtetin Uashington (ku ndodhet selia e Microsoft) konsumon 1,468 mililitra ujë, ose rreth 1,5 litra për të gjeneruar një email të gjatë 100 fjalë. Ai në Teksas konsumon 235 mililitra.
Mesatarisht, gjenerimi i emailit kërkon 519 mililitra ujë. Duke marrë parasysh të paktën një kërkesë në javë për një vit nga një në 10 punëtorë amerikanë (rreth 16 milionë njerëz), konsumi i ujit kalon 435 milionë litra, ose uji i konsumuar nga të gjitha familjet e Rhode Island në 1,5 ditë.
Shkrimi i emailit kërkon gjithashtu 0,14 kWh energji elektrike, ekuivalente me ndezjen e 14 dritave LED për një orë. Duke marrë parasysh të paktën një kërkesë në javë për një vit nga një në 10 punëtorë amerikanë (rreth 16 milionë njerëz), konsumi i energjisë tejkalon 121 MW, ekuivalente me energjinë elektrike të konsumuar nga të gjitha familjet në Distriktin e Kolumbisë në 20 ditë.
Modelet e AI janë gjithnjë e më të mëdha (miliarda parametra), kështu që nevojiten serverë gjithnjë e më të fuqishëm për të shpejtuar trajnimin. Qendrat e të dhënave të përdorura nga Microsoft për trajnimin GPT-3 (pra jo më e fundit) konsumuan mbi 700,000 litra ujë, e njëjta sasi e nevojshme për të prodhuar afërsisht 100 paund (45 kg) mish viçi.
Në vend të kësaj, Meta konsumoi 22 milionë litra ujë për të trajnuar Llama 3, e njëjta sasi e nevojshme për të prodhuar rreth 4,439 paund (2,013 kg) oriz. Të gjitha Big Tech kanë premtuar të reduktojnë emetimet e gazrave serrë, por me ardhjen e chatbot-eve do të jetë shumë e vështirë të arrihen objektivat (Microsoft do të përdorë edhe një termocentral bërthamor).
Discussion about this post