ChatRTX, i njohur më parë si Chat with RTX, tani mbështet më shumë modele të AI. Chatbot i NVIDIA, i shpallur në mes të shkurtit, ju lejon të merrni përgjigje duke përdorur të dhënat tuaja personale si hyrje. Privatësia është e garantuar sepse informacioni nuk dërgohet në re.
ChatRTX mbështet modele të tjera me burim të hapur
ChatRTX ju lejon të keni një chatbot të personalizuar në kompjuterin tuaj. “Aplikacioni demo”, siç përkufizohet nga NVIDIA, shfrytëzon procesin RAG (Rikthim-Augmented Generation) për optimizimin e prodhimit të LLM (Large Language Model), teknologjinë TensorRT-LLM të zhvilluar nga kompania kaliforniane dhe fuqinë e GPU-të e serive RTX 40 dhe 30 Përdoruesi duhet të ketë një PC me një nga këto GPU (të paktën 8 GB memorie), minimumi 16 GB RAM dhe Windows 11.
Ekzekutimi lokal siguron performancë, siguri dhe privatësi. ChatRTX mbështet modelet Mistral 7B të Mistral AI dhe Llama 2 të Metës menjëherë. NVIDIA tani ka shtuar Google Gem dhe ChatGLM3. Përdoruesi mund të përdorë tekstin dhe dokumentet si kërkesa (hyrje), të cilave u shtohen imazhet tani, falë njohjes së kryer nga modeli CLIP (Contrastive Language-Image Pre-training) i zhvilluar nga OpenAI.
Më në fund, duke përdorur njohjen e zërit të Whisper (OpenAI) është e mundur të dërgohen hyrje vokale në chatbot. ChatRTX është falas dhe mund të shkarkohet nga faqja e internetit NVIDIA. Përveç kërkesave të mësipërme, ju duhet gjithashtu hapësirë e mjaftueshme në disk (arkivi ZIP zë 11,6 GB).
Discussion about this post