Nvidia ने मंगलवार, 13 फरवरी को इस टूल को जारी किया। कंपनी का कहना है कि यह एक पर्सनल AI चैटबॉट है। सॉफ्टवेयर डाउनलोड करने के इच्छुक यूजर्स को एक Windows PC या वर्कस्टेशन की आवश्यकता होगी जो मिनिमम 8GB VRAM के साथ RTX 30 या 40-सीरीज GPU से लैस हो। एक बार डाउनलोड होने के बाद, ऐप को कुछ क्लिक के साथ इंस्टॉल किया जा सकता है और तुरंत उपयोग किया जा सकता है।
क्योंकि यह एक लोकल चैटबॉट है, Chat With RTX को बाहरी दुनिया का कोई ज्ञान नहीं है। हालांकि, यूजर्स इसे अपने व्यक्तिगत डेटा, जैसे डॉक्युमेंट, फाइल्स इत्यादि के साथ फीड कर सकते हैं और उन पर क्वेरी चलाने के लिए इसे ऑप्टिमाइज कर सकते हैं। ऐसा एक यूज केस यह हो सकता है कि उसे टास्क-संबंधित डॉक्युमेंट की बड़ी फीड की जाए और फिर उसे किसी खास प्रश्न का सारांश, विश्लेषण या उत्तर देने के लिए कहा जाए, जिसे मैन्युअल रूप से ढूंढने में घंटों लग सकते हैं।
यह text, pdf, doc/docx, and xml फाइल फॉर्मेट को सपोर्ट करता है। इसके अलावा, एआई बॉट यूट्यूब वीडियो और प्लेलिस्ट यूआरएल भी स्वीकार करता है और वीडियो के ट्रांसक्रिप्शन का उपयोग करके यह प्रश्नों का उत्तर दे सकता है या वीडियो को सारांशित कर सकता है। इस कार्यक्षमता के लिए, इसे इंटरनेट एक्सेस की आवश्यकता होगी।
डेमो वीडियो के अनुसार, चैट विद आरटीएक्स एक पायथन (Python) इंस्टेंस के साथ एक वेब सर्वर है जिसमें ताजा डाउनलोड होने पर बड़े भाषा मॉडल (एलएलएम) की जानकारी शामिल नहीं होती है। यूजर्स इसे ट्रेन करने के लिए मिस्ट्रल या लामा 2 मॉडल के बीच चयन कर सकते हैं और फिर क्वेरी चलाने के लिए अपने खुद के डेटा का उपयोग कर सकते हैं।
कंपनी का कहना है कि चैटबॉट अपनी कार्यक्षमता के लिए रिट्रीवल-ऑगमेंटेड जेनरेशन (RAG), TensorRT-LLM और RTX एक्सेलेरेशन जैसे ओपन-सोर्स प्रोजेक्ट्स का लाभ उठाता है।