انویدیا در راستای گسترش اکوسیستم هوش مصنوعی خود از چت ربات Chat with RTX برای سیستم های مبتنی بر سیستم عامل ویندوز رونمایی کرده است.
به نظر می رسد که انویدیا به دنبال معرفی یک جایگزین ChatGPT برای اکوسیستم PC RTX GPU است که به صورت رایگان در اختیار کاربران قرار خواهد گرفت. چت با RTX یک ربات چت برای رایانه های شخصی ویندوزی است که از قدرت پردازش هسته های TensorRT-LLM استفاده می کند. این به صورت رایگان بر روی آخرین کارت های گرافیک توسعه یافته است RTX در دسترس است.
استفاده از چت با ربات چت RTX بسیار ساده است. این برنامه به عنوان یک سیستم محلی طراحی شده است که همیشه با یک چت ربات GPT سفارشی استفاده می کنید. شما با کامپیوتر خود مواجه خواهید شد که نیازی به آنلاین بودن ندارد. چت با RTX را می توان با استفاده از داده های پردازش شده در سیستم های کاربران کاملا شخصی سازی کرد. خبر خوب دیگر این است که تمام کارت های گرافیک سری RTX 40 و RTX30 آنها این فرصت را دارند که از توانایی های آن بهره ببرند.
اما در مورد جزئیات عملکرد چت با RTX باید گفت که برای پردازش اپراتورهای هوش مصنوعی در آن از هسته های TensorRT-LLM در سخت افزار انویدیا و نرم افزار Retrieval Augmented Generated (RAG) استفاده می شود. این استفاده ای است که سال گذشته برای رایانه شخصی معرفی شد. این نرم افزار تمام ظرفیت پردازشی هوش مصنوعی را در سخت افزار خانواده دارد RTX برای ارائه بهترین تجربه ممکن به کاربران استفاده می کند.
این اپلیکیشن از تمامی کارت های گرافیک GeForce RTX 30 و RTX 40 با حداقل 8 گیگابایت حافظه گرافیکی پشتیبانی می کند. پس از دانلود رایگان نرم افزار Chat with RTX، برنامه به طور خودکار به مجموعه داده های موجود در سیستم شما (در همه فرمت های txt، pdf، .doc، .docx، .xml) متصل می شود تا آن را به یک مدل متصل کند. مانند Mistral و Llama 2 از آن برای انتشار پاسخ های شخصی استفاده می کنند.
همچنین می توانید URL های خاصی مانند ویدیوهای YouTube را اضافه کنید یا یک لیست پخش کامل را به آن متصل کنید و نتایج جستجوی مجموعه داده را بهبود بخشید. پس از برقراری ارتباط، کاربران می توانند، از ChatGPT برای برقراری ارتباط با Chat With RTX استفاده می شود. اما این بار نتایج به‌دست‌آمده به‌طور کامل بر اساس یک مجموعه داده سفارشی صادر می‌شوند تا نتایج بهتری را برای کاربر نسبت به روش‌های آنلاین جستجو کنند.
داشتن پردازنده گرافیکی سری Nvidia RTX که از هسته‌های TensorRT-LLM پشتیبانی می‌کند به این معنی است که تمام داده‌های مورد نیاز خود را به صورت محلی پردازش می‌کنید و نیازی به ذخیره آنها در فضای ابری ندارید. این کار علاوه بر صرفه جویی در زمان، نتایج صحیح تری را در اختیار کاربر قرار می دهد. ابزار RAG یا Retrieval Augmented Generation نیز یکی از تکنیک‌هایی است که با دسترسی به مجموعه داده‌های داخلی به دستیابی به نتایج هوش مصنوعی سریع‌تر و صحیح‌تر کمک می‌کند.
انویدیا قول داده است که در این ماه به‌روزرسانی جدیدی را برای عملکرد 5 برابر سریع‌تر با استفاده از هسته‌های TensorRT-LLM v0.6.0 منتشر کند. علاوه بر این، LLM های بیشتری مانند Mistral 7B و Nemotoron 3 8B در این به روز رسانی پشتیبانی خواهند شد.
از طریق این لینک می توانید اپلیکیشن Chat with RTX را به صورت رایگان دانلود کنید. این نرم افزار از ویندوز 11 و 10 پشتیبانی می کند و برای استفاده از آن به GPU نیاز دارد دستگاه شما باید به آخرین نسخه درایورهای Nvidia به روز شود.