NVIDIA управо је објавио бесплатну демо цхатбот која ради локално на вашем рачунару. Ово је веома згодно јер омогућава цхатботу приступ вашим датотекама и документима. Можете обезбедити Ћаскање са РТКС-ом одређене личне податке и замолите га да на основу тих података креира биографију. Такође можете да му постављате питања као и било ком роботу за ћаскање и он ће заронити у ваше податке за одговоре.
Компанија каже да омогућава корисницима да „брзо и лако повежу локалне ПЦ датотеке као скуп података са великим језичким моделом отвореног кода као што су Мистрал или Ллама 2“. NVIDIA даје пример корисника који пита четбота о ресторану који је препоручио партнер док је у Лас Вегасу. Софтвер скенира локалне датотеке да пронађе одговор. Подржава низ формата датотека укључујући .ткт, .пдф, .доц, .доцк и .кмл. Компанија каже да учитава релевантне датотеке у свој скуп података „у секунди“.
Ћаскање са РТКС-ом такође интегрише видео записе и листе песама YouTube. Можете додати УРЛ видео снимка скупу података и он ће интегрисати знање садржано у видеу за контекстуалне упите. NVIDIA каже да ће бити корисно када тражите препоруке за путовања „на основу садржаја из омиљених видео снимака утицајних људи“ или када тражите туторијале и резимее изведене из образовних извора.
Ово звучи као велики корак ка нечему попут правог дигиталног асистента који ради у контексту ваших личних података. Већина цхат робота шаље податке у облак, али Цхат витх РТКС „омогућава корисницима да обрађују осетљиве податке на локалном рачунару без потребе да их деле са трећом страном или имају интернет везу“. Дакле, то је сигурнија и више контекстно оријентисана комуникација.
Постоје нека ограничења. Ово је демо производ, па очекујте много грешака NVIDIA требало би да почне да их поправља чим корисници почну да пишу извештаје о грешкама и слично. Овде такође постоје нека строга хардверска ограничења. Ћаскање са РТКС-ом ради само на Виндовс 11 рачунарима са ГПУ-овима NVIDIA ГеФорце РТКС 30 серија или новија и најмање 8 ГБ ВРАМ-а.
Недавно NVIDIA заиста показује своју АИ снагу јер је компанија управо лансирала своју следећу генерацију АИ суперкомпјутерских чипова. Једноставно плива у профиту, првенствено због својих АИ и сегмената центара података.
Прочитајте такође: