Жергілікті AI үшін Portable Computer таныстыру

Адамдардың AI агенттері үшін ең құнды жұмыстарының кейбірі олардың өз машинаттарында қалдырғысы келетін деректерді қамтиды. Жеке код базалары немесе құпия материалдар болсын, жергілікті модельдер енді олардың тұрған жерінде жұмыс істеуге жеткілікті түрде күшейіп жатыр.

Бүгін біз толығымен жергілікті машинада жұмыс істейтін Perplexity Computer нұсқасы болып табылатын Portable Computer өнімін іске қосып жатырмыз. Біз оны NVIDIA компаниясымен бірге жасадық, осылайша пайдаланушылар NVIDIA компаниясының жұмыс үстелі өлшеміндегі AI компьютері NVIDIA DGX Spark™ стегіне ие бола алады. Ол жақын арада NVIDIA RTX GPU дербес компьютерлерінде де қолжетімді болады.

Portable Computer пайдаланушыларға Perplexity Computer жүйесін толығымен құрылғыда іске қосуға, деректерді талдауға, файлдарды синтездеуге және күрделі жұмыс процесі орындауға мүмкіндік береді. Жеке деректер жергілікті түрде қалады және құрылғыдағы жұмыс кредиттерді жұмсамайды. Пайдаланушы рұқсат еткен кезде, жергілікті модель құпия ақпаратты құрылғыда сақтай отырып, озық зерттеулер мен пайымдаулар үшін бұлтты жүйеге ауыса алады.

Жергілікті деңгейдегі AI стегі

Portable Computer өнімділікті тиімділікпен теңестіре отырып, пайдаланушылардың есептеу қуатынан көбірек пайда алғысы келетін кезінде шығарылады. Өз компьютерлерінде алғаш рет озық деңгейдегі мүмкіндіктердің қолжетімді болуының арқасында адамдар интеллектті не үшін пайдаланатынын шектеудің қажеті жоқ.

Portable Computer Qwen 3.8 27B немесе Qwen моделінің пост-тренингтен өткен нұсқасы PPLX 27B көмегімен NVIDIA DGX Spark жүйесінде жұмыс істейді. 30B ашық моделі NVIDIA Nemotron 3.5 Lightning модель таңдау құралында жақын арада қолжетімді болады. Оркестратор, жоспарлаушы, құралдар маршрутизаторы, жоспарлаушы, берік тапсырмалар кезектері және жергілікті іздеу индексі толығымен құрылғыда жұмыс істейді.

Qwen моделі әр тапсырманы жергілікті түрде мүмкіндігінше толық орындауға және қажет болған жағдайда бұлтты жүйеге жүгінуге бейімделген. Ол жергілікті файлдарды оқиды, құжаттар мен кодтардан іздейді, құрылғыда әрекеттер жасайды және жұмыстардың орындалуын қамтамасыз етеді.

Есептеу қуатына ие болу көлемі үлкен AI тапсырмаларын орындауды тиімді етеді, өйткені жергілікті модельдер орындайтын жұмыс үшін кредит алынбайды.

Бұлтты жүйеге ауысу

Portable Computer кез келген адамға қажет тапсырмалардың көп бөлігін толығымен жергілікті түрде орындайды. Бірақ кейбір жұмыстар интернетке немесе бұлтты жүйедегі озық ойлау жүйелеріне қол жеткізу арқылы тиімдірек орындалады. Пайдаланушы шарттар келісімінің құпия мәліметтерін жергілікті жерде қалдырғысы келуі мүмкін, бірақ ағымдағы нарықтық ұқсастықтарды немесе соңғы мәмілелерді алу үшін бұлтты жүйеге жүгінеді.

Portable Computer жергілікті оркестраторы ағымдағы ақпарат, браузерді пайдалану, қосылған қолданбалар немесе кеңейтілген пайымдау үшін 15-тен астам озық модельдің бірі үшін тапсырманы бұлтты жүйеге жібере алады.

Қолданба коннекторлары арқылы Portable Computer Google Drive, Gmail, Slack және GitHub қызметтерімен жұмыс істейді. Пайдаланушы құрылғыдағы Gmail-де түнгі қате туралы есептерге қарсы жаңа GitHub мәселелерін сұрыптай алады, содан кейін таңертең ұсынылған жауапты тұлғалары бар ең үздік үш мәселе туралы Slack хабарламасын жібере алады.

Тапсырма құрылғыдан мазмұнды бұлттық қызметке жіберуі қажет болғанда, Portable Computer алға жылжу алдында пайдаланушыдан рұқсат сұрайды.

Іздеу және диктант

Жергілікті модель тек құрылғыда не бар екенін біледі. Тапсырмаға сыртқы әлем қажет болғанда, Portable Computer сондай-ақ Perplexity іздеуін немесе кең немесе Терең зерттеу функциясын іске қоса алады. Пайдаланушылар қалған барлық әрекеттердің жергілікті орындалуынан бас тартпай-ақ, вебтен дәйексөз келтірілген нәтижелерді алады.

Диктант режимі сонымен қатар NVIDIA Nemotron 3.5 ASR моделі арқылы жергілікті түрде жұмыс істейді. Пайдаланушылар құжатты оқып жатқанда немесе қағазға нобай салғанда агентке нұсқау береді. Транскрипция мен файлдардағы әрекеттер толығымен машинада қалады. Пайдаланушы аудионы бұлтқа жібермей-ақ клиенттің жағдайын талқылай алады немесе жеке код базасы арқылы мәтін жаза алады.

Қауіпсіздік Perplexity Computer бұлттық нұсқасына сәйкес келеді. Код пен құралдарды орындау файлдар мен қосылған қолданбаларға бақыланатын қолжетімділігі бар оқшауланған Sandbox орталарында жүзеге асады.

Бүгін – жергілікті AI дәуірінің тек бастамасы ғана

Модельдер күшейіп, чиптер жылдамдаған сайын, көбірек адамдар өз машинаттарында күрделі жұмыс процесі орындайтын болады. Әрбір чип циклі мен әрбір модельдің шығуы мұны одан әрі дамытады. Жеке машиналарда AI жұмыс істету жұмыстың қалай атқарылатынының әлдеқайда үлкен бөлігіне айналады.

Portable Computer NVIDIA DGX Spark жүйесінде Pro және Max жазылушылары үшін қолжетімді. Бірінші шығарылым Linux жүйесінде қолжетімді, ал Windows қолдауы жақын арада шығады.

NVIDIA DGX Spark жүйесі Grace Blackwell GB10 платформасына негізделген: 20 ядролы Arm процессоры және 128 ГБ біріктірілген жады бар NVIDIA GPU. Portable Computer құрылғысын Perplexity қолданбасы арқылы бір рет басу арқылы орнатуға болады.

Іске қосылу туралы көбірек NVIDIA Local AI блогында оқыңыз. Біздің зерттеу блогымыз A Local-First Agent for Private and Cost-Effective Knowledge Work Portable Computer әзірленуін және оның дәлдік, жылдамдық және кредит тиімділігі бойынша көрсеткіштерінің жоғары екенін егжей-тегжейлі түсіндіреді.

Бүгіннен бастап Portable Computer көріңіз.