Контекст терезесі: ол не және жасанды интеллектіні күнделікті пайдалануға қалай әсер етеді

Жасанды интеллект модельдеріндегі контекст терезесі туралы нұсқаулық: оның токендермен қалай өлшенетіні, сөйлесу барысында оны не толтыратыны, қазіргі модельдерде оның қаншалықты үлкен екені, сөйлесу шектен асқанда не болатыны және оның шегінде жұмыс істеуге арналған күнделікті әдеттер.

Diagram of a conversation growing over five messages: each new message resends all earlier messages and replies, so the total moves closer to the context window limit.

Контекст терезесі — жасанды интеллект моделі бір мезетте жұмыс істей алатын мәтін көлемі. Бұл нұсқаулықта оны не толтыратыны, қазіргі модельдерде оның қаншалықты үлкен екені және күнделікті жұмыста оның шегінде қалай әрекет ету керектігі қарастырылады.

Контекст терезесі деген не

Контекст терезесі — жасанды интеллект моделі бір мезетте өңдей алатын мәтін көлеміне қойылатын шектеу. Бұл шектеу кіріс мәтінді, мысалы, сұрақ пен оған тіркелген кез келген құжатты, сондай-ақ шығатын жауапты қамтиды. Егер бірдеңе терезеге сыймаса, модель жауап бергенде оны көре де, пайдалана да алмайды.

Контекст терезесі модельдің оқыту кезінде меңгергенінен бөлек. Оқыту модель шығарылмай тұрып, өте үлкен мәтін жиынында жүргізіледі және модельге жалпы білім мен тілдік дағдылар береді. Контекст терезесінде тек алдағы тапсырмаға қатысты материал ғана болады.

Жасанды интеллект моделінің өзі бұрынғы хабарларды есте сақтамайды. Сөйлесуді модель жұмыс істейтін қолданба, мысалы, Perplexity немесе ChatGPT сақтайды. Әр жаңа хабар сайын қолданба модельге тек соңғы хабарды емес, осы уақытқа дейінгі бүкіл сөйлесуді жібереді. Модель жауап бермес бұрын мұның бәрін қайта оқиды, ал бұл жауап келесі жолы жіберілетін мәтіннің бір бөлігіне айналады. Сөйлесудің терезеде алатын орны әр алмасу сайын ұлғаяды, сондықтан қысқа хабарлардан тұратын ұзақ чат та көп орын алуы мүмкін.

Контекст терезесі қалай өлшенеді

Сөйлесудегі әр хабар, құжат және жауап терезеде орын алады. Қолжетімді орын көлемі белгілі бір сөз не бет санымен емес, токендермен өлшенеді.

Токен — модель бір бірлік ретінде өңдейтін мәтін бөлігі. Ол қысқа сөз, ұзынырақ сөздің бөлігі, тыныс белгісі немесе алдында бос орны бар сөз болуы мүмкін. OpenAI мәліметінше, 100 токен шамамен 75 сөзге тең. Ағылшын тіліне арналған осы шамамен алынған бағалауды пайдалансақ, 3 000 сөзден тұратын есеп шамамен 4 000 токен болады.

Модель бірдеңені оқымас бұрын токенизатор деп аталатын құрал мәтінді токендерге бөліп, әрқайсысын санға түрлендіреді. Модель осы сандарды өңдеп, жауабын токендер тізбегі ретінде жасайды, ал құрал оларды қайтадан мәтінге түрлендіреді.

Токен саны стандартталмаған. Ол тілге және мазмұнға байланысты. Токенизаторлар модельдерге қарай әртүрлі болуы мүмкін, сондықтан бір абзац әртүрлі модельдерде әртүрлі токен санын беруі мүмкін.

Контекст терезесі және сақталған естелік

Контекст терезесінде модель ағымдағы сұраққа жауап беру үшін пайдалана алатын нәрселер болады. Мысалы, жасанды интеллект есепті өңдегенде, есептің өзі, өңдеу нұсқаулары және онымен жұмыс барысында алмасқан хабарлар терезеде орын алады.

Сақталған естелік таңдалған мәліметтерді сөйлесулер арасында сақтайды. Perplexity-де не сақталатынын қолданба автоматты түрде таңдайды: ол қалаулар мен маңызды ақпаратты іздеп, жиі кездесетін мәліметтерге көбірек мән береді. «Барлық жазбаларымда британдық ағылшын тілін қолдан» сияқты тұрақты нұсқау сақтауға тұрарлық мәліметке мысал бола алады, ал «Осы абзацты қысқарт» тек ағымдағы тапсырмаға қатысты.

Қолданба осы мәліметтердің бірін жаңа сөйлесуге енгізгенде, ол модель контексінің бір бөлігіне айналып, терезеде орын алады. Perplexity-де жады басқару элементтері Баптаулар → Жады бөлімінде орналасқан. Жадыны өшірсеңіз, ол болашақ жауаптарда пайдаланылмайды, бірақ бұрын сақталған мәліметтер жойылмайды.

Сөйлесу барысында контекст терезесін не толтырады

Контекст терезесінде адам теретін сөздерден әлдеқайда көп нәрсе болады. Әдеттегі сөйлесуде бұл кеңістікті мәтіннің төрт түрі бөліседі: қолданбаның нұсқаулары, сөйлесу тарихы, файлдардан немесе вебтен алынған материал және модельдің жауабы. Оның көп бөлігі экранда ешқашан көрінбейді.

Қолданбаның нұсқаулары

Адамның хабары модельге жетпес бұрын қолданба өз нұсқауларын қосады (оларды жиі жүйелік промпт деп атайды). Олар модельге қалай әрекет ету керектігін айтады: жауаптарды қалай пішімдеу, қандай реңк қолдану, қандай құралдарды пайдалана алатыны және бүгінгі күн сияқты мәліметтер. Бұл материалдың кейбір бөлігі, мысалы, қолданбаның ішкі нұсқаулары, әдетте пайдаланушыға көрсетілмейді.

Сөйлесу тарихы

Бұған ағымдағы жауап үшін модельдің бұрынғы жауаптары мен адамның барлық хабарлары кіреді. Көбінесе жасанды интеллекттің жауаптары пайдаланушының сұрақтарынан әлдеқайда ұзын болады.

Жүктеп салынған файлдар, веб-беттер және іздеу нәтижелері

Файлдардан алынған мәтін сөйлесумен қатар контекст кеңістігін пайдаланады, бірақ қолданба бүкіл файлды бере алады немесе тиісті үзінділерді таңдай алады. Мысалы, Perplexity сұранысқа жауап беру үшін қысқа файлдарды толық талдап, ұзынырақ файлдардан маңызды бөліктерді шығарып ала алады.

Іздеу нәтижелері де орын алады. Мысалы, сұранысқа жауап беру үшін Perplexity вебтен іздеп, нәтижелерді модельге оқуға беруі мүмкін.

Модельдің жауабы және пайымдауы

Жауап сол терезеге жазылады, сондықтан қолданба оған орын қалдыруы керек. Кейбір модельдер жауап үстінде жұмыс істеген кезде ішкі пайымдау да жасайды, оны адам ешқашан көрмеуі мүмкін. Пайымдау мәтіні — модельдің соңғы жауаптан бұрын жазатын қадамдық жұмысы, мысалы, сұрақты бөліктерге бөлу немесе өз есептеулерін тексеру. Әдетте ол да терезе шегіне есептеледі.

Қазіргі жасанды интеллект модельдеріндегі контекст терезесінің өлшемдері

Контекст терезесі неғұрлым үлкен болса, модель соғұрлым ұзын құжаттарды, көбірек дереккөздерді және ұзағырақ сөйлесулерді өңдей алады. OpenAI, Anthropic және Google компанияларының жетекші модельдері қазір әрқайсысы шамамен 1 миллион токендік терезе ұсынады. Бұл шамамен 1 500 бет мәтін.

Модель

Провайдер

Контекст терезесі (токендер)

GPT-6 Astra

OpenAI

1,05 миллион

Claude Opus 5.5

Anthropic

1 миллион

Gemini 4 Argon

Google

1 048 576

Провайдерлердің API сипаттамалары, 2026 жылғы 5 қарашада тексерілген. Қолданба ішінде қолжетімді шектеулер басқаша болуы мүмкін.

Терезенің үлкен болуы модельдің оның бәрін бірдей жақсы пайдаланатынын білдірмейді. Зерттеулер кіріс мәтін ұзарған сайын өнімділіктің сенімділігі төмендеуі мүмкін екенін көрсетті; бұл құбылыс контекстің тозуы (context rot) деп аталады.

Кіріс шектеулері және шығыс шектеулері

Контекст терезесі — модель оқитын және жазатын барлық нәрсеге ортақ бюджет. Модель бір жауапта жаза алатынынан әлдеқайда көп оқи алады.

Кіріс мәтінді өңдегенде модель көптеген токенмен қатар жұмыс істей алады. Жауап жасағанда ол әдетте токендерді ретімен шығарады: келесісін таңдау үшін алдыңғысын пайдаланады. Ол алғашқы төрт сөзді білмейінше, сөйлемнің бесінші сөзін таңдай алмайды, сондықтан жауапты бір-бір токеннен шығаруға мәжбүр.

Сондықтан ұзын жауаптарды жасау ұзын кіріс мәтінді оқудан әлдеқайда баяу әрі қымбатқа түседі. Міне, сол себепті өте ұзын құжатты қайта жазу немесе аудару туралы сұрау жартылай тоқтап қалуы мүмкін, ал нәтижені бөлімдер бойынша сұраған тиімдірек.

Сөйлесу шектен асқанда не болады

Сөйлесу контекст терезесіне сыймайтындай үлкейгенде, модель жауап бермес бұрын қолданба орын босатуы керек. Қолданбалар мұны бірнеше түрлі жолмен жасайды және әр тәсіл модельдің әлі де көре алатын нәрсесін өзгертеді.

Бір тәсіл — алдымен ең ескі хабарларды алып тастау. Модель сөйлесудің соңғы бөлігімен жұмысын жалғастырады. Пайдаланушының алғашқы нұсқаулары, шешімдері немесе құжат үзінділері терезеден шығып қалуы мүмкін. Модель енді өзінде жоқ мәтінге сілтеме жасай алмайды, бірақ пайдаланушыға бірдеңенің жетіспейтінін міндетті түрде айтпайды.

Тағы бір тәсіл — сөйлесудің алдыңғы бөлігін қорытындылап, толық мәтіннің орнына қорытындыны сақтау. Бұл контексті ықшамдау (context compaction) деп аталатын әдістің бір түрі. Қорытынды әлдеқайда аз орын алады, сондықтан сөйлесу әлдеқайда ұзаққа созыла алады. Алайда онда нақты сандар, атаулар немесе тұжырымдар сияқты мәліметтер түсіп қалуы мүмкін.

Модель контексін алып тастаған немесе ықшамдаған кезде, ол өзі білуге тиіс ақпаратты сұрай бастауы мүмкін. Басында берілген нұсқауларды, мысалы, пішімді немесе қалаулы реңкті кенеттен орындамай қоюы мүмкін. Пайдаланушының бұрынғы шешіміне қайшы келуі немесе бұрын бөлісілген құжаттама туралы бұлыңғыр жауап бере бастауы мүмкін.

Кейбір қолданбалар оның орнына сөйлесуді тоқтатып, адамнан жаңасын бастауды сұрайды немесе сыюға тым ұзын хабарды не файлды қабылдамайды.

Контекст терезесі шегінде жұмыс істеуге арналған күнделікті әдеттер

  • Әр жаңа тапсырма үшін жаңа тред бастаңыз: Мысалы, есепті іс-шараны жоспарлау туралы бар тредке қоспай, оны жеке сөйлесуде қарап шығыңыз.
  • Тек қажеттісін ғана алып өтіңіз: Тапсырма бұрынғы жұмысқа негізделсе, модельден келесі тапсырмаға қажетті расталған мәліметтер мен бекітілген тұжырымдарды бөліп алуды сұраңыз.
  • Тек қатысты ақпаратпен бөлісіңіз: Мысалы, сауалнамаға қатысушылардың қалай іріктелгені туралы сұрақ үшін бүкіл есепті емес, әдістеме бөлімі мен қосымша жазбаларды беріңіз.
  • Ұзын құжатпен бөліспес бұрын қажетті бөлімді табыңыз: Егер есепте немесе анықтамалықта мазмұны болса, алдымен соны бөлісіңіз. Модельден сұраққа қай бөлімдер жауап бере алатынын сұрап, сол бөлімдерді сөйлесуге көшіріңіз.
  • Ұзын құжаттарды бөліктермен қарап шығыңыз: Анықтамалықты немесе есепті саясат, тарау немесе тақырып бойынша бөліңіз. Тәуелсіз тексерулер үшін бөлек тредтерді пайдаланып, әрқайсысына бірдей нұсқаулар беріңіз.
  • Ұзын нәтижелерді кезең-кезеңімен сұраңыз: Көлемді қайта жазу немесе аударма үшін сол тредте бір уақытта бір бөлімді сұраңыз. Бөлімді немесе бет ауқымын атап, модельден жалғастыруды сұрамас бұрын нәтижені тексеріңіз.
  • Жауаптың пайдалы ұзындығын белгілеңіз: Бес тұжырым, қысқа түсіндірме немесе нақты бағандары бар кесте сұраңыз. Қысқа жауап жеткілікті болғанда егжей-тегжейлі талдау сұрамаңыз.
  • Нақты түзетулер сұраңыз: Нобайдағы бір абзацты өзгерту үшін модельден тек сол абзацты қайта жазуды сұраңыз. Бүкіл нобайды қайта шығаруды сұрамай, нені өзгерту керектігін нақтылаңыз.

Perplexity контексті қалай басқарады

Perplexity-дің контексі сөйлесуден де көп нәрсені қамтиды. Ол сондай-ақ тікелей іздеу арқылы табылған ақпаратқа, сақталған қалауларға және тапсырма үшін берілген файлдарға сүйене алады.

Зерттеу сұрағы үшін тікелей іздеу модель жауап құруға пайдалана алатын дереккөз материалын ұсынады, ал дереккөз сілтемелері ақпараттың қайдан алынғанын көрсетеді. Мысалы, жаңа ереже туралы сұрағанда, алдымен мақалаларды жинап, оларды чатқа қоймай-ақ, тапсырмаға қатысты веб-ақпаратты енгізуге болады.

Сақталған естелік контекстің басқа түрін береді: бұрынғы сөйлесулердегі қатысты мәліметтер, мысалы, жазу қалаулары немесе жалғасып жатқан жоба туралы негізгі ақпарат. Perplexity жауап бергенде осы мәліметтерді алады, ал жады ол ұсынатын барлық модельдерде жұмыс істейді. Сондықтан Perplexity ішінде модельдерді ауыстырғанда сақталған қалау қолжетімді болып қалуы мүмкін.

Бірнеше сөйлесуді қамтитын жұмыс үшін Жобалар файлдар мен нұсқауларды бір жерде сақтайды, ал Жоба нұсқаулары әр сұранысқа қолданылады. Есептің аудиториясы, мақсаты және жазу талаптары Жобада сақталып, зерттеу мен нобай жазу бөлек тредтерде жүргізілуі мүмкін.

Сұрақ қою, файлдармен жұмыс істеу және қосымша сұраулар арқылы жауаптарды дамыту бойынша нұсқаулық үшін Perplexity-мен жұмысты бастау бөлімін қараңыз.

Жиі қойылатын сұрақтар

Суреттер контекст терезесіне есептеле ме?

Иә. Суреттер мәтінмен қатар орын алатын токендерге түрлендіріледі. Токендер саны модельдің оларды қалай өңдейтініне байланысты. Скриншот немесе сканерленген бет оның мәтіні чатқа көшірілмесе де контекст кеңістігін пайдаланады.

Контекст терезесі үлкенірек болса, құны да жоғары бола ма?

Міндетті емес. Терезенің үлкендігі тапсырманың сол сыйымдылықтың қанша бөлігін пайдаланатынын емес, модельдің қанша көлемді өңдей алатынын сипаттайды.

Сөйлесудің контекст терезесінің қанша бөлігін пайдаланғанын көруге бола ма?

Кейде болады. Кейбір қолданбалар терезенің қаншалықты толғанын көрсететін контекст өлшегішін көрсетеді. «Қалған хабарлар» деп көрсететін есептегіш басқа нәрсені білдіреді: модельдің сөйлесуге әлі қанша ақпарат сыйғыза алатынын емес, аккаунттың тағы қанша сұрау жібере алатынын. Дәл контекст өлшегішін іздеңіз.

Біреу өзімен бөлісілген сөйлесуді жалғастыра ала ма?

Иә. Perplexity-де адам бөлісілген сөйлесуді оқып, қосымша сұрақ қоя алады. Бұл сұрақ оның аккаунтында жаңа сөйлесу бастайды, ал бастапқы сөйлесу өзгеріссіз қалады.