Jendela konteks: pengertian dan pengaruhnya pada penggunaan AI sehari-hari
Panduan tentang jendela konteks pada model AI, yang membahas cara mengukurnya dalam token, apa yang mengisinya selama percakapan, seberapa besar ukurannya pada model saat ini, apa yang terjadi ketika percakapan melampaui batas, dan kebiasaan sehari-hari untuk bekerja dalam batasannya.

Jendela konteks adalah jumlah teks yang dapat diolah model AI dalam satu waktu. Panduan ini membahas apa saja yang mengisinya, seberapa besar ukurannya pada model-model saat ini, dan cara bekerja dalam batasannya sehari-hari.
Apa itu jendela konteks
Jendela konteks adalah batas jumlah teks yang dapat ditangani model AI dalam satu waktu. Batas ini mencakup teks yang masuk, seperti pertanyaan dan dokumen apa pun yang dilampirkan padanya, serta jawaban yang dihasilkan. Jika sesuatu tidak muat di dalam jendela, model tidak dapat melihat atau menggunakannya saat menjawab.
Jendela konteks terpisah dari apa yang dipelajari model selama pelatihan. Pelatihan berlangsung sebelum model dirilis, menggunakan kumpulan teks yang sangat besar, dan memberikan pengetahuan umum serta kemampuan berbahasa kepada model. Jendela konteks hanya memuat materi untuk tugas yang sedang dihadapinya.
Model AI itu sendiri tidak mengingat pesan-pesan sebelumnya. Aplikasi tempat model berjalan, seperti Perplexity atau ChatGPT, yang menyimpan percakapan. Dengan setiap pesan baru, aplikasi mengirimkan seluruh percakapan sejauh ini kepada model, bukan hanya pesan terbaru. Model membaca semuanya lagi sebelum membalas, dan balasan tersebut menjadi bagian dari apa yang dikirim pada kesempatan berikutnya. Jejak percakapan di dalam jendela bertambah dengan setiap pertukaran pesan, sehingga obrolan panjang yang terdiri dari pesan-pesan singkat pun tetap dapat memakan banyak ruang.
Cara mengukur jendela konteks
Setiap pesan, dokumen, dan balasan dalam percakapan memakan ruang di jendela. Jumlah ruang yang tersedia diukur dalam token, bukan dalam jumlah kata atau halaman tertentu.
Token adalah potongan teks yang ditangani model sebagai satu unit. Token bisa berupa kata pendek, bagian dari kata yang lebih panjang, tanda baca, atau kata beserta spasi di depannya. Menurut OpenAI, 100 token setara dengan sekitar 75 kata. Dengan perkiraan kasar untuk bahasa Inggris tersebut, laporan sepanjang 3.000 kata akan berjumlah sekitar 4.000 token.
Sebelum model membaca apa pun, alat yang disebut tokenizer memecah teks menjadi token dan mengubah masing-masing token menjadi angka. Model memproses angka-angka tersebut, menghasilkan balasannya sebagai rangkaian token, lalu alat tersebut mengubahnya kembali menjadi teks.
Jumlah token tidak terstandardisasi. Jumlahnya bergantung pada bahasa dan isi teks. Tokenizer bisa berbeda antarmodel, sehingga paragraf yang sama dapat menghasilkan jumlah token yang berbeda pada model yang berbeda.
Jendela konteks vs. memori tersimpan
Jendela konteks memuat apa yang dapat digunakan model untuk menjawab pertanyaan saat ini. Misalnya, ketika AI menyunting sebuah laporan, laporan itu, instruksi penyuntingan, dan pesan-pesan yang dipertukarkan selama mengerjakannya memakan ruang di jendela.
Memori tersimpan menyimpan detail tertentu di antara percakapan. Di Perplexity, aplikasi memilih secara otomatis apa yang akan disimpan, dengan mencari preferensi dan informasi penting serta memberi bobot lebih pada detail yang sering muncul. Instruksi yang bersifat tetap seperti “Gunakan bahasa Inggris British untuk semua tulisan saya” menggambarkan jenis detail yang layak disimpan, sedangkan “Persingkat paragraf ini” hanya berlaku untuk tugas yang sedang dikerjakan.
Ketika aplikasi membawa salah satu detail tersebut ke percakapan baru, detail itu menjadi bagian dari konteks model dan memakan ruang di jendela. Di Perplexity, kontrol memori ada di Pengaturan → Memori. Menonaktifkan memori akan menghentikan penggunaannya dalam jawaban berikutnya, tetapi tidak menghapus detail yang sudah tersimpan.
Apa yang mengisi jendela konteks selama percakapan
Jendela konteks memuat jauh lebih banyak daripada kata-kata yang diketik seseorang. Dalam percakapan pada umumnya, empat jenis teks berbagi ruang: instruksi dari aplikasi, riwayat percakapan, materi yang diambil dari file atau web, dan balasan model. Sebagian besar di antaranya tidak pernah muncul di layar.
Instruksi dari aplikasi
Sebelum pesan seseorang sampai ke model, aplikasi menambahkan instruksinya sendiri (sering disebut prompt sistem). Instruksi ini memberi tahu model cara berperilaku: cara memformat jawaban, nada apa yang digunakan, alat mana yang dapat dipakai, dan detail seperti tanggal hari ini. Sebagian materi ini, seperti instruksi internal aplikasi, biasanya tidak ditampilkan kepada pengguna.
Riwayat percakapan
Ini mencakup balasan model sebelumnya serta semua pesan orang tersebut untuk jawaban saat ini. Sering kali, balasan AI jauh lebih panjang daripada pertanyaan pengguna.
File yang diunggah, halaman web, dan hasil pencarian
Teks yang diambil dari file memakan ruang konteks bersama percakapan, tetapi aplikasi dapat menyediakan seluruh file atau memilih bagian yang relevan. Misalnya, Perplexity dapat menganalisis file pendek secara utuh dan mengambil bagian-bagian penting dari file yang lebih panjang untuk menjawab kueri.
Hasil pencarian juga memakan ruang. Misalnya, untuk menjawab kueri, Perplexity mungkin mencari di web dan memberikan hasilnya kepada model untuk dibaca.
Balasan dan penalaran model
Balasan ditulis di jendela yang sama, sehingga aplikasi harus menyisakan ruang untuknya. Beberapa model juga menghasilkan penalaran internal saat mengerjakan jawaban, yang mungkin tidak pernah dilihat oleh orang tersebut. Teks penalaran adalah langkah-langkah kerja model, seperti memecah pertanyaan menjadi beberapa bagian atau memeriksa angka-angkanya sendiri, yang dituliskan sebelum jawaban akhir. Teks ini biasanya juga dihitung dalam batas jendela.
Ukuran jendela konteks pada model AI saat ini
Jendela konteks yang lebih besar berarti model dapat menangani dokumen yang lebih panjang, lebih banyak sumber, dan percakapan yang lebih panjang. Model-model terdepan dari OpenAI, Anthropic, dan Google kini masing-masing menawarkan jendela sekitar 1 juta token. Itu kira-kira setara dengan 1.500 halaman teks.
Model | Penyedia | Jendela konteks (token) |
GPT-6 Astra | OpenAI | 1,05 juta |
Claude Opus 5.5 | Anthropic | 1 juta |
Gemini 4 Argon | 1.048.576 |
Spesifikasi API penyedia, diperiksa pada 5 November 2026. Batas yang tersedia di dalam aplikasi mungkin berbeda.
Jendela yang lebih besar tidak berarti model menggunakan seluruhnya dengan sama baiknya. Penelitian menemukan bahwa kinerja dapat menjadi kurang andal seiring bertambahnya panjang input, sebuah pola yang dikenal sebagai kemerosotan konteks (context rot).
Batas input dan batas output
Jendela konteks adalah anggaran bersama untuk semua yang dibaca dan ditulis model. Model dapat membaca jauh lebih banyak daripada yang dapat ditulisnya dalam satu balasan.
Saat memproses input, model dapat mengerjakan banyak token secara paralel. Saat menghasilkan jawaban, model biasanya menghasilkan token secara berurutan, menggunakan apa yang muncul sebelumnya untuk memilih apa yang muncul berikutnya. Model tidak dapat memilih kata kelima dalam sebuah kalimat sebelum mengetahui empat kata pertama, sehingga model harus menghasilkan balasan satu token demi satu token.
Hal ini membuat balasan panjang jauh lebih lambat dan lebih mahal untuk dihasilkan dibandingkan membaca input yang panjang. Itulah sebabnya permintaan untuk menulis ulang atau menerjemahkan dokumen yang sangat panjang bisa berhenti di tengah jalan, dan mengapa meminta hasilnya per bagian bekerja lebih baik.
Apa yang terjadi ketika percakapan melampaui batas
Ketika percakapan menjadi terlalu besar untuk jendela konteks, aplikasi harus menyediakan ruang sebelum model dapat membalas. Aplikasi melakukannya dengan beberapa cara berbeda, dan masing-masing cara mengubah apa yang masih dapat dilihat model.
Salah satu pendekatan adalah membuang pesan-pesan terlama terlebih dahulu. Model terus bekerja dengan bagian terbaru dari percakapan. Instruksi awal pengguna, keputusan, atau kutipan dokumen bisa keluar dari jendela. Model tidak dapat merujuk teks yang sudah tidak dimilikinya, tetapi belum tentu memberi tahu pengguna bahwa ada yang hilang.
Pendekatan lain adalah meringkas bagian awal percakapan dan menyimpan ringkasan itu sebagai pengganti teks lengkapnya. Ini adalah salah satu bentuk dari apa yang disebut pemadatan konteks (context compaction). Ringkasan memakan ruang jauh lebih sedikit, sehingga percakapan dapat berlangsung jauh lebih lama. Namun, ringkasan mungkin menghilangkan detail seperti angka pasti, nama, atau susunan kata.
Ketika model telah membuang atau memadatkan konteksnya, model mungkin mulai menanyakan informasi yang seharusnya sudah diketahuinya. Model mungkin tiba-tiba berhenti mengikuti instruksi yang diberikan di awal, seperti format atau nada yang diinginkan. Model mungkin bertentangan dengan keputusan pengguna sebelumnya, atau menjadi samar tentang dokumentasi yang dibagikan sebelumnya.
Sebagian aplikasi justru menghentikan percakapan dan meminta orang tersebut untuk memulai percakapan baru, atau menolak pesan atau file yang terlalu panjang untuk dimuat.
Kebiasaan sehari-hari untuk bekerja dalam batas jendela konteks
- Mulai utas baru untuk setiap tugas baru: Misalnya, tinjau laporan dalam percakapannya sendiri, alih-alih menambahkannya ke utas yang sudah ada tentang perencanaan acara.
- Bawa hanya yang diperlukan: Ketika suatu tugas melanjutkan pekerjaan sebelumnya, minta model untuk mengambil detail yang sudah dikonfirmasi dan susunan kata yang sudah disetujui yang diperlukan untuk tugas berikutnya.
- Bagikan hanya informasi yang relevan: Misalnya, untuk pertanyaan tentang cara peserta survei dipilih, berikan bagian metodologi dan catatan pendukungnya, bukan seluruh laporan.
- Temukan bagian yang relevan sebelum membagikan dokumen panjang: Jika laporan atau buku panduan memiliki daftar isi, bagikan itu terlebih dahulu. Tanyakan kepada model bagian mana yang kemungkinan besar menjawab pertanyaan, lalu salin bagian-bagian tersebut ke dalam percakapan.
- Tinjau dokumen panjang per bagian: Bagi buku panduan atau laporan berdasarkan kebijakan, bab, atau topik. Gunakan utas terpisah untuk tinjauan yang berdiri sendiri, dengan instruksi yang sama untuk masing-masing.
- Minta output panjang secara bertahap: Untuk penulisan ulang atau terjemahan yang panjang, mintalah satu bagian dalam satu waktu di utas yang sama. Sebutkan bagian atau rentang halamannya, dan periksa hasilnya sebelum meminta model untuk melanjutkan.
- Tetapkan panjang jawaban yang sesuai: Mintalah lima temuan, penjelasan singkat, atau tabel dengan kolom tertentu. Hindari meminta analisis terperinci jika jawaban singkat sudah cukup.
- Minta revisi yang terarah: Untuk mengubah satu paragraf dalam draf, minta model untuk menulis ulang paragraf itu saja. Jelaskan apa yang perlu diubah, alih-alih memintanya membuat ulang seluruh draf.
Cara Perplexity mengelola konteks
Konteks Perplexity mencakup lebih dari sekadar percakapan. Perplexity juga dapat memanfaatkan informasi yang ditemukan melalui pencarian langsung, preferensi yang tersimpan, dan file yang disediakan untuk suatu tugas.
Untuk pertanyaan penelitian, pencarian langsung menyediakan materi sumber yang dapat digunakan model untuk menyusun jawabannya, dengan kutipan yang menunjukkan dari mana informasi tersebut berasal. Misalnya, bertanya tentang peraturan baru dapat membawa informasi web yang relevan ke dalam tugas tanpa harus mengumpulkan artikel terlebih dahulu dan menempelkannya ke dalam Chat.
Memori tersimpan menyediakan jenis konteks yang berbeda: detail relevan dari percakapan sebelumnya, seperti preferensi penulisan atau latar belakang tentang proyek yang sedang berjalan. Perplexity mengambil detail tersebut saat menjawab, dan memori berfungsi di semua model yang ditawarkannya. Karena itu, preferensi yang tersimpan tetap dapat tersedia saat berganti model di Perplexity.
Untuk pekerjaan yang mencakup beberapa percakapan, proyek menyimpan file dan instruksi di satu tempat, dan instruksi proyek berlaku untuk setiap kueri. Audiens, tujuan, dan persyaratan penulisan sebuah laporan dapat tetap tersimpan di proyek, sementara penelitian dan penyusunan draf berlangsung di utas terpisah.
Jelajahi Memulai dengan Perplexity untuk panduan tentang cara mengajukan pertanyaan, bekerja dengan file, dan mengembangkan jawaban dengan kueri lanjutan.
Pertanyaan umum
Apakah gambar dihitung dalam jendela konteks?
Ya. Gambar diubah menjadi token yang memakan ruang bersama teks. Jumlah token bergantung pada cara model memproses gambar tersebut. Tangkapan layar atau halaman pindaian tetap memakan ruang konteks meskipun teksnya belum disalin ke dalam Chat.
Apakah jendela konteks yang lebih besar lebih mahal?
Belum tentu. Jendela yang lebih besar menggambarkan seberapa banyak yang dapat ditangani model, bukan seberapa banyak kapasitas tersebut yang digunakan suatu tugas.
Apakah ada cara untuk melihat seberapa banyak jendela konteks yang telah digunakan dalam percakapan?
Terkadang. Beberapa aplikasi menampilkan pengukur konteks yang menunjukkan seberapa penuh jendelanya. Penghitung yang menampilkan “pesan tersisa” memiliki arti yang berbeda: berapa banyak lagi permintaan yang dapat dibuat oleh akun, bukan berapa banyak informasi yang masih dapat dimuat model ke dalam percakapan. Periksa secara khusus apakah ada pengukur konteks.
Bisakah seseorang melanjutkan percakapan yang dibagikan kepadanya?
Ya. Di Perplexity, seseorang dapat membaca percakapan yang dibagikan dan mengajukan pertanyaan lanjutan. Pertanyaan tersebut memulai percakapan baru di akunnya, sehingga percakapan aslinya tidak berubah.