חלון הקשר: מה זה ואיך הוא משפיע על השימוש היומיומי ב-AI

מדריך לחלון ההקשר במודלי AI: איך מודדים אותו בטוקנים, מה ממלא אותו במהלך שיחה, מה גודלו במודלים הנוכחיים, מה קורה כששיחה חורגת מהמגבלה, והרגלים יומיומיים לעבודה במסגרתו.

Diagram of a conversation growing over five messages: each new message resends all earlier messages and replies, so the total moves closer to the context window limit.

חלון הקשר הוא כמות הטקסט שמודל AI יכול לעבוד איתה בבת אחת. המדריך הזה מסביר מה ממלא אותו, מה גודלו במודלים הנוכחיים ואיך לעבוד במסגרתו ביום-יום.

מהו חלון הקשר

חלון הקשר הוא המגבלה על כמות הטקסט שמודל AI יכול לטפל בה בבת אחת. המגבלה חלה גם על הטקסט הנכנס, כמו שאלה וכל מסמך שמצורף אליה, וגם על התשובה היוצאת. אם משהו לא נכנס לחלון, המודל לא יכול לראות אותו או להשתמש בו כשהוא עונה.

חלון ההקשר נפרד ממה שהמודל למד במהלך האימון. האימון מתבצע לפני שהמודל משוחרר, על גוף טקסט גדול מאוד, והוא מעניק למודל את הידע הכללי ואת יכולות השפה שלו. חלון ההקשר מכיל רק את החומר של המשימה שעומדת לפניו.

מודל ה-AI עצמו לא זוכר הודעות קודמות. האפליקציה שבה הוא פועל, כמו Perplexity או ChatGPT, היא ששומרת את השיחה. בכל הודעה חדשה, האפליקציה שולחת למודל את כל השיחה עד כה, ולא רק את ההודעה האחרונה. המודל קורא את כולה מחדש לפני שהוא משיב, והתשובה הזו הופכת לחלק ממה שנשלח בפעם הבאה. המקום שהשיחה תופסת בחלון גדל עם כל חילופי דברים, כך שגם צ׳אט ארוך שמורכב מהודעות קצרות יכול לתפוס הרבה מקום.

איך מודדים חלון הקשר

כל הודעה, מסמך ותשובה בשיחה תופסים מקום בחלון. כמות המקום הזמינה נמדדת בטוקנים, ולא במספר מסוים של מילים או עמודים.

טוקן הוא קטע טקסט שהמודל מטפל בו כיחידה אחת. זו יכולה להיות מילה קצרה, חלק ממילה ארוכה יותר, סימן פיסוק או מילה יחד עם הרווח שלפניה. לפי OpenAI, 100 טוקנים הם בערך 75 מילים. לפי הערכה משוערת זו, שמתייחסת לטקסט באנגלית, דוח בן 3,000 מילים יהיה בערך 4,000 טוקנים.

לפני שהמודל קורא משהו, כלי שנקרא טוקנייזר מפצל את הטקסט לטוקנים וממיר כל אחד מהם למספר. המודל מעבד את המספרים האלה ומייצר את התשובה שלו כרצף של טוקנים, והכלי ממיר אותם בחזרה לטקסט.

ספירת הטוקנים אינה אחידה. הספירה תלויה בשפה ובתוכן. טוקנייזרים עשויים להיות שונים ממודל למודל, כך שאותה פסקה יכולה להניב מספר שונה של טוקנים במודלים שונים.

חלון הקשר לעומת זיכרון שמור

חלון ההקשר מכיל את מה שהמודל יכול להשתמש בו כדי לענות על השאלה הנוכחית. לדוגמה, כש-AI עורך דוח, הדוח, הוראות העריכה וההודעות שהוחלפו במהלך העבודה עליו תופסים מקום בחלון.

זיכרון שמור שומר פרטים נבחרים בין שיחות. ב-Perplexity, האפליקציה בוחרת באופן אוטומטי מה לשמור: היא מחפשת העדפות ומידע חשוב, ומעניקה משקל לפרטים שעולים לעיתים קרובות. הוראה קבועה כמו "להשתמש באנגלית בריטית בכל הכתיבה שלי" ממחישה את סוג הפרטים שכדאי לשמור, ואילו "לקצר את הפסקה הזו" נוגעת רק למשימה הנוכחית.

כשהאפליקציה מכניסה אחד מהפרטים האלה לשיחה חדשה, הוא הופך לחלק מההקשר של המודל ותופס מקום בחלון. ב-Perplexity, אפשרויות השליטה בזיכרון נמצאות תחת הגדרות ← זיכרון. כיבוי הזיכרון מפסיק את השימוש בו בתשובות עתידיות, אבל לא מוחק פרטים שכבר נשמרו.

מה ממלא את חלון ההקשר במהלך שיחה

חלון ההקשר מכיל הרבה יותר מהמילים שהמשתמש מקליד. בשיחה טיפוסית, ארבעה סוגי טקסט חולקים את המקום: הוראות מהאפליקציה, היסטוריית השיחה, חומר שנלקח מקבצים או מהאינטרנט, והתשובה של המודל. רוב החומר הזה אף פעם לא מופיע על המסך.

הוראות מהאפליקציה

לפני שההודעה של המשתמש מגיעה למודל, האפליקציה מוסיפה הוראות משלה (שנקראות לרוב הנחיית מערכת, או system prompt). ההוראות האלה אומרות למודל איך להתנהג: איך לעצב תשובות, באיזה טון להשתמש, באילו כלים הוא יכול להשתמש, ופרטים כמו התאריך של היום. חלק מהחומר הזה, כמו ההוראות הפנימיות של האפליקציה, בדרך כלל לא מוצג למשתמש.

היסטוריית השיחה

היסטוריית השיחה כוללת את התשובות הקודמות של המודל וגם את כל ההודעות של המשתמש, לצורך התשובה הנוכחית. לעיתים קרובות, התשובות של ה-AI ארוכות הרבה יותר מהשאלות של המשתמש.

קבצים שהועלו, דפי אינטרנט ותוצאות חיפוש

טקסט שנלקח מקבצים תופס מקום בהקשר לצד השיחה, אבל אפליקציה יכולה לספק קובץ שלם או לבחור ממנו קטעים רלוונטיים. לדוגמה, Perplexity יכולה לנתח קבצים קצרים במלואם ולחלץ חלקים חשובים מקבצים ארוכים יותר כדי לענות על השאילתה.

גם תוצאות חיפוש תופסות מקום. לדוגמה, כדי לענות על שאילתה, Perplexity עשויה לחפש באינטרנט ולתת למודל את התוצאות לקריאה.

התשובה וההנמקה של המודל

התשובה נכתבת לתוך אותו חלון, ולכן האפליקציה צריכה להשאיר לה מקום. חלק מהמודלים גם מייצרים הנמקה פנימית תוך כדי עבודה על תשובה, שהמשתמש אולי לעולם לא יראה. טקסט ההנמקה הוא תהליך העבודה של המודל שלב אחר שלב, כמו פירוק שאלה לחלקים או בדיקת הנתונים שלו, שנכתב לפני התשובה הסופית. בדרך כלל גם הוא נספר במסגרת מגבלת החלון.

גודלי חלון ההקשר במודלי AI נוכחיים

חלון הקשר גדול יותר מאפשר למודל לטפל במסמכים ארוכים יותר, ביותר מקורות ובשיחות ארוכות יותר. המודלים המובילים של OpenAI, Anthropic ו-Google מציעים כיום כל אחד חלון של כמיליון טוקנים. זה בערך 1,500 עמודי טקסט.

מודל

ספק

חלון הקשר (טוקנים)

GPT-6 Astra

OpenAI

1.05 מיליון

Claude Opus 5.5

Anthropic

1 מיליון

Gemini 4 Argon

Google

1,048,576

מפרטי ה-API של הספקים, נכון ל-5 בנובמבר 2026. המגבלות הזמינות בתוך אפליקציה עשויות להיות שונות.

חלון גדול יותר לא אומר שהמודל משתמש בכולו באותה יעילות. מחקרים מצאו שהביצועים עלולים להיות פחות אמינים ככל שאורך הקלט גדל, תופעה המכונה "שחיקת הקשר" (context rot).

מגבלות קלט ומגבלות פלט

חלון ההקשר הוא תקציב משותף לכל מה שהמודל קורא וכותב. מודל יכול לקרוא הרבה יותר ממה שהוא יכול לכתוב בתשובה אחת.

בעיבוד קלט, המודל יכול לעבוד על טוקנים רבים במקביל. ביצירת תשובה, הוא בדרך כלל מייצר טוקנים ברצף, ומשתמש במה שקדם כדי לבחור מה יבוא אחר כך. הוא לא יכול לבחור את המילה החמישית במשפט לפני שהוא יודע מהן ארבע המילים הראשונות, ולכן הוא צריך לייצר את התשובה טוקן אחד בכל פעם.

לכן יצירת תשובות ארוכות איטית ויקרה הרבה יותר מקריאת קלטים ארוכים. זו הסיבה שבקשה לשכתב או לתרגם מסמך ארוך מאוד עלולה להיעצר באמצע, ושעדיף לבקש את התוצאה בחלקים.

מה קורה כששיחה חורגת מהמגבלה

כששיחה נעשית גדולה מדי עבור חלון ההקשר, האפליקציה צריכה לפנות מקום לפני שהמודל יכול להשיב. אפליקציות עושות זאת בכמה דרכים שונות, וכל אחת מהן משנה את מה שהמודל עדיין יכול לראות.

גישה אחת היא להסיר קודם את ההודעות הישנות ביותר. המודל ממשיך לעבוד עם החלק האחרון של השיחה. הוראות מוקדמות של המשתמש, החלטות או קטעים ממסמכים עלולים לצאת מהחלון. המודל לא יכול להתייחס לטקסט שכבר אין לו, אבל הוא לא בהכרח יודיע למשתמש שמשהו חסר.

גישה אחרת היא לסכם את החלק המוקדם של השיחה ולשמור את הסיכום במקום הטקסט המלא. זו צורה של מה שנקרא "דחיסת הקשר" (context compaction). סיכום תופס הרבה פחות מקום, כך שהשיחה יכולה להימשך זמן רב יותר. עם זאת, הוא עלול להשמיט פרטים כמו נתונים מדויקים, שמות או ניסוחים.

כשהמודל הסיר או דחס את ההקשר שלו, הוא עלול להתחיל לבקש מידע שהוא אמור כבר לדעת. הוא עלול להפסיק פתאום לפעול לפי הוראות שניתנו בהתחלה, כמו פורמט או טון מועדף. הוא עלול לסתור החלטה קודמת של המשתמש, או להתייחס באופן מעורפל למסמכים ששותפו קודם לכן.

אפליקציות אחרות עוצרות במקום זאת את השיחה ומבקשות מהמשתמש להתחיל שיחה חדשה, או מסרבות לקבל הודעה או קובץ ארוכים מכדי להיכנס לחלון.

הרגלים יומיומיים לעבודה במסגרת חלון ההקשר

  • לפתוח שרשור חדש לכל משימה חדשה: לדוגמה, לבדוק דוח בשיחה נפרדת משלו, במקום להוסיף אותו לשרשור קיים על תכנון אירוע.
  • להעביר רק את מה שנחוץ: כשמשימה מתבססת על עבודה קודמת, לבקש מהמודל לחלץ את הפרטים המאומתים ואת הניסוח המאושר שנדרשים למשימה הבאה.
  • לשתף רק מידע רלוונטי: לדוגמה, בשאלה על האופן שבו נבחרו משתתפי סקר, לספק את פרק המתודולוגיה ואת ההערות התומכות, במקום את הדוח כולו.
  • לאתר את הקטע הרלוונטי לפני שמשתפים מסמך ארוך: אם לדוח או למדריך יש תוכן עניינים, לשתף אותו קודם. לשאול את המודל אילו פרקים צפויים לענות על השאלה, ואז להעתיק את הפרקים האלה לשיחה.
  • לבדוק מסמכים ארוכים בחלקים: לחלק מדריך או דוח לפי מדיניות, פרק או נושא. להשתמש בשרשורים נפרדים לבדיקות עצמאיות, עם אותן הוראות לכל אחת מהן.
  • לבקש פלטים ארוכים בשלבים: בשכתוב או בתרגום ארוכים, לבקש קטע אחד בכל פעם באותו שרשור. לציין את הקטע או את טווח העמודים, ולבדוק את התוצאה לפני שמבקשים מהמודל להמשיך.
  • לקבוע אורך תשובה מועיל: לבקש חמישה ממצאים, הסבר קצר או טבלה עם עמודות מסוימות. להימנע מבקשת ניתוח מפורט כשתשובה קצרה מספיקה.
  • לבקש תיקונים ממוקדים: כדי לשנות פסקה אחת בטיוטה, לבקש מהמודל לשכתב רק את הפסקה הזו. לציין מה צריך לשנות, במקום לבקש ממנו לכתוב מחדש את כל הטיוטה.

איך Perplexity מנהלת את ההקשר

ההקשר של Perplexity כולל יותר מהשיחה עצמה. היא יכולה להסתמך גם על מידע שנמצא באמצעות חיפוש בזמן אמת, על העדפות שמורות ועל קבצים שסופקו למשימה.

בשאלת מחקר, החיפוש בזמן אמת מספק חומרי מקור שהמודל יכול להשתמש בהם כדי לבנות את התשובה, עם ציטוטים שמראים מאיפה הגיע המידע. לדוגמה, שאלה על תקנה חדשה יכולה להביא למשימה מידע רלוונטי מהאינטרנט, בלי לאסוף קודם כתבות ולהדביק אותן בצ׳אט.

זיכרון שמור מספק סוג אחר של הקשר: פרטים רלוונטיים משיחות קודמות, כמו העדפות כתיבה או רקע על פרויקט מתמשך. Perplexity מאחזרת את הפרטים האלה כשהיא עונה, והזיכרון פועל בכל המודלים שהיא מציעה. לכן העדפה שמורה יכולה להישאר זמינה גם כשעוברים בין מודלים ב-Perplexity.

בעבודה שמתפרסת על פני כמה שיחות, פרויקטים מרכזים קבצים והוראות במקום אחד, והוראות הפרויקט חלות על כל שאילתה. קהל היעד, המטרה ודרישות הכתיבה של דוח יכולים להישאר בפרויקט, בעוד שהמחקר וכתיבת הטיוטות מתבצעים בשרשורים נפרדים.

כדאי לעיין במדריך תחילת העבודה עם Perplexity להנחיות על שאילת שאלות, עבודה עם קבצים והרחבת תשובות באמצעות שאלות המשך.

שאלות נפוצות

האם תמונות נספרות בחלון ההקשר?

כן. תמונות מומרות לטוקנים שתופסים מקום לצד הטקסט. מספר הטוקנים תלוי באופן שבו המודל מעבד אותן. צילום מסך או עמוד סרוק תופסים מקום בהקשר גם כשהטקסט שלהם לא הועתק לצ׳אט.

האם חלון הקשר גדול יותר עולה יותר?

לא בהכרח. חלון גדול יותר מתאר בכמה טקסט מודל יכול לטפל, ולא כמה מהקיבולת הזו משימה מסוימת מנצלת.

האם יש דרך לראות כמה מחלון ההקשר שיחה כבר ניצלה?

לפעמים. חלק מהאפליקציות מציגות מד הקשר שמראה עד כמה החלון מלא. מונה שמציג "הודעות שנותרו" מציין משהו אחר: כמה בקשות נוספות אפשר עוד לשלוח מהחשבון, ולא כמה מידע המודל עדיין יכול להכניס לשיחה. כדאי לחפש במפורש מד הקשר.

האם אפשר להמשיך שיחה ששותפה איתך?

כן. ב-Perplexity אפשר לקרוא שיחה ששותפה ולשאול שאלת המשך. השאלה הזו פותחת שיחה חדשה בחשבון של מי ששאל אותה, והשיחה המקורית נשארת ללא שינוי.