כיצד פועלים גלאי בינה מלאכותית ומדוע ציון לבדו אינו יכול להוכיח מחברות

הדביקו חיבור, מאמר או אימייל לתוך גלאי בינה מלאכותית, וכעבור מספר שניות הוא עשוי להחזיר תוצאה כמו "85% בינה מלאכותית."

נראה מדויק. אך הוא עשוי גם להיות קל לקריאה שגויה.

הגלאי לא צפה כיצד המסמך נכתב. הוא ניתח את הטקסט המוגמר לאיתור דפוסים המשויכים לכתיבה שנוצרה על ידי בינה מלאכותית. בהתאם לכלי, אותם 85% עשויים לייצג את ההסתברות המשוערת שבינה מלאכותית ייצרה את המסמך או את נתח הטקסט שהגלאי סימן.

הדבר הופך את גלאי הבינה המלאכותית לשימושי כאות אזהרה, במיוחד כאשר משהו דורש בדיקה מעמיקה יותר. אולם הציון עדיין זקוק להקשר ולראיות תומכות בטרם יסיק איש מסקנה לגבי מי כתב את הטקסט או כיצד יצר אותו. הבנת האופן שבו גלאים מפיקים את ציוניהם עוזרת להסביר הן את מה שהם מסוגלים לתפוס והן מדוע הם לעיתים טועים.

מהו גלאי בינה מלאכותית?

גלאי כתיבה בבינה מלאכותית בוחן יצירת טקסט מוגמר ומעריך האם היא דומה לכתיבה המופקת על ידי מודל שפה. המשתמש בדרך כלל מדביק את הטקסט או מעלה מסמך. בתוך שניות, הכלי עשוי להחזיר תווית, אחוזים, קטעים מודגשים, או את שלושתם.

• מורים ומוסדות אקדמיים משתמשים בהם בעת סקירת עבודות סטודנטים.
• מוציאים לאור וצוותי תוכן עשויים להשתמש בהם כדי לסנן כתיבה מוגשת או מוזמנת, בעוד שחברות גלאים מסוימות משווקות גרסאות לצוותי גיוס הסוקרים חומרי הגשה.
• כותבים בודקים לעיתים גם את עבודתם שלהם כדי להבין כיצד מורה, עורך, לקוח או פלטפורמה עשויים לסווג אותה.

הערה: בודקי פלגיאט משרתים מטרה קשורה אך נפרדת. הם משווים מסמך לחומר מפורסם ולמקורות אחרים כדי למצוא שפה תואמת. גלאי בינה מלאכותית מעריכים דפוסים בכתיבה המוגשת. לפיכך, קטע מקורי לחלוטין עשוי לקבל סימון בינה מלאכותית, בעוד שכתיבה אנושית מועתקת עשויה שלא להכיל אות חזק ליצירה באמצעות בינה מלאכותית.

כיצד גלאי בינה מלאכותית מנתחים טקסט

גלאי בינה מלאכותית רבים מתבסס על מסווג, מודל למידת מכונה שאומן על דוגמאות של כתיבה אנושית וכזו שנוצרה על ידי בינה מלאכותית. בעודו משווה בין השניים, הוא לומד אילו דפוסים נוטים להופיע בכל אחד מהם, כולל דפוסים בבחירת מילים ובמבנה משפטים. לאחר מכן הוא מחפש דפוסים אלו בטקסט חדש ומייצר תחזית.

מה שהגלאי לומד תלויי במה שהוא רואה במהלך האימון. כלי שאומן על טווח מצומצם של כתיבה עשוי להיאבק בנושא חדש, בסגנון לא מוכר, או בפלט ממודל בינה מלאכותית שהוא טרם פגש. מחקרים על סוגים שונים של טקסטים ומודלי בינה מלאכותית מצאו כי ביצועי הזיהוי עשויים לרדת בתנאים אלה.

שיטות מסוימות נוקטות גישה אחרת. במקום לאמן מסווג נפרד, הן משתמשות בהערכות ההסתברות של מודל שפה עצמו כדי לשפוט עד כמה סביר שייצר קטע מסוים.

• DetectGPT, לדוגמה, משווה את הטקסט המקורי לגרסאות שעברו שינויים קלים כדי לחפש דפוסים המשויכים ליצירה באמצעות בינה מלאכותית. המחקר שלו מתאר זאת כשיטת "זרוע אחת" (zero-shot) משום שאינה דורשת גלאי שאומן בנפרד. התוצאה עשויה לכלול ציון כולל, משפטים מודגשים, או את שניהם.
• GPTZero מציינת כי ההדגשות שלה מראות אילו משפטים משפיעים ביותר על התחזית הכוללת שלה. מכיוון שהיא מעריכה גם את המסמך הרחב יותר, ייתכן שקטע שנסרק בפני עצמו לא יקבל את אותה תוצאה כאשר הוא מופיע כחלק מיצירה ארוכה יותר.

כל תוצאה משקפת הן את הטקסט והן את המערכת המעריכה אותו, וזו הסיבה שגלאים שונים עשויים להגיע למסקנות שונות לגבי אותו קטע.

הגדלה

מה מודדים מדדי המורכבות ופרצי הכתיבה

מורכבות (Perplexity) ופרצי כתיבה עולים לעיתים קרובות בהסברים על זיהוי בינה מלאכותית. הם יכולים לחשוף דפוסים שימושיים ביצירת כתיבה, אך אף אחד מהם אינו מצביע על דרך אחת ייחודית ומובהקת שבה כותבת בינה מלאכותית.

פרט אחד שעלול לבלבל: מורכבות (perplexity) ממלאת כאן תפקיד כפול. באותיות קטנות, זהו מדד סטטיסטי. באותיות גדולות (Perplexity), זוהי החברה שלנו.

מדד המורכבות (Perplexity) מודד עד כמה הטקסט צפוי

מודלי שפה מייצרים טקסט על ידי הקצאת הסברויות לאסימונים הבאים האפשריים, העשויים להיות מילים שלמות או חלקי מילים. מורכבות (Perplexity) מודדת באיזו מידה מודל מסוגל לחזות את האסימונים בקטע טקסט.

• מורכבות נמוכה: הטקסט עוקב אחר דפוסים שהמודל מוצא כמוכרים.
• מורכבות גבוהה: הניסוח צפוי פחות.

הציון ספציפי למודל המבצע את ההערכה ולאופן שבו הטקסט מעובד, כך שאותו קטע עשוי לקבל ציוני מורכבות שונים תחת הגדרות שונות.

קחו את המשפט: "אנא הודע לי אם יש לך שאלות כלשהן." מודל שפה כנראה נתקל בניסוח דומה פעמים רבות, מה שהופך כל מילה לקלה יחסית לחיזוי. הדבר מלמד אותנו משהו על מידת ההכרות עם המשפט, אך אינו אומר דבר חד-משמעי לגבי מי כתב אותו.

מדד פרצי הכתיבה מודד באיזו מידה דפוסים אלה משתנים

המונח "פרץ כתיבה" (burstiness) משמש באופן חופשי יותר בדיונים על זיהוי בינה מלאכותית. הוא מתאר בדרך כלל באיזו מידה הכתיבה משתنה לאורך קטע טקסט. הדבר עשוי לכלול שונות באורכי המשפטים ובמבנה שלהם, או מעברים בין שפה צפויה מאוד לשפה מפתיעה יותר.

• פרץ כתיבה נמוך: המשפטים עוקבים אחר אורך, מבנה או קצב עקביים יותר.
• פרץ כתיבה גבוה: הכתיבה נעה בין אמירות קצרות, הסברים ארוכים וניסוחים צפויים פחות.

חלק מהטקסטים שנוצרים על ידי בינה מלאכותית הם עקביים וצפויים, וזו הסיבה שפרצי כתיבה נקשרו לזיהוי. כתיבה אנושית יכולה להיות בעלת אותן איכויות, במיוחד בהקשרים עסקיים, אקדמיים וטכניים. מודלי בינה מלאכותית יכולים גם לייצר שפה מגוונות יותר כאשר ניתנת להם הנחיה או עריכה לעשות כן.

GPTZero מציינת שמורכבות ופרצי כתיבה היו שניים מתוך מספר מאפיינים ששימשו גרסה מוקדמת יותר של הגלאי שלה.

מה שמדדים אלו מראים: מורכבות ופרצי כתיבה מתארים דפוסים בקטע טקסט. דפוסים אלו עשויים לסייע בהסבר מדוע טקסט סומן, אך אין בכוחם לקבוע מי כתב אותו.

מה משמעות הציון של גלאי בינה מלאכותית

תוצאה של "80% בינה מלאכותית" נראית פשוטה להבנה. המשמעות שלה תלויה בגלאי.

GPTZero מתארת את האחוז כהסתברות המשוערת של המודל שלה לכך שבינה מלאכותית או אדם כתבו את המסמך. Turnitin משתמשת באחוז כדי להראות כמה מתוך פרוזת הקריטריונים המודל שלה מסמן ככזה שנוצר פוטנציאלית על ידי בינה מלאכותית או שונה באמצעות כלי בינה מלאכותית מסוימים.

אותה תוית של "80% בינה מלאכותית" עשויה לפיכך לציין:

• הגלאי מעריך כי קיימת סבירות של 80% שבינה מלאכותית ייצרה את המסמך.
• הגלאי סימן 80% מהטקסט שהוא העריך.

אלו ממצאים שונים. האחד מנוסח כתחזית על המסמך כולו. השני מזהה איזה חלק מהטקסט תאם את הקריטריונים של הגלאי.

ציוני הסתברות זקוקים לבדיקה נוספת: כיול. אם גלאי מעניק ל-100 מסמכים הסתברות לבינה מלאכותית של כ-80%, בערך 80 מהם צריכים להיות במקור תוצר של בינה מלאכותית כדי שהציון יהיה מכויול היטב. בדיקת המודל מול דוגמאות בעלות מקורות ידועים מראה עד כמה ההסתברויות שלו תואמות תוצאות אמיתיות.

אחוז עשוי להיראות מדויק בטרם משמעותו או אמינותו ברורות. התווית, שיטת הציון וביצועי הגלאי קובעים כולם מה המספר מסוגל לגבות.

הגדלה

נקודת החיתוך קובעת מה מסומן

על גלאי עדיין להחליט מתי ציון גבוה דיו כדי לפעול על פיו. קו הפרדה זה נקרא נקודת חיתוך, או סף.

נניח שכלי מעריך טקסט בציון מ-0 עד 100 ומסמן כל דבר שמעל 70. הזזת נקודת החיתוך ל-60 תשאיר כל ציון ללא שינוי ותגדיל את מספר המסמכים שיסומנו.

• נקודת חיתוך נמוכה יותר מזהה בדרך כלל יותר כתיבה שנוצרה על ידי בינה מלאכותית, אך גם מסמנת בטעות יותר כתיבה אנושית.
• נקודת חיתוך גבוהה יותר מפחיתה סימונים שגויים, תוך שהיא מאפשרת לכתיבה נוספת שנוצרה על ידי בינה מלאכותית לחמוק ללא זיהוי. פשרה זו חלה על מערכות סיווג באופן כללי.

לשתי הטעויות האפשריות יש שמות שונים.

• תוצאה חיובית שגויה מתרחשת כאשר כתיבה אנושית מסומנת ככזו שנוצרה על ידי בינה מלאכותית.
• תוצאה שלילית שגויה מתרחשת כאשר כתיבה שנוצרה על ידי בינה מלאכותית חומקת ללא זיהוי.

המקום שבו גלאי ממתג את הגבול משקף איזו שגיאה הוא מתוכנן למנוע. בחירה זו נושאת משקל רב יותר כאשר סימון עלול להשפיע על ציון, עבודה או אמינות של מישהו.

כיצד שיעור שגיאה של 2% יכול לייצר קרוב ל-30% סימונים שגויים

ההשפעה של שיעור תוצאות חיוביות שגויות של 2% תלויה בכמות הכתיבה האנושית שהגלאי סוקר.

שקלו קבוצה היпотеטית של 1,000 מאמרים:

• 50 נוצרו על ידי בינה מלאכותית.
• 950 נכתבו על ידי בני אדם.
• הגלאי תופס 90% מהמאמרים שנוצרו על ידי בינה מלאכותית.
• הוא מסמן באופן שגוי 2% מהמאמרים שנכתבו על ידי בני אדם.

הנה מה שקורה:

הגלאי מסמן 64 מאמרים בסך הכל. תשעה-עשר מהם נכתבו על ידי בני אדם, כך שכמעט 30% מהסימונים שלו שגויים.

הנתונים של 2% ו-30% מודדים דברים שונים. הגלאי מסמן באופן שגוי 2% מכלל המאמרים שנכתבו על ידי בני אדם. טעויות אלו מהוות לאחר מכן כמעט 30% מכלל הפריטים שהוא מסמן.

המספרים מסתכמים כך מפני שהגלאי סקר הרבה יותר מאמרים שנכתבו על ידי בני אדם מאשר כאלו שנוצרו על ידי בינה מלאכותית. אפילו שיעור שגיאה קטן יכול לייצר מספר משמעותי של סימונים שגויים כאשר הוא חל על קבוצה גדולה הרבה יותר.

המונח שיעור בסיס מתאר עד כמה נפוצה כתיבה שנוצרה על ידי בינה מלאכותית בחומר הנבדק. ככל שנתח זה משתנה, כך משתנה גם משמעותה של תוצאה חיובית. אם שיעורי הפגיעה האמיתית והשגויה של הגלאי נותרים בעינם, סימון יהיה בדרך כלל אמין יותר כאשר כתיבה שנוצרה על ידי בינה מלאכותית נפוצה באוסף, ופחות אמין כאשר היא נדירה.

מספרים אלו הם היפותטיים ואינם מתארים גלאי מסוים. בבדיקה אמיתית, נתח הכתיבה שנוצר על ידי בינה מלאכותית אינו ידוע בדרך כלל. אי-ודאות זו היא סיבה נוספת להתייחס לסימון כאל סיבה לבחון דברים מקרוב יותר, ולא כהוכחה לאופן שבו נכתב המסמך.

הדיוק תלויי במה שהגלאי נבדק עליו

שיעור דיוק מתאר ביצועים תחת סט מסוים של תנאים. בטרם תחילו שיעור זה על יצירת כתיבה אחרת, בדקו:

• גרסת הגלאי
• אורך הטקסט, שפתו, נושאו ופורמט שלו
• מודל הבינה המלאכותית וההגדרות ששימשו ליצירת חומר הבדיקה
• האם הטקסט נערך או שונה במכוון
• הכותבים המיוצגים בדגימות הכתובות בידי אדם

התחילו מהקלטים הנתמכים של הכלי

Turnitin, לדוגמה, דורשת לפחות 300 מילים של פרוזה ארוכה. היא מציינת שהמודל שלה אינו מזהה באופן אמין שירה, תסריטים, קוד או פורמטים אחרים שאינם פרוזה שנוצרו על ידי בינה מלאכותית. ביצועים חזקים על חיבורים אינם מלמדים אפוא דבר על האופן שבו אותו גלאי יתמודד עם שיר או עם אימייל קצר.

השוו את הבדיקה לכתיבה בעולם האמיתي

בשנת 2024, חוקרים בדקו 12 גלאים באמצעות RAID, מדד יחס הכולל יותר מ-6 מיליון קטעים שנוצרו על ידי בינה מלאכותית על פני 11 מודלים ושמונה תחומי נושא. הביצועים ירדו כאשר הגלאים נתקלו במודלים לא מוכרים, בהגדרות יצירה שונות, או בטקסט שעבר שינוי מכוון.

אתגר משנת 2025 שעשה שימוש ב-RAID הניב תוצאות חזקות יותר בתנאים מוכרים יותר. כמה משתתפים זיהו למעלה מ-99% מהטקסט שנוצר על ידי מכונה תוך שמירה על שיעור תוצאות חיוביות שגויות של 5%. תחומי הנושא ומודלי הבינה המלאכותית ששימשו בבדיקה היו מיוצגים גם בנתוני האימון.

יחד, התוצאות מראות שגלאים יכולים לתפקד היטב על חומר מגוון שאומנו לזהות, בעוד שחומר לא מוכר נותר קשה יותר להערכה.

בידקו מי היה מיוצג

ב מחקר משנת 2023, שבעה גלאים סיווגו באופן שגוי בממוצע 61.3% מתוך 91 חיבורי TOEFL שנכתבו על ידי דוברים שאינם ילידי אנגלית ככאלה שנוצרו על ידי בינה מלאכותית. תוצאה זו חלה על הכלים והדגימות שנבדקו באותה עת. היא גם מראה מדוע שיעור דיוק כולל עשוי שלא לתאר את הביצועים באופן שווה עבור כל קבוצת כותבים.

כיצד לקרוא טענת דיוק: ככל שהטקסט המוגש קרוב יותר לחומר ששימש בבדיקה, כך התוצאה המדווחת רלוונטית יותר.

המסמך הסופי מציג רק חלק מאיך שהוא נכתב

בינה מלאכותית יכולה למלא תפקידים רבים בתהליך הכתיבה. מישהו עשוי להשתמש בה כדי לחקור נושא, לארגן הערות, לתרגם קטע, ללטש משפט או להפיק טיוטה ראשונה.

תהליכי עבודה אלו עשויים להוביל למסמכים שונים מאוד. כותב אחד עשוי להשתמש בבינה מלאכותית לצורך מחקר ולחבר כל משפט באופן עצמאי. אחר עשוי לשכתב מהיסוד טיוטה שנוצרה על ידי בינה מלאכותית. שלישי עשוי להוסיף פסקה אחת שנוצרה למאמר שכתובו אנושי ברובו.

גלאי טקסט רואה את המילים שהוגשו. אין לו גישה להנחיות, לעריכות או להחלטות שקדמו להן. הציון שלו אינו יכול לשחזר את מלוא תתהליך הכתיבה או לקבוע האם המחבר פעל לפי מדיניות מסוימת. לדוגמה,

• בית ספר עשוי לאפשר סיעור מוחות תוך דרישה מהתלמידים לכתוב את המטלה בעצמם.
• מוציא לאור עשוי להתיר עריכה בסיוע בינה מלאכותית כאשר הדבר נחשף.
• מקום עבודה עשוי להתעניין בדיוק עובדתי, בסודיות או בייחוס מקורות יותר מאשר בשאלה האם בינה מלאכותית תרמה לניסוח.

יישום כללים אלו דורש ראיות לגבי התהליך כמו גם לגבי הטקסט המוגמר. היסטוריית טיוטות, הערות מחקר והסבר של הכותב יכולים לספק הקשר שגלאי אינו יכול לספק. Turnitin ממליצה במפורש למחנכים שלא להשתמש בציון הכתיבה בבינה מלאכותית שלה כבסיס יחיד לנקיטת פעולה שלילית נגד סטודנט.

גלאי יכול לזהות שפה הדומה לדפוסים שהוא משייך לבינה מלאכותית. החלטה מה אירע, והאם הדבר הותר, דורשת סקירה רחבה יותר.

סימני מים מוסיפים סוג אחר של אות

חלק ממערכות הבינה המלאכותית יכולות להוסיף דפוס הניתן לזיהוי תוך כדי יצירת הטקסט. תהליך זה נקרא הוספת סימן מים (watermarking).

כיצד פועל סימן מים טקסטואלי

Google DeepMind’s SynthID מספק דוגמה אחת:

1. המערכת מתאימה את הסתברויות האסימונים. היא משנה מעט את הסבירות שהמודל יבחר מילים מסוימות או חלקי מילים.
2. בחירות אלו יוצרות דפוס. סימן המים מתוכנן להישאר בלתי נראה לקורא.
3. גלאי תואם בודק זאת. הגלאי מנתח את הטקסט לאיתור האות הסטטיסטי הצפוי.

מכיוון שהדפוס מוסף במהלך היצירה, הוא יכול לספק מידע הקשור למערכת שיצרה את הטקסט.

מה מגביל את זיהוי סימני המים

• המחולל חייב להוסיף אותו. מערכת הבינה המלאכותית צריכה לתמוך בסימן המים וליישם אותו. היעדרו של סימן מים אינו קובע שאדם כתב את הטקסט.
• חלק ניכר מהדפוס חייב להישאר. Google מדווחת ש-SynthID יכול לעמוד בפני חיתוכים מסוימים, שינויי מילים ופרפראזה קלה. שכתוב נרחב או תרגום עלולים להפחית את רמת הביטחון שלו.

סימני מים יכולים לחזק את הראיות כאשר מערכת תואמת מייצרת את הטקסט ומספיק מן האות נותר. אין בכוחם לזהות כל יצירת כתיבה של בינה מלאכותית.

רשומות אחרות יכולות להשלים חלק גדול יותר מהתמונה

• היסטוריית טיוטות מראה כיצד המסמך השתנה לאורך זמן.
• הערות מחקר מקשרות את הטענות שבו למקורות.
• אינטראקציות חשודות של בינה מלאכותית מראות היכן כלי תרם.

רשומות אלו מספקות הקשר ישיר יותר לגבי תהליך הכתיבה מאשר ציון מבוסס-דפוסים לבדו.

התייחסו לסימון כאל תחילתה של בדיקה

תוצאת גלאי הופכת לשימושית יותר כאשר יש לה תפקיד מוגדר. בטרם יפעלו על סמך סימון, על הבודקים להבין מה הכלי מדד, לוודא שהטקסט נופל תחת תחום האחריות שלו, ולבחון את הראיות האחרות הזמינות.

חמישה בחינות יכולות לעזור:

1. קראו את הגדרת הציון. קבעו האם האחוז מייצג הסתברות ברמת המסמך או את נתח הטקסט שסומן.
2. בדקו את תחום הפעילות של הכלי. ודאו שהשפה, האורך והפורמט של המסמך תואמים למה שהגלאי תומך בו.
3. סקרו את הראיות. בחנו את הקטעים המודגשים לצד טיוטות, הערות מקור והסבר המחבר.
4. יישמו את המדיניות הרלוונטית. זהו אילו שימושים בבינה מלאכותית מותרים ואיזו ראיה תוכיח הפרה.
5. העריכו את היצירה עצמה. בחנו דיוק עובדתי, ייחוס מקורות, מקוריות ואיכות בפני עצמם.

ההשלכות צריכות לעצב את עומק הבדיקה. עורך עשוי להשתמש בסימון כדי להחליט איזה מאמר זקוק לבדיקה נוספת. החלטה המשפיעה על ציון, עבודה או הסכם פרסום דורשת ראיות חזקות יותר והזדמנות למחבר להסביר את התהליך שלו.

גלאי בינה מלאכותית דוחס שיפוט מורכב לתוך ציון אחד. פרשנות של ציון זה דורשת מידע שהמספר אינו מכיל: מה הכלי מדד, באיזה סף השתמש, כיצד ביצע על כתיבה מקבילה, ועד כמה טקסט שנוצר על ידי בינה מלאכותית נפוץ בחומר הנסקור. הציון יכול להפנות תשומת לב. ציון גלאי יכול לתרום לבדיקה זו, אך כל מסקנה לגבי מחברות דורשת גם ראיות לגבי תהליך הכתיבה.

שאלות נפוצות

האם גלאי בינה מלאכותית יכולים לטעות?

כן. תוצאה חיובית שגויה מתרחשת כאשר גלאי מסמן כתיבה אנושית ככזו שנוצרה על ידי בינה מלאכותית. תוצאה שלילית שגויה מתרחשת כאשר כתיבה שנוצרה על ידי בינה מלאכותית אינה מזוהה. תדירותה של כל שגיאה תלויה בגלאי, בסף שלו, ובמידת הדמיון בין הטקסט המוגש לבין החומר ששימש לבדיקתו.

עד כמה מדויקים גלאי בינה מלאכותית?

אין שיעור דיוק יחיד עבור גלאי בינה מלאכותית. הביצועים עשויים להשתנות בהתאם לשפה, לאורך, לנושא, לסגנון הכתיבה, למודל המחולל ולמידת העריכה. טענת דיוק היא השימושית ביותר כאשר תנאי הבדיקה דומים לכתיבה הנבדקת והתוצאה מדווחת על תוצאות חיוביות שגויות וכן על זיהויים מוצלחים.

מה משמעותו של אחוז זיהוי בינה מלאכותית?

ההגדרה תלויה בכלי. היא עשויה לייצג את ההסתברות המשוערת שמסמך נוצר על ידי בינה מלאכותית, את אחוז הטקסט התקף שסומן, או צורה של רמת ביטחון בתוצאה. תיעוד הגלאי צריך להסביר איזו מדידה הוא מדווח.

האם גלאי בינה מלאכותית יכול להוכיח שמישהו השתמש בבינה מלאכותית?

ציון גלאי לבדו אינו יכול להוכיח כיצד נוצר מסמך. הוא מנתח את הטקסט המוגש מבלי לראות את ההנחיות, הטיוטות, העריכות או המחקר שעומדים מאחוריו. בדיקה אמינה שוקלת את הציון לצד ראיות תהליכיות והמדיניות המסדירה שימוש מקובל בבינה מלאכותית.

מדוע כתיבה אנושית מסומנת לעיתים בטעות כבינה מלאכותית?

כתיבה אנושית וכזו שנוצרה על ידי בינה מלאכותית יכולות חלוק את אותם דפוסים סטטיסטיים. שפה נוסחתית, ניסוח צפוי, אוצר מילים מוגבל, או סגנון השונה מנתוני האימון של הגלאי עשויים לתרום לתוצאה חיובית שגויה. מחקרים מצאו גם כי חלק מהגלאים שנבדקו בשנת 2023 סימנו באופן לא מידתי חיבורים שנכתבו על ידי דוברים שאינם ילידי אנגלית.