एआय डिटेक्टर कसे कार्य करतात आणि एकटा स्कोअर कर्तृत्व का सिद्ध करू शकत नाही

AI डिटेक्टरमध्ये निबंध, लेख किंवा ईमेल पेस्ट करा आणि काही सेकंदांनंतर तो “८५% AI” सारखा निकाल परत करू शकतो.

अचूक वाटते. परंतु हे वाचायला देखील सोपे असू शकते.

डिटेक्टरने दस्तऐवज कसा लिहिला गेला याचे निरीक्षण केले नाही. त्याने AI-निर्मित लेखनाशी संबंधित पॅटर्नसाठी तयार मजकुराचे विश्लेषण केले. साधनावर अवलंबून, तो ८५% हा AI ने दस्तऐवज तयार केल्याची अंदाजे शक्यता किंवा डिटेक्टरने चिन्हांकित केलेल्या मजकुराचा हिस्सा दर्शवू शकतो.

त्यामुळे AI डिटेक्टर एक सिग्नल म्हणून उपयुक्त ठरतो, विशेषतः जेव्हा एखाद्या गोष्टीला जवळून पाहण्याची आवश्यकता असते. परंतु को णी मजकूर लिहिला किंवा त्यांनी तो कसा तयार केला याबद्दल निष्कर्ष काढण्यापूर्वी अद्याप गुणाला संदर्भ आणि सहाय्यक पुराव्याची आवश्यकता असते. डिटेक्टर त्यांचे गुण कसे तयार करतात हे समजून घेतल्यास ते काय पकडू शकतात आणि ते कधीकधी का चूक करतात हे दोन्ही स्पष्ट करण्यास मदत होते.

एआय डिटेक्टर म्हणजे काय?

AI लेखन डिटेक्टर तयार केलेल्या मजकुराच्या भागाकडे पाहतो आणि तो भाषा मॉडेलद्वारे उत्पादित केलेल्या लेखनासारखा आहे की नाही याचा अंदाज लावतो. वापरकर्ता सामान्यतः मजकूर पेस्ट करतो किंवा दस्तऐवज अपलोड करतो. काही सेकंदात, साधन लेबल, टक्केवारी, हायलाइट केलेले उतारे किंवा तिन्ही परत करू शकते.

• विद्यार्थ्यांच्या कामाचे पुनरावलोकन करताना शिक्षक आणि शैक्षणिक संस्था त्यांचा वापर करतात.
• प्रकाशक आणि सामग्री टीम सबमिट केलेले किंवा कमिशन केलेले लेखन तपासण्यासाठी त्यांचा वापर करू शकतात, तर काही डिटेक्टर कंपन्या अर्ज सामग्रीचे पुनरावलोकन करणाऱ्या हायरिंग टीमसाठी आवृत्त्या मार्केट करतात.
• शिक्षक, संपादक, क्लायंट किंवा प्लॅटफॉर्म त्याचे वर्गीकरण कसे करू शकतात हे समजून घेण्यासाठी लेखक देखील कधीकधी स्वतःच्या कामाची तपासणी करतात.

टीप: साहित्यिक चोरी तपासणारे (प्लॅगिरिझम चेकर) संबंधित परंतु स्वतंत्र हेतू पूर्ण करतात. जुळणारी भाषा शोधण्यासाठी ते प्रकाशित सामग्री आणि इतर स्त्रोतांसह दस्तऐवजाची तुलना करतात. एआय डिटेक्टर सबमिट केलेल्या लेखनातील पॅटर्नचे मूल्यांकन करतात. पूर्णपणे मूळ उतारा त्यामुळे एआय ध्वज प्राप्त करू शकतो, तर कॉपी केलेले मानवी लेखन एआय पिढीचा कोणताही मजबूत सिग्नल असू शकत नाही.

AI डिटेक्टर मजकुराचे विश्लेषण कसे करतात

बरेच एआय डिटेक्टर वर्गीकरणकर्त्यावर अवलंबून असतात, मानवी आणि एआय-व्युत्पन्न लेखनाच्या उदाहरणांवर प्रशिक्षित मशीन लर्निंग मॉडेल. जसे ते दोघांची तुलना करते, ते शिकते की प्रत्येक क्षेत्रात कोणते पॅटर्न दिसतात, ज्यामध्ये शब्दांची निवड आणि वाक्याच्या रचनेचा समावेश आहे. त्यानंतर ते नवीन मजकुरामध्ये ते पॅटर्न शोधते आणि अंदाज तयार करते.

डिटेक्टर काय शिकतो ते त्याला प्रशिक्षणादरम्यान काय दिसते यावर अवलंबून असते. लेखनाच्या मर्यादित श्रेणीवर प्रशिक्षित केलेले साधन नवीन विषय, अपरिचित शैली किंवा त्याने यापूर्वी न अनुभवलेल्या AI मॉडेलच्या आउटपुटशी संघर्ष करू शकते. विविध प्रकारच्या मजकुरावरील आणि AI मॉडेल्सवरील संशोधनात असे आढळले आहे की अशा परिस्थितीत शोध कार्यक्षमता कमी होऊ शकते.

काही पद्धती वेगळा दृष्टिकोन अवलंबतात. वेगळा वर्गीकरणकर्ता प्रशिक्षित करण्याऐवजी, ते उतारा तयार करण्याची किती शक्यता आहे हे ठरवण्यासाठी भाषा मॉडेलच्या स्वतःच्या संभाव्यता अंदाजांचा वापर करतात.

• उदाहरणार्थ, DetectGPT, AI निर्मितीशी संबंधित पॅटर्न शोधण्यासाठी मूळ मजकुराची किंचित बदल केलेल्या आवृत्त्यांशी तुलना करते. त्याचे संशोधन याला “झिरो-शॉट” पद्धत म्हणून वर्णन करते कारण यासाठी स्वतंत्रपणे प्रशिक्षित डिटेक्टरची आवश्यकता नसते. निकालामध्ये एकूण गुण, हायलाइट केलेली वाक्ये किंवा दोन्ही समाविष्ट असू शकतात.
• GPTZero म्हणते की त्याचे हायलाइट्स दर्शवतात की कोणत्या वाक्यांचा त्याच्या एकूण अंदाजावर सर्वाधिक प्रभाव आहे. कारण ते व्यापक दस्तऐवजाचे देखील मूल्यमापन करते, स्वतःहून स्कॅन केलेले उतार्याला जेव्हा ते लांब तुकड्याचा भाग म्हणून दिसते तेव्हा तोच निकाल मिळू शकत नाही.

प्रत्येक निकाल मजकूर आणि त्याचे मूल्यांकन करणाऱ्या सिस्टम दोन्ही प्रतिबिंबित करतो, म्हणूनच भिन्न डिटेक्टर समान उताऱ्याबद्दल भिन्न निष्कर्षांपर्यंत पोहोचू शकतात.

विस्तृत करा

परप्लेक्झिटी (perplexity) आणि बर्स्टिनेस काय मोजतात

एआय डिटेक्शनच्या स्पष्टीकरणात Perplexity आणि बर्स्टिनेस वारंवार येतात. ते लेखनाच्या तुकड्यात उपयुक्त पॅटर्न उघड करू शकतात, परंतु कोणतीही एक, अद्वितीय एआय मार्ग दर्शवत नाही.

एक संभाव्य गोंधळात टाकणारा तपशील: perplexity येथे दुहेरी कर्तव्य बजावत आहे. लोअरकेसमध्ये, हे सांख्यिकी मोजमाप आहे. कॅपिटल पी सह, ते आपण आहोत.

Perplexity मोजते की मजकूर किती अंदाज लावणारा आहे

भाषा मॉडेल संभाव्य पुढील टोकन्सना संभाव्यता नियुक्त करून मजकूर तयार करतात, जे संपूर्ण शब्द किंवा शब्दांचे भाग असू शकतात. Perplexity मोजते की मॉडेल उताऱ्यामधील टोकन्सचा किती चांगला अंदाज लावू शकते.

• कमी परप्लेक्झिटी (perplexity): मजकूर मॉडेलला परिचित वाटणाऱ्या पॅटर्नचे अनुसरण करतो.
• जास्त परप्लेक्झिटी (perplexity): शब्दरचना कमी अपेक्षित आहे.

स्कोअर मूल्यमापन करणाऱ्या मॉडेलसाठी आणि मजकूर प्रक्रिया करण्याच्या पद्धतीसाठी विशिष्ट आहे, त्यामुळे वेगवेगळ्या सेटअप अंतर्गत समान उताऱ्याला वेगवेगळे पर्पलेक्सिटी स्कोअर मिळू शकतात.

“तुम्हाला काही प्रश्न असल्यास कृपया मला कळवा,” हे वाक्य घ्या. भाषेच्या मॉडेलला कदाचित अनेक वेळा तत्सम शब्दरचना आली असेल, ज्यामुळे प्रत्येक शब्दाचा अंदाज लावणे نسبत सोपे होते. हे आपल्याला वाक्याच्या परिचयाबद्दल काहीतरी सांगते. ते कोणी लिहिले याबद्दल काहीही निर्णायक सांगत नाही.

ते पॅटर्न किती बदलतात हे बर्स्टिनेस मोजतो

AI शोधण्याच्या चर्चेत बर्स्टिनेस (burstiness) चा वापर अधिक सैलपणे केला जातो. हे सामान्यतः वर्णन करते की उताऱ्यामध्ये लेखन किती बदलते. यामध्ये वाक्याची लांबी आणि रचना यातील फरक किंवा अत्यंत अंदाज लावता येण्याजोग्या आणि अधिक आश्चर्यकारक भाषेतील बदल समाविष्ट असू शकतात.

• कमी बर्स्टिनेस: वाक्ये अधिक सुसंगत लांबी, रचना किंवा लयचे पालन करतात.
• उच्च बर्स्टिनेस: लेखन लहान विधानांमध्ये, दीर्घ स्पष्टीकरणांमध्ये आणि कमी अपेक्षित वाक्यांशांमध्ये हलते.

काही एआय-व्युत्पन्न मजकूर सुसंगत आणि अंदाजित असतो, म्हणूनच बर्स्टिनेस डिटेक्शनशी संबंधित झाला. मानवी लेखनात समान गुण असू शकतात, विशेषतः व्यवसाय, शैक्षणिक आणि तांत्रिक संदर्भांमध्ये. जेव्हा प्रॉम्प्ट केले जाते किंवा तसे करण्यासाठी संपादित केले जाते तेव्हा एआय मॉडेल्स अधिक वैविध्यपूर्ण भाषा देखील तयार करू शकतात.

GPTZero चे म्हणणे आहे की पर्पलेक्सिटी आणि बर्स्टिनेस ही त्याच्या डिटेक्टरच्या पूर्वीच्या आवृत्तीने वापरलेली अनेक वैशिष्ट्यांपैकी दोन वैशिष्ट्ये होती.

हे मोजमाप काय दर्शवतात: पर्पलेक्सिटी आणि बर्स्टिनेस उताऱ्यामधील पॅटर्नचे वर्णन करतात. मजकूर का ध्वजांकित केला गेला हे स्पष्ट करण्यात ते पॅटर्न मदत करू शकतात, परंतु ते कोणी लिहिले हे स्थापित करू शकत नाहीत.

एआय डिटेक्टरच्या स्कोअरचा अर्थ काय आहे

“८०% AI” निकाल सरळ दिसतो. त्याचा अर्थ डिटेक्टरवर अवलंबून असतो.

GPTZero या टक्क्यांना एआय किंवा माणसाने दस्तऐवज लिहिला आहे अशी त्याच्या मॉडेलची अंदाजित संभाव्यता म्हणून वर्णन करतो. Turnitin या टक्क्यांचा वापर त्याचे मॉडेल संभाव्यत: एआय-व्युत्पन्न किंवा विशिष्ट एआय साधनांसह सुधारित म्हणून पात्र गद्याचा किती भाग ध्वजांकित करतो हे दर्शवण्यासाठी करतो.

म्हणूनच तोच “८०% AI” लेबल याचा अर्थ असू शकतो:

• डिटेक्टरचा अंदाज आहे की एआयने दस्तऐवज तयार करण्याची ८0% शक्यता आहे.
• डिटेक्टरने मूल्यमापन केलेल्या गद्यापैकी ८०% चिन्हांकित केले आहे.

हे वेगवेगळे निष्कर्ष आहेत. एक संपूर्ण म्हणून दस्तऐवजाबद्दल अंदाज बांधतो. दुसरा ओळखतो की मजकुराचा किती भाग डिटेक्टरच्या निकषांशी जुळतो.

संभाव्यता स्कोअरना आणखी एक तपासणी आवश्यक आहे: कॅलिब्रेशन. जर डिटेक्टरने १०० दस्तऐवजांना ८0% च्या आसपास एआय संभाव्यता दिली, तर स्कोअर सु-कॅलिब्रेट होण्यासाठी त्यापैकी अंदाजे ८0 खरोखर एआय-व्युत्पन्न असावेत. ज्ञात मूळ असलेल्या उदाहरणांविरुद्ध मॉडेलची चाचणी करणे हे दर्शवते की त्याची संभाव्यता वास्तविक परिणामांशी किती जवळून जुळते.

टक्केवारीचा अर्थ किंवा विश्वासार्हता स्पष्ट होण्यापूर्वी ती अचूक दिसू शकते. लेबल, स्कोअरिंग पद्धत आणि डिटेक्टरची कामगिरी हे सर्व ठरवतात की नंबर कशाला समर्थन देऊ शकतो.

विस्तृत करा

कटऑफ ठरवतो की कशाला ध्वजांकित केले जाते

डिटेक्टरला अजूनही हे ठरवावे लागेल की त्यावर कारवाई करण्यासाठी स्कोअर कधी sufficiently उच्च आहे. त्या रेषेला कटऑफ किंवा थ्रेशहोल्ड म्हणतात.

समजा एखादे साधन ० ते १०० पर्यंत मजकुराचे गुण देते आणि ७० च्या वर काहीही चिन्हांकित करते. कटऑफ ६0 वर हलवल्यास चिन्हांकित केलेल्या दस्तऐवजांची संख्या वाढताना प्रत्येक गुण अपरिभाषित राहील.

• एक लोअर कटऑफ सामान्यतः अधिक एआय-व्युत्पन्न लेखन शोधतो परंतु अधिक मानवी लेखनाला देखील चुकीच्या पद्धतीने ध्वजांकित करतो.
• एक हाय्पर कटऑफ चुकीचे ध्वज कमी करते, तर अधिक एआय-व्युत्पन्न लेखनाला शोध न लावता जाऊ देते. हा ट्रेडऑफ विस्तृतपणे वर्गीकरण प्रणालींना लागू होतो.

दोन संभाव्य चुकांना वेगवेगळी नावे आहेत.

• जेव्हा मानवी लेखनाला एआय-निर्मित म्हणून ध्वजांकित केले जाते तेव्हा फॉल्स पॉझिटिव्ह उद्भवतो.
• जेव्हा एआय-निर्मित लेखन शोधले जात नाही तेव्हा फॉल्स निगेटिव्ह उद्भवतो.

डिटेक्टर रेषा कुठे ओढतो हे तो टाळण्यासाठी डिझाइन केलेली चूक प्रतिबिंबित करतो. जेव्हा ध्वज एखाद्या श्रेणीला, नोकरीला किंवा एखाद्याच्या विश्वासार्हतेला प्रभावित करू शकतो तेव्हा त्या निवडीला अधिक वजन असते.

२% त्रुटी दर कसा जवळपास ३0% चुकीचे ध्वज तयार करू शकतो

२% खोट्या-पॉझिटिव्ह दराचा प्रभाव डिटेक्टर किती मानवी लेखनाचे पुनरावलोकन करतो यावर अवलंबून असतो.

१,000 लेखांचा काल्पनिक संच विचारात घ्या:

• ५0 एआय-व्युत्पन्न आहेत.
• ९५0 मानवी-लिखित आहेत.
• डिटेक्टर एआय-व्युत्पन्न लेखांपैकी ९0% पकडतो.
• हे मानवी-लिखीत लेखांपैकी २% चुकीचे ध्वजांकित करते.

येथे काय घडते ते आहे:

डिटेक्टर एकूण ६४ लेख चिन्हांकित करतो. एकोणीस मानवाने लिहिलेले आहेत, त्यामुळे त्याच्या खुणांपैकी जवळपास ३०% चुका आहेत.

२% आणि ३०% आकडे वेगवेगळ्या गोष्टी मोजतात. डिटेक्टर मानवाने लिहिलेल्या सर्व लेखांपैकी २% चुकीच्या पद्धतीने चिन्हांकित करतो. त्यानंतर त्या चुका त्याच्याद्वारे चिन्हांकित केलेल्या सर्व गोष्टींपैकी जवळपास ३०% भाग बनतात.

हे आकडे अशा प्रकारे जोडतात कारण डिटेक्टरने एआय-व्युत्पन्न केलेल्या लेखांपेक्षा मानवी-लिखीत लेखांचे अधिक पुनरावलोकन केले आहे. जेव्हा ते मोठ्या गटाला लागू होते तेव्हा लहान त्रुटी दर देखील चुकीच्या ध्वजांची अर्थपूर्ण संख्या तयार करू शकते.

बेस रेट हा शब्द तपासल्या जात असलेल्या सामग्रीमध्ये एआय-व्युत्पन्न लेखन किती सामान्य आहे याचे वर्णन करतो. जसा तो हिस्सा बदलतो, तसेच सकारात्मक निकालाचा अर्थ बदलतो. जर डिटेक्टरचे ट्रू-पॉझिटिव्ह आणि फॉल्स-पॉझिटिव्ह दर समान राहिले, तर जेव्हा संकलनात एआय-व्युत्पन्न लेखन सामान्य असते तेव्हा ध्वज सामान्यतः अधिक विश्वासार्ह असतो आणि ते दुर्मिळ असते तेव्हा कमी विश्वासार्ह असतो.

हे आकडे काल्पनिक आहेत आणि विशिष्ट डिटेक्टरचे वर्णन करत नाहीत. वास्तविक पुनरावलोकनात, एआय-व्युत्पन्न लेखनाचा हिस्सा सहसा अज्ञात असतो. ती अनिश्चितता म्हणजे दस्तऐवज कसा लिहिला गेला याचा पुरावा देण्याऐवजी ध्वजाला जवळून पाहण्याचे कारण मानण्याचे आणखी एक कारण आहे.

अचूकता कशावर चाचणी केली गेली यावर अवलंबून असते

अमलबजावणीचा दर विशिष्ट परिस्थितींच्या संच अंतर्गत कार्यक्षमता वर्णन करतो. लेखनाच्या दुसऱ्या भागावर तो दर लागू करण्यापूर्वी, तपासा:

• डिटेक्टर आवृत्ती
• मजकुराची लांबी, भाषा, विषय आणि स्वरूप
• चाचणी सामग्री तयार करण्यासाठी वापरलेले AI मॉडेल आणि सेटिंग्ज
• मजकूर संपादित केला गेला किंवा जाणीवपूर्वक सुधारित केला गेला
• मानवी-लिखित नमुन्यांमध्ये प्रतिनिधित्व केलेले लेखक

या उपकरणाच्या समर्थित इनपुटपासून सुरुवात करा

उदाहरणार्थ, Turnitin ला किमान ३00 शब्दांचे लांब-फॉर्म गद्य आवश्यक आहे. त्याचे म्हणणे आहे की त्याचे मॉडेल एआय-व्युत्पन्न कविता, स्क्रिप्ट, कोड किंवा इतर गैर-गद्य स्वरूपांची विश्वासार्हपणे ओळख करत नाही. निबंधांवर मजबूत कार्यक्षमता त्यामुळे समान डिटेक्टर कविता किंवा लहान ईमेल कसे हाताळेल याबद्दल थोडेच सांगते.

चाचणीची वास्तविक जगातील लेखनाशी तुलना करा

२०२४ मध्ये, संशोधकांनी RAID वापरून १२ डिटेक्टरांची चाचणी केली, हा ११ मॉडेल्स आणि आठ विषय क्षेत्रांमधील ६ दशलहून अधिक एआय-व्युत्पन्न उताऱ्यांचा समावेश असलेला बेंचमार्क आहे. जेव्हा डिटेक्टरांना अपरिचित मॉडेल्स, भिन्न निर्मिती सेटिंग्ज किंवा जाणीवपूर्वक सुधारित मजकूर आढळला तेव्हा कार्यक्षमता कमी झाली.

RAID वापरून केलेले २०२५ चे आव्हान अधिक परिचित परिस्थितींमध्ये मजबूत परिणाम उत्पन्न करते. अनेक सहभागींनी ५% खोटा-पॉझिटिव्ह दर राखून मशीन-जनरेट केलेल्या मजकुरापैकी ९९% पेक्षा जास्त शोधून काढले. चाचणीमध्ये वापरलेले विषय क्षेत्र आणि AI मॉडेल प्रशिक्षण डेटामध्ये देखील समाविष्ट केले होते.

एकत्र, परिणाम दर्शवतात की डिटेक्टर त्यांना ओळखण्यासाठी प्रशिक्षित केलेल्या विविध सामग्रीवर चांगले कार्य करू शकतात, तर अपरिचित सामग्रीचे मूल्यांकन करणे कठीण राहते.

कोणाचे प्रतिनिधित्व केले गेले ते पहा

एक २०२३ च्या अभ्यासानुसार, सात डिटेक्टरने मूळ इंग्रजी भाषिक नसलेल्यांनी लिहिलेल्या ९१ TOEFL निबंधांपैकी सरासरी ६१.३% निबंध AI-निर्मित म्हणून चुकीचे वर्गीकृत केले. तो निकाल त्या वेळी चाचणी केलेल्या साधनांना आणि नमुन्यांना लागू होतो. हे असेही दर्शवते की एकूण अचूकता दर प्रत्येक लेखक गटासाठी कार्यक्षमतेचे समान वर्णन करू शकत नाही.

अक्युरसी क्लेम कसा वाचायचा: सबमिट केलेला मजकूर चाचणीत वापरलेल्या सामग्रीच्या जितका जवळ असेल, तितका अहवाल दिलेला परिणाम अधिक संबंधित होईल.

अंतिम दस्तऐवज ते कसे लिहिले गेले याचा केवळ काही भाग दर्शवतो

लेखन प्रक्रियेत एआय अनेक भूमिका बजावू शकते. एखादी व्यक्ती एखाद्या विषयावर संशोधन करण्यासाठी, नोट्स व्यवस्थित करण्यासाठी, उतारा अनुवादित करण्यासाठी, वाक्य पॉलिश करण्यासाठी किंवा पहिला मसुदा तयार करण्यासाठी याचा वापर करू शकते.

ते वर्कफ्लो खूप भिन्न दस्तऐवजांकडे नेऊ शकतात. एक लेखक संशोधनासाठी AI वापरू शकतो आणि प्रत्येक वाक्य स्वतंत्रपणे तयार करू शकतो. दुसरा AI-निर्मित मसुदा मोठ्या प्रमाणात पुन्हा लिहू शकतो. तिसरा अन्यथा मानवाने लिहिलेल्या लेखात एक जनरेट केलेला परिच्छेद जोडू शकतो.

मजकूर डिटेक्टर सबमिट केलेले शब्द पाहतो. त्याच्याकडे त्यापूर्वी आलेल्या प्रॉम्प्ट्स, संपादने किंवा निर्णयांमध्ये प्रवेश नाही. त्याचा स्कोअर संपूर्ण लेखन प्रक्रिया पुनर्निर्मित करू शकत नाही किंवा लेखकाने विशिष्ट धोरणाचे पालन केले आहे की नाही हे ठरवू शकत नाही. उदाहरणार्थ,

• शाळा विद्यार्थ्यांना स्वतः असाइनमेंट लिहिण्याची आवश्यकता असताना विचारमंथन करण्याची परवानगी देऊ शकते.
• जेव्हा एआय-सहाय्यित संपादनाचा खुलासा केला जातो तेव्हा प्रकाशक त्याची परवानगी देऊ शकतो.
• एआयने शब्दरचनेत योगदान दिले की नाही यापेक्षा कामाच्या ठिकाणी तथ्यात्मक अचूकता, गोपनीयतेची काळजी किंवा स्त्रोत वैशिष्ट्याबद्दल अधिक काळजी वाटू शकते.

त्या नियमांची अंमलबजावणी करण्यासाठी तयार मजकुराप्रमाणेच प्रक्रियेबद्दलच्या पुराव्याची देखील आवश्यकता असते. मसुदा इतिहास, संशोधन नोंदी आणि लेखकाचे स्पष्टीकरण असा संदर्भ प्रदान करू शकतात जो डिटेक्टर करू शकत नाही. Turnitin स्पष्टपणे शिक्षकांना विद्यार्थ्याविरुद्ध प्रतिकूल कारवाईचा एकमेव आधार म्हणून त्याच्या AI-लेखन गुणाचा वापर करण्याविरुद्ध सल्ला देते.

डिटेक्टर एआयशी जोडलेल्या पॅटर्नशी जुळणारी भाषा ओळखू शकतो. काय घडले आणि ते परवानगी होते का हे ठरवण्यासाठी व्यापक पुनरावलोकनाची आवश्यकता असते.

वॉटरमार्क एका άλλ वेगळ्या प्रकारचा सिग्नल जोडतात

काही एआय सिस्टम मजकूर तयार करताना ओळखण्यायोग्य पॅटर्न जोडू शकतात. या प्रक्रियेला वॉटरमार्किंग म्हणतात.

मजकूर वॉटरमार्क कसा कार्य करतो

Google DeepMind चे SynthID एक उदाहरण प्रदान करते:

1. सिस्टम टोकन संभाव्यता समायोजित करते. हे मॉडेल काही शब्द किंवा शब्दांचे भाग निवडण्याची शक्यता किंचित बदल करते.
2. त्या निवडी एक पॅटर्न तयार करतात. वॉटरमार्क वाचकाला अदृश्य राहण्यासाठी डिझाइन केला आहे.
3. सुसंगत डिटेक्टर त्याकरिता तपासणी करतो. डिटेक्टर अपेक्षित सांख्यिकी सिग्नलसाठी मजकुराचे विश्लेषण करतो.

पिढीत असताना पॅटर्न जोडला जात असल्याने, ते मजकूर तयार करणाऱ्या सिस्टीमशी जोडलेली माहिती प्रदान करू शकते.

वॉटरमार्क शोधण्यामधे काय मर्यादा येतात

• जनरेटरने ते जोडलेच पाहिजे. AI सिस्टीमला वॉटरमार्कचे समर्थन आणि लागू करणे आवश्यक आहे. अनुपस्थित वॉटरमार्क हे स्थापित करत नाही की एखाद्या व्यक्तीने मजकूर लिहिला आहे.
• पॅटर्नपैकी काही भाग शिल्लक राहिला पाहिजे. Google अहवाल देतो की SynthID काही क्रॉपिंग, शब्द बदल आणि सौम्य पॅराफ्रेझिंग सहन करू शकते. व्यापक पुनर्लेखन किंवा अनुवाद त्याचा आत्मविश्वास कमी करू शकतात.

जेव्हा सुसंगत सिस्टमने मजकूर तयार केला आणि सिग्नलचा पुरेसा भाग शिल्लक राहतो तेव्हा वॉटरमार्क पुरावा बळकट करू शकतात. ते प्रत्येक एआय-व्युत्पन्न लेखनाची ओळख करू शकत नाहीत.

इतर रेकॉर्ड्स चित्राचा आणखी भाग भरून काढू शकतात

• मसुदा इतिहास काळाच्या ओघात दस्तऐवजात कसा बदल झाला हे दर्शवतो.
• संशोधन नोंदी त्याच्या दाव्यांना स्रोतांशी जोडतात.
• उघड केलेल्या AI संवाद सांगतात की एका टूलने कुठे योगदान दिले.

हे रेकॉर्ड्स केवळ पॅटर्न-आधारित स्कोअरपेक्षा लेखन प्रक्रियेबद्दल अधिक थेट संदर्भ प्रदान करतात.

ध्वजाला पुनरावलोकनाची सुरुवात म्हणून माना

जेव्हा डिटेक्टर निकालाची परिभाषित भूमिका असते तेव्हा तो अधिक उपयुक्त ठरतो. एखाद्या चिन्हावर कारवाई करण्यापूर्वी, पुनरावलोकनकर्त्यांनी साधनाचे काय मोजले हे समजून घेतले पाहिजे, मजकूर त्याच्या व्याप्तीच्या अंतर्गत येतो याची पुष्टी केली पाहिजे आणि उपलब्ध इतर पुराव्यांची तपासणी केली पाहिजे.

पाच तपासण्या मदत करू शकतात:

1. गुणाची व्याख्या वाचा. टक्केवारी दस्तऐवज-स्तरीय संभाव्यता दर्शवते की चिन्हांकित केलेल्या मजकुराचा हिस्सा दर्शवते हे निर्धारित करा.
2. या उपकरणाची व्याप्ती तपासा. दस्तऐवजाची भाषा, लांबी आणि स्वरूप डिटेक्टर जे समर्थन करतो त्याच्याशी जुळतात याची पुष्टी करा.
3. पुराव्याचे पुनरावलोकन करा. मसुदे, स्त्रोत नोट्स आणि लेखकाच्या स्पष्टीकरणासह हायलाइट केलेले उतार तपासा.
4. संबंधित धोरण लागू करा. एआयचा कोणता वापर मंजूर आहे आणि उल्लंघनाचे कोणते पुरावे दर्शवतील ते ओळखा.
5. कामाचेच मूल्यांकन करा. तथ्यात्मक अचूकता, स्त्रोत विशेषता, मौलिकता आणि गुणवत्तेचे त्यांच्या स्वतःच्या शर्तींवर पुनरावलोकन करा.

गुंतागुंतीमुळे पुनरावलोकनाची खोली ठरली पाहिजे. कोणकोणत्या लेखाला पुन्हा पाहण्याची गरज आहे हे ठरवण्यासाठी संपादक चिन्हाचा वापर करू शकतात. ग्रेड, नोकरी किंवा प्रकाशन करारावर परिणाम करणाऱ्या निर्णयासाठी भक्कम पुराव्याची आणि लेखकाला त्यांची प्रक्रिया स्पष्ट करण्याची संधी मिळण्याची गरज असते.

एआय डिटेक्टर एका जटिल निर्णयाला स्कोअरमध्ये संकुचित करतो. त्या स्कोअरचा अर्थ लावण्यामधे त्या नंबरमध्ये नसलेली माहिती आवश्यक असते: साधना काय मोजले, त्याने कोणता थ्रेशहोल्ड वापरला, तुलनेने लेखनावर त्याने कशी कामगिरी केली आणि पुनरावलोकन करत असलेल्या सामग्रीमध्ये एआय-व्युत्पन्न मजकूर किती सामान्य आहे. स्कोअर लक्ष निर्देशित करू शकतो. डिटेक्टर स्कोअर त्या पुनरावलोकनात योगदान देऊ शकतो, परंतु कर्तृत्वाबद्दलच्या कोणत्याही निष्कर्षासाठी लेखन प्रक्रियेबद्दल पुराव्याची देखील आवश्यकता असते.

सतत विचारले जाणारे प्रश्न

एआय डिटेक्टर चुकीचे असू शकतात का?

होय. जेव्हा डिटेक्टर मानवी लेखनाला AI-निर्मित म्हणून चिन्हांकित करतो तेव्हा खोटा पॉझिटिव्ह (false positive) उद्भवतो. जेव्हा AI-निर्मित लेखन अनिर्दिष्ट राहते तेव्हा खोटा निगेटिव्ह (false negative) उद्भवतो. प्रत्येक त्रुटीची वारंवारता डिटेक्टर, त्याचा थ्रेशोल्ड आणि सबमिट केलेला मजकूर त्याची चाचणी घेण्यासाठी वापरलेल्या सामग्रीशी किती जवळून साधर्म्य राखतो यावर अवलंबून असते.

AI डिटेक्टर किती अचूक आहेत?

AI डिटेक्टरसाठी कोणताही एक अचूकता दर नाही. भाषा, लांबी, विषय, लेखनाची शैली, जनरेटिंग मॉडेल आणि संपादनाचे प्रमाण यानुसार कार्यप्रदर्शन बदलू शकते. जेव्हा चाचणीची परिस्थिती पुनरावलोकन केल्या जाणाऱ्या लेखनासारखी असते आणि निकाल यशस्वी शोधण्याप्रमाणेच खोटे पॉझिटिव्ह रिपोर्ट करतो तेव्हा अचूकतेचा दावा सर्वात उपयुक्त असतो.

एआय-डिटेक्शन टक्क्याचा अर्थ काय आहे?

व्याख्या साधनावर अवलंबून असते. हे दस्तऐवज एआय-व्युत्पन्न असण्याची अंदाजित संभाव्यता, पात्र मजकुराची टक्केवारी ध्वजांकित केलेली किंवा निकालातील आत्मविश्वासाचे स्वरूप दर्शवू शकते. डिटेक्टराच्या कागदपत्रांमध्ये कोणते मोजमाप अहवाल दिला जातो हे स्पष्ट केले पाहिजे.

एखाद्याने AI वापरले हे AI डिटेक्टर सिद्ध करू शकतो का?

फक्त डिटेक्टरचा गुण एखाда दस्तऐवज कसा तयार केला गेला हे सिद्ध करू शकत नाही. ते मागील प्रॉम्प्ट्स, मसुदे, संपादने किंवा संशोधन न पाहता सबमिट केलेल्या मजकुराचे विश्लेषण करते. एक विश्वासार्ह पुनरावलोकन प्रक्रियेच्या पुराव्यासोबत आणि स्वीकार्य AI वापराचे नियमन करणाऱ्या धोरणासोबत गुणाचा विचार करते.

मानवी लेखन कधीकधी एआय म्हणून का ध्वजांकित केले जाते?

मानवी आणि AI-निर्मित लेखन समान सांख्यिकीय पॅटर्न सामायिक करू शकतात. सूत्रबद्ध भाषा, अंदाज लावता येण्याजोगी शब्दरचना, मर्यादित शब्दसंग्रह किंवा डिटेक्टरच्या प्रशिक्षण डेटापेक्षा भिन्न असलेली शैली खोट्या पॉझिटिव्हमध्ये योगदान देऊ शकते. संशोधनात असेही आढळले आहे की २०२३ मध्ये चाचणी केलेल्या काही डिटेक्टरने मूळ इंग्रजी भाषिक नसलेल्यांनी लिहिलेले निबंध प्रमाण नसलेल्या पद्धतीने चिन्हांकित केले.