ವಾಸ್ತವಿಕ ಅನುಭವದಿಂದ ಕಲಿಯುವುದು

ನಮ್ಮ ಉತ್ಪನ್ನಗಳೊಂದಿಗೆ ಬಳಕೆದಾರರು ನೈಜ ಜಗತ್ತಿನಲ್ಲಿ ಹೇಗೆ ಸಂವಹನ ನಡೆಸುತ್ತಾರೆ ಎಂಬುದು ಮಾದರಿ ತರಬೇತಿಗೆ ಅಮೂಲ್ಯವಾದ ಮೂಲವಾಗಿದೆ. ಡೇಟಾ ಸಮೃದ್ಧವಾಗಿದೆ, ಬಳಕೆದಾರರ ಕಾರ್ಯಗಳ ನೈಜ ವಿತರಣೆಯನ್ನು ಪ್ರತಿಬಿಂಬಿಸುತ್ತದೆ ಮತ್ತು ಸಂಶ್ಲೇಷಿತ ಪರಿಸರಗಳು ಕಳೆದುಕೊಳ್ಳಬಹುದಾದ ಬಳಕೆದಾರರ ತಿದ್ದುಪಡಿಗಳು ಮತ್ತು ಸಾಧನ ವೈಫಲ್ಯಗಳನ್ನು ಸೆರೆಹಿಡಿಯುತ್ತದೆ.

ನೈಜ-ಜಗತ್ತಿನ ಡೇಟಾದಿಂದ ಕಲಿಯುವ ಸಾಮಾನ್ಯ ವಿಧಾನವು ನಿರಾಕರಣೆ ಮಾದರಿ ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ಆಗಿದೆ: ಪ್ರತಿ ಸೆಷನ್‌ನ ಫಲಿತಾಂಶವನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡಿ, ಯಶಸ್ವಿ ಅವನ್ನು ಉಳಿಸಿ, ಮತ್ತು ಅವುಗಳನ್ನು ಅನುಕರಿಸಲು ಮಾದರಿಯನ್ನು ತರಬೇತಿಗೊಳಿಸಿ. ಆದರೆ ಯಶಸ್ವಿ ಫಲಿತಾಂಶವೆಂದರೆ ಪ್ರತಿಯೊಂದು ಹಂತವೂ ಸರಿಯಾಗಿತ್ತು ಎಂದರ್ಥವಲ್ಲ, ಆದ್ದರಿಂದ ಸಂಪೂರ್ಣ ಪಥವನ್ನು ಅನುಕರಿಸುವುದು ಉತ್ತಮ ಮಧ್ಯಂತರ ನಡವಳಿಕೆಗಳ ಜೊತೆಗೆ ಕೆಟ್ಟ ಮಧ್ಯಂತರ ನಡವಳಿಕೆಗಳನ್ನು ಕೂಡ ಬಲಪಡಿಸುವ ಅಪಾಯವನ್ನು ಹೊಂದಿದೆ. ವಿಫಲ ಸೆಷನ್‌ಗಳನ್ನು ತಿರಸ್ಕರಿಸುವುದರಿಂದ ಮಾದರಿ ಎಲ್ಲಿ ಕಡಿಮೆಯಾಗಿದೆ ಎಂಬ ಮುಖ್ಯ ಸಾಕ್ಷ್ಯವೂ ಕಳೆದುಹೋಗುತ್ತದೆ.

ಯಶಸ್ವಿ ಮತ್ತು ಯಶಸ್ವಿಯಾಗದ ಎರಡೂ ಸೆಷನ್‌ಗಳಿಂದ ಕಲಿಯಲು ನಾವು ರಿಜೆಕ್ಷನ್ ಸ್ಯಾಂಪ್ಲಿಂಗ್ ಫೈನ್-ಟ್ಯೂನಿಂಗ್ ಅನ್ನು ಹಿಂಟ್-ಗೈಡೆಡ್ ಸೆಲ್ಫ್-ಡಿಸ್ಟಿಲೇಶನ್‌ನೊಂದಿಗೆ ಸಂಯೋಜಿಸುತ್ತೇವೆ. ಹಿಂಟ್ ಎಂದರೆ ಮಾದರಿಯು ತಪ್ಪು ಮಾಡಿದಾಗ ಈಗಾಗಲೇ ಹೊಂದಿರುವ ಮಾಹಿತಿಯಲ್ಲಿ ಬೇರೂರಿರುವ ಒಂದು ছোট ತಿದ್ದುಪಡಿ ಸೂಚನೆ. ಯಶಸ್ವಿ ಸೆಷನ್‌ಗಳ ಉಪಯುಕ್ತ ಹಂತಗಳು ಅನುಕರಣೆಯ ಗುರಿಗಳಾಗಿ ಉಳಿಯುತ್ತವೆ, ಆದರೆ ಗ್ರೌಂಡೆಡ್ ಹಿಂಟ್‌ಗಳು ತಪ್ಪಿಸಬಹುದಾದ ತಪ್ಪುಗಳನ್ನು ತಿದ್ದುಪಡಿಯ ಗುರಿಗಳನ್ನಾಗಿ ಮಾಡುತ್ತವೆ.

ಕಾರ್ಯವು ಅಂತಿಮವಾಗಿ ಯಶಸ್ವಿಯಾಯಿತೇ ಎಂಬುದರ ಮೇಲಿ, ಬಳಕೆದಾರರ ತಿದ್ದುಪಡಿಗಳು ಮತ್ತು ಸಾಧನ ದೋಷಗಳು ದಾರಿಯಲ್ಲಿ ಏನು ತಪ್ಪಾಗಿದೆ ಎಂಬುದರ ಕುರಿತು ಮೇಲ್ವಿಚಾರಣೆಯನ್ನು ಸೇರಿಸುತ್ತವೆ. ಆ ಪರಿಸರಗಳು ಮತ್ತು ನೈಜ-ಪ್ರಪಂಚದ ಬಳಕೆ ನಡುವಿನ ಅಂತರವನ್ನು ಕಡಿಮೆ ಮಾಡಲು ಸಹಾಯ ಮಾಡಲು ನಾವು ಸಂಶ್ಲೇಷಿತ ಪರಿಸರದಲ್ಲಿ ಬಲವರ್ಧನೆ ಕಲಿಕೆಯ ನಂತರ ಈ ಹಂತವನ್ನು ಅನ್ವಯಿಸುತ್ತೇವೆ.

ಲೈವ್ ಬಳಕೆಯಲ್ಲಿ, ತರಬೇತಿಯ ನಂತರದ GLM-5.2 ಚೆಕ್‌ಪಾಯಿಂಟ್, ಮುಂಚಿನ ತರಬೇತಿ ಪಡೆದ ಚೆಕ್‌ಪಾಯಿಂಟ್‌ಗೆ ಹೋಲಿಸಿದರೆ ಟೂಲ್-ಕಾಲ್ ವೈಫಲ್ಯಗಳನ್ನು 21.2% ರಷ್ಟು ಕಡಿಮೆ ಮಾಡಿದೆ. GLM-5.3 ಗಾಗಿ, ತರಬೇತಿಯ ನಂತರದ ಮಾದರಿಯು ಸ್ಟಾಕ್ ಮಾದರಿಗೆ ಹೋಲಿಸಿದರೆ ಟೂಲ್-ಕಾಲ್ ವೈಫಲ್ಯಗಳನ್ನು 33.0% ರಷ್ಟು ಮತ್ತು ಮಧ್ಯಮ ಅಥವಾ ಹೆಚ್ಚಿನ ಬಳಕೆದಾರರ ಅತೃಪ್ತಿಯ ಸರಾಸರಿ ಅಂದಾಜು ಸಂಭವನೀಯತೆಯನ್ನು 17.2% ರಷ್ಟು ಕಡಿಮೆ ಮಾಡಿದೆ.

ಸಂಶ್ಲೇಷಿತ ಕಾರ್ಯಗಳು ಸುಲಭವಾಗಿ ಪರಿಶೀಲಿಸಬಹುದಾದ ಫಲಿತಾಂಶಗಳೊಂದಿಗೆ ನಿಯಂತ್ರಿತ ಸಮಸ್ಯೆಗಳನ್ನು ರಚಿಸಲು ನಮಗೆ ಅವಕಾಶ ಮಾಡಿಕೊಡುತ್ತವೆ, ಆದರೆ ಅವು ಸಾಮಾನ್ಯವಾಗಿ ಒಂದೇ ಪ್ರಾಂಪ್ಟ್‌ಗೆ ಸೀಮಿತವಾಗಿರುತ್ತವೆ ಮತ್ತು ನಾವು ಸ್ಪಷ್ಟವಾಗಿ ವಿನ್ಯಾಸಗೊಳಿಸುವ ದೃಶ್ಯಗಳನ್ನು ಮಾತ್ರ ಒಳಗೊಳ್ಳಬಹುದು.

ಇದಕ್ಕೆ ವ್ಯತಿರಿಕ್ತವಾಗಿ, ನೈಜ-ಪ್ರಪಂಚದ ಸೆಷನ್‌ಗಳಲ್ಲಿನ ಬಳಕೆದಾರರು ಬಹು ಟರ್ನ್‌ಗಳ ಸಂವಹನದಲ್ಲಿ ತೆರೆದುಕೊಳ್ಳುವ ಸೆಷನ್‌ಗಳಿಗೆ ವೈವಿಧ್ಯಮಯ ಸೂಚನೆಗಳು, ಸಂದರ್ಭ ಮತ್ತು ಸಾಧನ ಸಂಯೋಜನೆಗಳನ್ನು ತರುತ್ತಾರೆ. ಅಂತಹ ನೈಜ-ಪ್ರಪಂಚದ ಬಳಕೆಯು ಸ್ವಾಭಾವಿಕವಾಗಿ ತಪ್ಪುಗಳ ಎರಡು ಅಮೂಲ್ಯವಾದ ಸಂಕೇತಗಳನ್ನು ನೀಡುತ್ತದೆ: ಬಳಕೆದಾರರ ತಿದ್ದುಪಡಿಗಳು ಏಜೆಂಟ್ ತಮಗೆ ಬೇಕವಾದುದನ್ನು ತಲುಪಿಸುವಲ್ಲಿ ಎಲ್ಲಿ ವಿಫಲವಾಯಿತು ಎಂಬುದನ್ನು ಬಹಿರಂಗಪಡಿಸುತ್ತವೆ, ಮತ್ತು ಸಾಧನ ದೋಷಗಳು ನೈಜ ಪರಿಸರದಲ್ಲಿ ಅದರ ಕ್ರಿಯೆಗಳು ಎಲ್ಲಿ ಮುರಿದುಬಂದವು ಎಂಬುದನ್ನು ತೋರಿಸುತ್ತವೆ. ನಮ್ಮ ಮಾದರಿ ಪೈಪ್‌ಲೈನ್ ವೈಯಕ್ತಿಕವಾಗಿ ಗುರುತಿಸಬಹುದಾದ ಮಾಹಿತಿಯನ್ನು (PII) ಹೊಂದಿರುವ ಮತ್ತು ಆಯ್ಕೆ ಮಾಡಿಕೊಂಡ ಬಳಕೆದಾರರ ಸೆಷನ್‌ಗಳನ್ನು ಹೊರಗಿಡುವ ಮೂಲಕ ಬಳಕೆದಾರರ ಗೌಪ್ಯತೆ ಮತ್ತು ತರಬೇತಿ ಆಯ್ಕೆಗಳನ್ನು ಗೌರವಿಸುತ್ತದೆ.

ಆದ್ದರಿಂದ ನೈಜ-ಪ್ರಪಂಚದ ಡೇಟಾ ನಮಗೆ ವೈಫಲ್ಯದ ಪ್ರಕರಣಗಳನ್ನು ನೀಡುತ್ತದೆ ಅದನ್ನು ಸಂಶ್ಲೇಷಿತ ಪರಿಸರವು ಬಹಿರಂಗಪಡಿಸುವುದಿಲ್ಲ ಮತ್ತು ವೈಫಲ್ಯವು ಎಲ್ಲಿ ಸಂಭವಿಸಿದೆ ಎಂಬುದು ಈಗಾಗಲೇ ಅಡಕವಾಗಿರುವ ಜೊತೆಗೆ ಬರುತ್ತದೆ.

ನೈಜ-ಪ್ರಪಂಚದ ಡೇಟಾದ ಮೇಲೆ ತರಬೇತಿ ನೀಡುವಾಗ, ಪ್ರಮಾಣಿತ rejection sampling fine-tuning (RFT) ಉತ್ತಮ ಮಧ್ಯಂತರ ಕ್ರಿಯೆಗಳನ್ನು ಕೆಟ್ಟವುಗಳಿಂದ ಪ್ರತ್ಯೇಕಿಸಲು ಬಳಕೆದಾರ ಮತ್ತು ಸಾಧನ ಪ್ರತಿಕ್ರಿಯೆಯನ್ನು ಸ್ಪಷ್ಟವಾಗಿ ಬಳಸದೆ, ಅವುಗಳ ಅಂತಿಮ ಫಲಿತಾಂಶಗಳ ಆಧಾರದ ಮೇಲೆ ಯಶಸ್ವಿ ಸೆಷನ್‌ಗಳನ್ನು ಆಯ್ಕೆ ಮಾಡುತ್ತದೆ. ಏಜೆಂಟ್ ಕೆಟ್ಟ ಸಾಧನ ಕರೆಯಿಂದ ಚೇತರಿಸಿಕೊಳ್ಳಬಹುದು ಅಥವಾ ಬಳಕೆದಾರರ ಪ್ರತಿಕ್ರಿಯೆಯ ನಂತರ ತಪ್ಪನ್ನು ಸರಿಪಡಿಸಬಹುದು ಮತ್ತು ಕೊನೆಯಲ್ಲಿ ಸರಿಯಾದ ಔಟ್‌ಪುಟ್ ಅನ್ನು ತಲುಪಿಸಬಹುದು.

ವಿಫಲವಾದ ಸೆಷನ್‌ಗಳನ್ನು ತಿರಸ್ಕರಿಸುವುದು ಮಾದರಿ ದಕ್ಷತೆಯನ್ನು ಮಿತಿಗೊಳಿಸುತ್ತದೆ. ಉತ್ತಮ ಫಲಿತಾಂಶವನ್ನು ತಲುಪದ ಸೆಷನ್ ಸಹ ಉಪಯುಕ್ತ ತರಬೇತಿ ಸಂಕೇತಗಳಾಗಿ ಸ್ಪಷ್ಟವಾದ, ತಪ್ಪಿಸಬಹುದಾದ ತಪ್ಪನ್ನು ಬಹಿರಂಗಪಡಿಸಬಹುದು.

ಯಾವ ಸೆಷನ್‌ಗಳು ಅನುಕರಿಸಲು ಯೋಗ್ಯವಾದ ನಡವಳಿಕೆಯನ್ನು ಹೊಂದಿವೆ ಮತ್ತು ಯಾವ ಟರ್ನ್‌ಗಳು ಸರಿಪಡಿಸಲು ಯೋಗ್ಯವಾದ ತಪ್ಪುಗಳನ್ನು ಹೊಂದಿವೆ ಎಂಬ ಎರಡು ನಿರ್ಧಾರಗಳನ್ನು ಪ್ರತ್ಯೇಕಿಸುವ ಮೂಲಕ ನಾವು ಈ ಮಿತಿಯನ್ನು ಪರಿಹರಿಸುತ್ತೇವೆ. ಡೇಟಾ ಪೈಪ್‌ಲೈನ್ ಈ ನಿರ್ಧಾರಗಳನ್ನು ಪ್ರತ್ಯೇಕವಾಗಿ ಮಾಡುತ್ತದೆ, ನಂತರ ಮಾದರಿ ಟರ್ನ್‌ಗಳಿಗೆ ಮೂರು ಚಿಕಿತ್ಸೆಗಳಲ್ಲಿ ಒಂದನ್ನು ನಿಯೋಜಿಸುತ್ತದೆ:

ಅನುಕರಿಸಿ: ಯಶಸ್ವಿ ಸೆಷನ್‌ಗಳಲ್ಲಿನ ದೋಷ-ಅಲ್ಲದ ಟರ್ನ್‌ಗಳು ಸಾಮಾನ್ಯ Cross-Entropy (CE) loss ಅನ್ನು ಸ್ವೀಕರಿಸುತ್ತವೆ, ಇದು ದಾಖಲಿತ ಟೋಕನ್‌ಗಳ ಸಂಭವನೀಯತೆಯನ್ನು ಹೆಚ್ಚಿಸುತ್ತದೆ.
ಸರಿ: ಯಶಸ್ವಿ ಮತ್ತು ಯಶಸ್ವಿಯಾಗದ ಎರಡೂ ಸೆಷನ್‌ಗಳಲ್ಲಿ, ಮಾನ್ಯವಾದ ಸುಳಿವನ್ನು ಹೊಂದಿರುವ ದೋಷ ಟರ್ನ್‌ಗಳು Kullback–Leibler (KL) divergence loss ಅನ್ನು ಸ್ವೀಕರಿಸುತ್ತವೆ, ಇದು ಸುಳಿವನ್ನು ನೋಡಿದಾಗ ಅದು ಮಾಡುವ ಮುಂದಿನ-ಟೋಕನ್ ಮುನ್ಸೂಚನೆಗಳ ಕಡೆಗೆ ಮಾದರಿಯನ್ನು ಚಲಿಸುತ್ತದೆ.
ಸಂದರ್ಭವಾಗಿ ಇಟ್ಟುಕೊಳ್ಳಿ: ಮಾನ್ಯೀಕರಿಸಿದ ಸೂಚನೆ ಇಲ್ಲದ ವಿಫಲ ಸೆಷನ್‌ಗಳ ತಿರುವುಗಳು, ಮತ್ತು ಯಾವುದಾದರೂ ಸೆಷನ್ ಪ್ರಕಾರದಲ್ಲಿ ಮಾನ್ಯೀಕರಿಸಿದ ಸೂಚನೆ ಇಲ್ಲದ ಗುರುತಿಸಲಾದ ಕೆಟ್ಟ ತಿರುವುಗಳು, ಸಂದರ್ಭವಾಗಿ ಸೇವೆ ಮಾಡುತ್ತವೆ ಆದರೆ ಯಾವುದಾದರೂ ನಷ್ಟವನ್ನು ಪಡೆಯುವುದಿಲ್ಲ.

ಪರಿಣಾಮವಾಗಿ, ಯಶಸ್ವಿ ಸೆಷನ್‌ಗಳು ಅನುಕರಣೆ ಮತ್ತು ತಿದ್ದುಪಡಿ ಗುರಿ ಎರಡನ್ನೂ ಪೂರೈಸಬಹುದು, ಆದರೆ ಯಶಸ್ವಿಯಾಗದ ಸೆಷನ್‌ಗಳು ತಿದ್ದುಪಡಿ ಗುರಿಗಳನ್ನು ಮಾತ್ರ ಒದಗಿಸುತ್ತವೆ. ಸಿಸ್ಟಮ್, ಬಳಕೆದಾರ ಮತ್ತು ಸಾಧನ ಔಟ್‌ಪುಟ್ ಸೇರಿದಂತೆ ಉಳಿದ ಎಲ್ಲಾ ಟರ್ನ್‌ಗಳು ಸಂದರ್ಭವಾಗಿ ಉಳಿಯುತ್ತವೆ.

ಸೆಷನ್- ರೂಟಿಂಗ್ ರೇಖಾಚಿತ್ರ: ಯಶಸ್ವಿ ಸೆಷನ್‌ಗಳು CE ಅನುಕರಣೆ ಮತ್ತು ಅರ್ಹ ಸುಳಿವು ಪಡೆದ ತಿದ್ದುಪಡಿಗಳನ್ನು ಒದಗಿಸುತ್ತವೆ; ಯಶಸ್ವಿಯಾಗದ ಸೆಷನ್‌ಗಳು ಅರ್ಹ ತಿದ್ದುಪಡಿಗಳನ್ನು ಮಾತ್ರ ಒದಗಿಸುತ್ತವೆ. — ಪ್ರಸ್ತುತ ಸೆಷನ್ ರೂಟಿಂಗ್ ಮತ್ತು ಸಹಾಯಕ-ವಿಷಯ ಮುಖವಾಡಗಳು. ಯಶಸ್ವಿ ಸೆಷನ್‌ಗಳು ಅನುಕರಣೆ ಗುರಿಗಳಿಗೆ ಕೊಡುಗೆ ನೀಡುತ್ತವೆ; ಉಳಿಸಿಕೊಂಡ ಪ್ರತಿಕ್ರಿಯೆ ದಾಖಲೆಗಳು ಸೆಷನ್ ಯಶಸ್ವಿಯಾಗದಿದ್ದರೂ ಸಹ ಸುಳಿವು ಪಡೆದ ತಿದ್ದುಪಡಿಗಳಿಗೆ ಕೊಡುಗೆ ನೀಡಬಹುದು. ಇತರ ವಿಷಯವು ಸಂದರ್ಭವಾಗಿ ಉಳಿಯುತ್ತದೆ. ಅಪೂರ್ಣ ಸೆಷನ್‌ಗಳನ್ನು ಹೊರಗಿಡಲಾಗಿದೆ. ಅಂತಿಮ-ಅಲ್ಲದ ಯೀಲ್ಡ್/ಸ್ಟಾಪ್-ಟೋಕನ್ CE ವಿನಾಯಿತಿಯನ್ನು ಚಿತ್ರಿಸಲಾಗಿಲ್ಲ ಮತ್ತು ಈ ರೇಖಾಚಿತ್ರವು ಹಿಂದಿನ ಚೆಕ್‌ಪಾಯಿಂಟ್ ಬಳಸಿದ ಮಿಶ್ರಣವನ್ನು ಸ್ಥಾಪಿಸುವುದಿಲ್ಲ.

ಅನುಕರಣೆ ಭಾಗವು ಪ್ರಮಾಣಿತ RFT ಅನ್ನು ಬಳಸುತ್ತದೆ. ತಿದ್ದುಪಡಿ ಭಾಗವು On-Policy Self-Distillation (OPSD) ಅನ್ನು ಬಳಸುತ್ತದೆ: ಅದೇ ಮಾದರಿಯು ಶಿಕ್ಷಕ ಮತ್ತು ವಿದ್ಯಾರ್ಥಿಯಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ, ಶಿಕ್ಷಕರಿಗೆ ಸವಲತ್ತು ಪಡೆದ ಮಾಹಿತಿಯನ್ನು ನೀಡಲಾಗುತ್ತದೆ. ಇಲ್ಲಿ, ಆ ಸವಲತ್ತು ಪಡೆದ ಮಾಹಿತಿಯು ತಪ್ಪಿಸಬಹುದಾದ ತಪ್ಪನ್ನು ವಿವರಿಸುವ ಸಣ್ಣ ಸುಳಿಯಾಗಿದೆ. ಸುಳಿವನ್ನು ನೀಡದೆ ಶಿಕ್ಷಕರ ಮುಂದಿನ-ಟೋಕನ್ ಮುನ್ಸೂಚನೆಗಳಿಗೆ ಹೊಂದಿಕೆಯಾಗಲು ನಾವು ವಿದ್ಯಾರ್ಥಿಗೆ ತರಬೇತಿ ನೀಡುತ್ತೇವೆ.

ಎರಡೂ ಭಾಗಗಳು ಮುಖ್ಯ. ತಿದ್ದುಪಡಿ-ಮಾತ್ರ ತರಬೇತಿಯು ಶಾರ್ಟ್‌ಕಟ್ ಅನ್ನು ಬಹಿರಂಗಪಡಿಸಬಹುದು: ತಿದ್ದುಪಡಿಯನ್ನು ಕಲಿಯುವುದಕ್ಕಿಂತ ಹೆಚ್ಚಾಗಿ ಸಂದರ್ಭವನ್ನು ನಿರ್ಲಕ್ಷಿಸುವ ಮೂಲಕ ಶಿಕ್ಷಕ ಮತ್ತು ವಿದ್ಯಾರ್ಥಿ ಒಪ್ಪಿಕೊಳ್ಳಬಹುದು. CE ಪದವು ತರಬೇತಿಯನ್ನು ಉಪಯುಕ್ತ ನಡವಳಿಕೆಗೆ ಲಂಗರು ಹಾಕುತ್ತದೆ, ಸಂದರ್ಭವನ್ನು ನಿರ್ಲಕ್ಷಿಸುವುದರಿಂದ ಬರುವ ಒಪ್ಪಿಗೆಯನ್ನು ನಿರಾಕರಿಸಲು ಸಹಾಯ ಮಾಡುತ್ತದೆ.

ತರಬೇತಿ ಪಡೆದ ನಂತರದ ವಿದ್ಯಾರ್ಥಿಯು ನಂತರ Computer ನಲ್ಲಿ ಮಾದರಿ ಆಯ್ಕೆಯಾಗುತ್ತಾರೆ. ತರಬೇತಿ ಪೈಪ್‌ಲೈನ್‌ನ ಮತ್ತೊಂದು ಸುತ್ತಿಗೆ ಪ್ರವೇಶಿಸುವ ಮೊದಲು ಲೈವ್ ಬಳಕೆಯ ತಾಜಾ ಸೆಷನ್‌ಗಳು ಅದೇ ಅರ್ಹತೆ ಮತ್ತು ಗೌಪ್ಯತೆ ಫಿಲ್ಟರ್‌ಗಳ ಮೂಲಕ ಹೋಗುತ್ತವೆ.

ಮುಂದೆ, ಅನುಕರಣೆ ಮತ್ತು ತಿದ್ದುಪಡಿ ಎರಡನ್ನೂ ಒಳಗೊಂಡಿರುವ ಕಾಂಕ್ರೀಟ್ ಉದಾಹರಣೆಯ ಮೂಲಕ ನಾವು ಹೋಗುತ್ತೇವೆ.

ಅಧಿಕೃತ ದಸ್ತಾವೇಜನ್ನು ಬಳಸಿ Python 3.13 ನಲ್ಲಿ asyncio ಬದಲಾವಣೆಗಳ ಹೋಲಿಕೆಯನ್ನು ಬಳಕೆದಾರರು ಕೇಳುವ ಅಂತಿಮ ಯಶಸ್ವಿ ಸೆಷನ್ ಅನ್ನು ಪರಿಗಣಿಸಿ. ನಮ್ಮ ಸಾಧನ ದಸ್ತಾವೇಜನ್ನು search.web ಯು url ಕ್ಷೇತ್ರವನ್ನು ಹೊಂದಿರುವ ಹಿಟ್‌ಗಳ ಪಟ್ಟಿಯನ್ನು ಹಿಂದಿರುಗಿಸುತ್ತದೆ ಎಂದು ಹೇಳುತ್ತದೆ.

ಹೋಲಿಕೆಗಾಗಿ ಸಾಕ್ಷ್ಯವನ್ನು ಸಂಗ್ರಹಿಸುವುದರ ಒಂದು ಭಾಗವಾಗಿ ಮಾದರಿಯು ಮೊದಲಿಗೆ ಒಂದು ಆವೃತ್ತಿಗಾಗಿ ಮಾನ್ಯವಾದ ಹುಡುಕಾಟವನ್ನು ನಡೆಸುತ್ತದೆ, ಇದು ಅನುಕರಿಸಲು ಉತ್ತಮ ನಡವಳಿಕೆಯಾಗಿದೆ.

ಆದರೆ ಮುಂದಿನ ಕೋಡ್-ನಿರ್ವಹಣಾ ಕರೆ ತಪ್ಪಾಗಿ ಆ ಪಟ್ಟಿಯನ್ನು ಡಿಕ್ಷನರಿಯಾಗಿ ಪರಿಗಣಿಸುತ್ತದೆ. ಕೋಡ್ ಟೂಲ್ TypeError: list indices must be integers or slices, not str ಅನ್ನು ಮರಳಿಸುತ್ತದೆ. ಕರೆಗೂ ಮೊದಲು ಮರಳಿಸುವ ಪ್ರಕಾರವನ್ನು ದಾಖಲೆ ಮಾಡಲಾಗಿದ್ದರಿಂದ, ಇದು ಮಾದರಿ ತಪ್ಪಿಸಬಹುದಾಗಿದ್ದ ತಪ್ಪಾಗಿದೆ. ಸರಿಯಾದ ಕರೆಯೊಂದಿಗಿನ ಸೂಚನೆಯನ್ನು ಆ ಕ್ರಿಯೆಯನ್ನು ಸರಿಪಡಿಸಲು ರಚಿಸಬಹುದು.

ವಿವರಣಾತ್ಮಕ ಕೋಡಿಂಗ್ ಸೆಷನ್: ಸಿಸ್ಟಮ್ ಮತ್ತು ಬಳಕೆದಾರರ ಇನ್‌ಪುಟ್ ಮತ್ತು ಸಾಧನ ದೋಷಗಳು ಸಂದರ್ಭವಾಗಿ ಉಳಿಯುತ್ತವೆ; ಉಪಯುಕ್ತ ದಾಖಲಿತ ಹುಡುಕಾಟ ಮತ್ತು ಮರುಪಡೆಯುವಿಕೆ ಕರೆಗಳು ಯಶಸ್ವಿ ಸೆಷನ್‌ನಲ್ಲಿ CE ಅನ್ನು ಪಡೆಯುತ್ತವೆ; ಗುರುತಿಸಲಾದ ದೋಷಯುಕ್ತ ಪಟ್ಟಿ ಲುಕಪ್ ನೆಲೆಯುಳ್ಳ ಸುಳಿವನ್ನು ಪಡೆದ ಶಿಕ್ಷಕರ ಕಡೆಗೆ KL ಅನ್ನು ಪಡೆಯುತ್ತದೆ. — ವಿವರಣಾತ್ಮಕ ಕೋಡಿಂಗ್ ಸೆಷನ್ ಮೂರು ತರಬೇತಿ ಪಾತ್ರಗಳನ್ನು ತೋರಿಸುತ್ತದೆ: ಸಂದರ್ಭ-ಮಾತ್ರ ಇನ್‌ಪುಟ್‌ಗಳು ಮತ್ತು ಸಾಧನ ಔಟ್‌ಪುಟ್‌ಗಳು (ಬೂದು), ಉಪಯುಕ್ತ ದಾಖಲಿತ ಕರೆಗಳ CE ಅನುಕರಣೆ (ಗಢ), ಮತ್ತು ಗುರುತಿಸಲಾದ ತಪ್ಪಿನ KL ತಿದ್ದುಪಡಿ (ಟೀಲ್). ಇಲ್ಲಿ, ಮಾದರಿಯು ಹುಡುಕಾಟ ಹಿಟ್‌ಗಳ ಪಟ್ಟಿಯನ್ನು ತಪ್ಪಾಗಿ ನಿಘಂಟೆಂದು ಪರಿಗಣಿಸುತ್ತದೆ; ಹಿಂದಿನ ಸಾಧನ ದಸ್ತಾವೇಜಿನಲ್ಲಿ ನೆಲೆಯುಳ್ಳ ಶಿಕ್ಷಕ-ಮಾತ್ರ ಸುಳಿವು ತಿದ್ದುಪಡಿಗೆ ಮಾರ್ಗದರ್ಶನ ನೀಡುತ್ತದೆ. ಪೂರ್ಣಗೊಂಡ ಸೆಷನ್ ಯಶಸ್ವಿಯಾಗಿದೆ ಎಂದು ನಿರ್ಣಯಿಸಿದಾಗ ಮಾತ್ರ CE ಗುರಿಗಳು ಅನ್ವಯಿಸುತ್ತವೆ, ಆದರೆ ಯಶಸ್ವಿಯಾಗದ ಸೆಷನ್ ಇನ್ನೂ ಅರ್ಹ KL ತಿದ್ದುಪಡಿ ಗುರಿಯನ್ನು ಒದಗಿಸಬಹುದು.

ತರಬೇತಿ ಪೈಪ್‌ಲೈನ್ ನಾಲ್ಕು ಹಂತಗಳನ್ನು ಹೊಂದಿದೆ: ಸೆಷನ್‌ಗಳನ್ನು ಆಯ್ಕೆಮಾಡಿ ಮತ್ತು ಅವುಗಳ ಫಲಿತಾಂಶಗಳನ್ನು ನಿರ್ಣಯಿಸಿ, ಬಳಕೆದಾರರ ಪ್ರತಿಕ್ರಿಯೆ ಮತ್ತು ಸಾಧನ ದೋಷಗಳಿಂದ ತಪ್ಪುಗಳನ್ನು ಗುರುತಿಸಿ ಮತ್ತು ಸುಳಿವುಗಳನ್ನು ರಚಿಸಿ, ಶಿಕ್ಷಕ ಮತ್ತು ವಿದ್ಯಾರ್ಥಿ ಇಬ್ಬರಿಂದಲೂ ಮುಂದಿನ-ಟೋಕನ್ ಸಂಭವನೀಯತೆಗಳನ್ನು ಉತ್ಪಾದಿಸಿ ಮತ್ತು ಸಂಯೋಜಿತ CE ಮತ್ತು KL ಲಾಸ್‌ನೊಂದಿಗೆ ಮಾದರಿಗೆ ತರಬೇತಿ ನೀಡಿ.

ಸಾಂಪಲಿಂಗ್ ಪೈಪ್‌ಲೈನ್ GLM 5.2 ಮೂಲಕ ಸೇವೆಗೊಳಿಸಲಾದ ನೈಜ ಜಗತ್ತಿನ Computer ಸೆಷನ್‌ಗಳ ತರಬೇತಿಗೆ ಅರ್ಹ ಉಪಸಮೂಹದಿಂದ ಡೇಟಾವನ್ನು ತೆಗೆದುಕೊಳ್ಳುತ್ತದೆ. ಈ ಕಾರ್ಯಪ್ರವಾಹಕ್ಕಾಗಿ ಉದಾಹರಣೆಗಳನ್ನು ಆಯ್ಕೆ ಮಾಡುವ ಮೊದಲು ತರಬೇತಿ opt-outs ಮತ್ತು ಪೈಪ್‌ಲೈನ್‌ನ PII-ಸಂಬಂಧಿತ ಹೊರತಾಕಿಕೆಗಳನ್ನು ಅನ್ವಯಿಸಲಾಗುತ್ತದೆ.

ಆರಂಭಿಕ ಸ್ಕ್ರೀನಿಂಗ್ ಪ್ರಕ್ರಿಯೆ, LLM ನ್ಯಾಯಾಧೀಶನಿಂದ ಐದು ಅಂಕಗಳ ಕಾರ್ಯ-ಕಷ್ಟತೆಯ ಮಾಪಕದಲ್ಲಿ 4 ಅಥವಾ 5 ಎಂದು ರೇಟ್ ಮಾಡಲಾದ ಅಭ್ಯರ್ಥಿಗಳನ್ನು ಆಯ್ಕೆಮಾಡಿ, ಅವರನ್ನು 2 ಗುಂಪುಗಳಾಗಿ ವಿಭಜಿಸುತ್ತದೆ:

ಬಳಕೆದಾರ-ಪ್ರತಿಕ್ರಿಯೆ ಗುಂಪು ನಿಜವಾದ ಬಳಕೆದಾರರ ಫಾಲೋ-ಅಪ್ ಅಥವಾ ಮಧ್ಯಮ-ದಿಂದ-ಹೆಚ್ಚಿನ ಅತೃಪ್ತಿ ಫ್ಲಾಗ್ ಹೊಂದಿರುವ ಸೆಷನ್‌ಗಳನ್ನು ಹೊಂದಿದೆ. ಕಲಿಕೆಗಾಗಿ ಈ ಹೆಚ್ಚಿನ-ಉದ್ದೇಶದ ಫಾಲೋ-ಅಪ್‌ಗಳು ನಮಗೆ ಅತ್ಯಂತ ಉಪಯುಕ್ತವೆಂದು ಕಂಡುಬಂದಿವೆ: ಬಳಕೆದಾರರು ಕಾರ್ಯವನ್ನು ಪೂರ್ಣಗೊಳಿಸಲು ಸಕ್ರಿಯವಾಗಿ ಪ್ರಯತ್ನಿಸುತ್ತಿದ್ದಾರೆ ಮತ್ತು ಅವರ ತಿದ್ದುಪಡಿಗಳು ಮಾದರಿಯು ಏನು ಕಳೆದುಕೊಂಡಿದೆ ಎಂಬುದನ್ನು ನಿಖರವಾಗಿ ಸೂಚಿಸುತ್ತವೆ.
ಸಾಧನ-ದೋಷ ಗುಂಪು ನಿಯಮ-ಆಧಾರಿತ ಪರಿಶೀಲನೆಗಳಿಂದ ಫ್ಲಾಗ್ ಮಾಡಲಾದ ವಿಫಲ ಕರೆಗಳನ್ನು ಹೊಂದಿರುವ ಸೆಷನ್‌ಗಳನ್ನು ಹೊಂದಿದೆ, ಗುರುತಿಸಲ್ಪಟ್ಟ ಮೂಲಸೌಕರ್ಯ ವೈಫಲ್ಯಗಳು ಮತ್ತು ನಿರಾಕರಿಸಿದ ಅಧಿಕಾರವನ್ನು ಹೊರತುಪಡಿಸಿ.

ಬಳಕೆದಾರರ ವಿನಂತಿಯ ವಿರುದ್ಧ ಅಂತಿಮ ವಿತರಣೆಯನ್ನು ನಿರ್ಣಯಿಸಲು ನಂತರ ಇಬ್ಬರು LLM ತೀರ್ಪುಗಾರರು ಮೌಲ್ಯಮಾಪನ ಮಾಡುತ್ತಾರೆ; ಸೆಷನ್ ಅನ್ನು "ಯಶಸ್ವಿ" ಎಂದು ಲೇಬಲ್ ಮಾಡಲು ಇಬ್ಬರೂ ತೀರ್ಪುಗಾರರು ಸಕಾರಾತ್ಮಕ ತೀರ್ಪನ್ನು ಹಿಂತಿರುಗಿಸಬೇಕು. ಆರ್ಟಿಫ್ಯಾಕ್ಟ್ ತಲುಪಿಸುವ ಸಂದರ್ಭಗಳಿಗಾಗಿ, ಫಲಿತಾಂಶದ ಹಂತವು ವಿತರಣೆಯನ್ನು ಮರುನಿರ್ಮಿಸಬಹುದು ಮತ್ತು ಪರಿಶೀಲಿಸಬಹುದು, ಆ ಹಂತವು ವಿಫಲವಾದರೆ ಅದರ ಪಠ್ಯ-ಆಧಾರಿತ ನಿರ್ಣಯಗಳಿಗೆ ಹಿಂತಿರುಗಬಹುದು. ಬಳಕೆದಾರರಿಗಾಗಿ ಕಾಯುತ್ತಿರುವ ಕೆಲಸದಂತಹ ಅಪೂರ್ಣವೆಂದು ವರ್ಗೀಕರಿಸಲಾದ ಸೆಷನ್‌ಗಳನ್ನು ಹೊರಗಿಡಲಾಗಿದೆ.

ಈ ಹಂತವು ಕಲಿಕಾ ಸಂಕೇತಗಳ ಸಂಭಾವ್ಯ ಮೂಲಗಳನ್ನು ಗುರುತಿಸುತ್ತದೆ; ಆದಾಗ್ಯೂ, ಪ್ರತಿ ದೋಷವು ಮಾದರಿಗೆ ಕಾರಣವಲ್ಲ, ಏಕೆಂದರೆ ಕೆಲವು ಅಸ್ಪಷ್ಟ ಸೂಚನೆಗಳು ಅಥವಾ ಮೂಲಸೌಕರ್ಯ ವೈಫಲ್ಯಗಳಿಂದ ಉದ್ಭವಿಸುತ್ತವೆ. ಯಾವ ಅಭ್ಯರ್ಥಿ ತಪ್ಪುಗಳು ವಾಸ್ತವವಾಗಿ ತಪ್ಪಿಸಬಹುದಾದವು ಮತ್ತು ತರಬೇತಿಗೆ ಸೂಕ್ತವಾದವು ಎಂಬುದನ್ನು ನಂತರದ ಟಿಪ್ಪಣಿಯು ನಿರ್ಧರಿಸುತ್ತದೆ.

ಬಳಕೆದಾರ-ಪ್ರತಿಕ್ರಿಯೆ ಗುಂಪಿನಲ್ಲಿ ಒಂದು ಮಾದರಿ ಸೆಷನ್ ಅನ್ನು ಪರಿಗಣಿಸಿ, ಅಲ್ಲಿ ಬಳಕೆದಾರರು "How do I find my w3 on paychex" ಎಂದು ಕೇಳುತ್ತಾರೆ. ಮಾದರಿಯು "w3" ಅನ್ನು W-2 ಗಾಗಿ ಟೈಪೋ ಎಂದು ಪರಿಗಣಿಸುತ್ತದೆ, W-2 ಸೂಚನೆಗಳಿಗಾಗಿ ಹುಡುಕುತ್ತದೆ ಮತ್ತು ಆ ಫಾರ್ಮ್ ಅನ್ನು ಹೇಗೆ ಕಂಡುಹಿಡಿಯಬೇಕು ಎಂದು ವಿವರಿಸುತ್ತದೆ. ಬಳಕೆದಾರರ ಫಾಲೋ-ಅಪ್, "I meant the W-3 transmittal form," ಸೆಷನ್ ಅಂತಿಮವಾಗಿ ಯಶಸ್ವಿಯಾದರೂ ಸಹ ತಪ್ಪನ್ನು ಗುರುತಿಸುತ್ತದೆ.

ದೂರು ತಪ್ಪನ್ನು ಪತ್ತೆಹಚ್ಚಲು ಸಹಾಯ ಮಾಡುತ್ತದೆ, ಆದರೆ ಮೂಲ ಕಾರಣವು ಮೊದಲಿನ “w3” ಅನ್ನು W-2 ಎಂದು ಪುನರ್ವ್ಯಾಖ್ಯಾನಿಸುವ ತೀರ್ಮಾನವಾಗಿದೆ. ಮೂಲ ವಿನಂತಿ ತಪ್ಪನ್ನು ತಪ್ಪಿಸಬಹುದಾಗಿತ್ತು: ಮಾದರಿ W-3 ಅನ್ನು ಉಳಿಸಬಹುದಾಗಿತ್ತು ಅಥವಾ ಸ್ಪಷ್ಟೀಕರಣವನ್ನು ಕೇಳಬಹುದಾಗಿತ್ತು. ತಿಳಿದುಬರುತ್ತದೆ, ದೂರುಗೆ ಮೊದಲು ಇರುವ ಕೊನೆಯ ಸಹಾಯಕ ತಿರುವು ಮೂಲ ಕಾರಣವಾಗಿರುವುದು ಅರ್ಧ ಸಂದರ್ಭಗಳಲ್ಲಿ ಮಾತ್ರ.

ನಮ್ಮ ಟಿಪ್ಪಣಿ ಪೈಪ್‌ಲೈನ್ ಪ್ರತಿ ಬಳಕೆದಾರ-ಪ್ರತಿಕ್ರಿಯೆ ಸೆಷನ್‌ನಲ್ಲಿ ಕಾರಣ ಮತ್ತು ಪರಿಣಾಮವನ್ನು ವ್ಯವಸ್ಥಿತವಾಗಿ ಮ್ಯಾಪ್ ಮಾಡುತ್ತದೆ. ಪರಿಶೀಲಕರು ಮೊದಲು ತಪ್ಪಿದ ಅವಶ್ಯಕತೆ ಅಥವಾ ಹಿಂದಿನ ಸಂದರ್ಭದಿಂದ ಬೆಂಬಲಿತವಾದ ಉದ್ದೇಶಕ್ಕಾಗಿ ಸ್ಕ್ರೀನ್ ಮಾಡುತ್ತಾರೆ. ನಂತರ ಮೂರು LLM ತೀರ್ಪುಗಾರರು ಜವಾಬ್ದಾರಿಯುತ ಟರ್ನ್‌ಗಳನ್ನು ಗುರುತಿಸುತ್ತಾರೆ, ನಿರ್ದಿಷ್ಟ ಟರ್ನ್‌ನಲ್ಲಿ ಒಪ್ಪಿಕೊಳ್ಳಲು ಕನಿಷ್ಠ ಇಬ್ಬರು ಬೇಕಾಗುತ್ತದೆ. ಕೆಲವೊಮ್ಮೆ ಹಿಂದಿನ ಹೇಳಿಕೆಯು ಅವಶ್ಯಕತೆಯನ್ನು ಸ್ಪಷ್ಟವಾಗಿ ಸ್ಥಾಪಿಸುತ್ತದೆ. ಇತ್ತೀಚಿನ ಪ್ರಕರಣಗಳಲ್ಲಿ, ಯಾವುದೇ ಒಂಟಿ ಪೂರ್ವಭಾವಿ ಹೇಳಿಕೆಯು ಹಾಗೆ ಮಾಡುವುದಿಲ್ಲ, ಆದರೆ ಮುಂಚಿನ ಸಂಭಾಷಣೆಯ ಬಹು ತುಣುಕುಗಳು ಒಟ್ಟಾಗಿ ಉದ್ದೇಶಿತ ನಡವಳಿಕೆಯನ್ನು ಅನುಮಾನಾಸ್ಪದವಾಗಿಸುತ್ತವೆ. ಈ ವಿನ್ಯಾಸವು ದೂರಿಗೆ ಕೊನೆಯ ಉತ್ತರಿಗೆ ಮಾತ್ರ ಕಾರಣವೆಂದು ಆರೋಪಿಸುವ ಬದಲು ಅದನ್ನು ಹಿಂದಿನ ಮೂಲ ತ ತಪ್ಪಿಗೆ ಸಂಪರ್ಕಿಸಲು ಅನುವು ಮಾಡಿಕೊಡುತ್ತದೆ.

ಸುಳಿವನ್ನು ಸ್ವೀಕರಿಸುವ ಮೊದಲು, ಗುರುತಿಸಲಾದ ಟರ್ನ್‌ಗೆ ಮೊದಲು ಲಭ್ಯವಿರುವ ಮಾಹಿತಿಯಿಂದ ಅದರ ಸರಿಪಡಿಸುವ ಹಕ್ಕುಗಳು ಅನುಸರಿಸುತ್ತವೆಯೇ ಎಂದು ಪೈಪ್‌ಲೈನ್ ಪರಿಶೀಲಿಸುತ್ತದೆ. ಈ ಪರಿಶೀಲನೆಗಳು ಹಿನ್ನೋಟ ಪಕ್ಷಪಾತವನ್ನು ಕಡಿಮೆ ಮಾಡುವ ಗುರಿಯನ್ನು ಹೊಂದಿವೆ, ಅಲ್ಲಿ ದೂರಿನಲ್ಲಿ ಬಹಿರಂಗಗೊಂಡ ಹೊಸ ಆದ್ಯತೆಯನ್ನು ಮಾದರಿಯು ಈಗಾಗಲೇ ತಿಳಿದಿರಬೇಕಾದ ಸಂಗತಿಯೆಂದು ಪರಿಗಣಿಸಲಾಗುತ್ತದೆ.

ಈ ಉದಾಹರಣೆಯಲ್ಲಿ, ಸುಳಿವು W-2 ಗಿಂತ Paychex ನಲ್ಲಿ W-3 ಟ್ರಾನ್ಸ್‌ಮಿಟ್ಟಲ್ ಫಾರ್ಮ್‌ಗಾಗಿ ಹುಡುಕಲು ಮಾದರಿಗೆ ಹೇಳುತ್ತದೆ, ಅಥವಾ ವಿನಂತಿಯು ಅಸ್ಪಷ್ಟವಾಗಿದ್ದರೆ ಬಳಕೆದಾರರು ಯಾವ ಫಾರ್ಮ್ ಅನ್ನು ಅರ್ಥೈಸುತ್ತಾರೆ ಎಂದು ಕೇಳಿ. ತಿದ್ದುಪಡಿಯು ಅಂತಿಮ ಉತ್ತರವನ್ನಷ್ಟೇ ಅಲ್ಲದೆ ಹಿಂದಿನ ವ್ಯಾಖ್ಯಾನ ಮತ್ತು ಹುಡುಕಾಟ ನಿರ್ಧಾರವನ್ನು ಗುರಿಯಾಗಿಸುತ್ತದೆ. ಮೂಲ ಟರ್ನ್ ಬದಲಾಗದೆ ಉಳಿಯುತ್ತದೆ; ಟಿಪ್ಪಣಿಯು is_bad_turn: true ಮತ್ತು ಖಾಲಿಯಲ್ಲದ hint ಅನ್ನು ಸೇರಿಸುತ್ತದೆ.

W-3 ವಿನಂತಿಯನ್ನು W-2 ಎಂದು ತಪ್ಪಾಗಿ ಅರ್ಥೈಸಲಾಗುತ್ತದೆ; ನಂತರದ ದೂರನ್ನು ಹಿಂದಿನ ಹುಡುಕಾಟ ನಿರ್ಧಾರಕ್ಕೆ ಪತ್ತೆಹಚ್ಚಲಾಗುತ್ತದೆ ಮತ್ತು ಹಿಂದಿನ ಸಾಕ್ಷ್ಯದ ವಿರುದ್ಧ ಪರಿಶೀಲಿಸಲಾಗುತ್ತದೆ. — ದೂರುವನ್ನು ಹಿಂದಿನ ತಪ್ಪಿಗೆ ಹೇಗೆ ಹಿಂಬಾಲಿಸಲಾಗುತ್ತದೆ ಎಂಬುದನ್ನು ತೋರಿಸುವ ನಿಜವಾದ ಸೆಷನ್, ಮೇಲ್ಛಾಪಿತ ಟಿಪ್ಪಣಿ ಪ್ರಕ್ರಿಯೆಯೊಂದಿಗೆ. ಬಳಕೆದಾರರು Paychex ಮೇಲೆ “w3” ಅನ್ನು ಕೇಳಿದರು, ಆದರೆ ಮಾದರಿ ಅದನ್ನು W-2 ಗೆ ಟೈಪೊ ಎಂದು ಪರಿಗಣಿಸಿ ತಪ್ಪು ಫಾರ್ಮ್ ಅನ್ನು ಹುಡುಕಿತು. ಪ್ರಸ್ತಾವಕ ಒಮ್ಮತವು ಮೂಲ ಕಾರಣವನ್ನು ಗುರುತಿಸುತ್ತದೆ, ಆದರೆ ಎರಡು ಗ್ರೌಂಡಿಂಗ್ ಪರಿಶೀಲನೆಗಳು ಸಾಕ್ಷ್ಯವು ತಪ್ಪಿಗಿಂತ ಮುಂಚೆಯೇ ಇರುವುದೇ ಮತ್ತು ಸೂಚನೆಯ ದಾವೆಗಳು ಆ ಸಮಯದಲ್ಲಿ ಲಭ್ಯವಿದ್ದ ಮಾಹಿತಿಯಿಂದ ಅನುಸರಿಸುವುದೇ ಎಂಬುದನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡುತ್ತವೆ. ಅಂಗೀಕರಿಸಲಾದ ಟಿಪ್ಪಣಿಗಳು ಮೂಲ ಪಠ್ಯವನ್ನು ಉಳಿಸಿಕೊಳ್ಳುತ್ತವೆ ಮತ್ತು ಮರುಬರೆಯಲಾದ ಗುರಿಗಳ ಬದಲು ಗುರುತುಗಳು ಮತ್ತು ಸೂಚನೆಗಳನ್ನು ಸೇರಿಸುತ್ತವೆ.

ಏಜೆಂಟ್ recency_filter: "year" ರೊಂದಿಗೆ ಹುಡುಕುವ ಹುಡುಕಾಟ ಕರೆಯೊಂದಿಗೆ ಸಾಧನ-ದೋಷ ಗುಂಪಿನಲ್ಲಿ ಮತ್ತೊಂದು ಸೆಷನ್ ಅನ್ನು ಪರಿಗಣಿಸಿ, ಆದರೆ ಅನುಮತಿಸಲಾದ ಮೌಲ್ಯಗಳು “day,” “week,” ಅಥವಾ “month” ಆಗಿರುವುದರಿಂದ ಸಾಧನವು ಅದನ್ನು ತಿರಸ್ಕರಿಸುತ್ತದೆ. ಇದು ಸ್ಪಷ್ಟವಾದ ಸ್ಕೀಮಾ ಉಲ್ಲಂಘನೆಯಾಗಿದೆ.

ಟೂಲ್-ದೋಷ ಮಾರ್ಗವು ತಿಳಿದ ತಪ್ಪುಗಳಿಗೆ ನಿರ್ಧಿಷ್ಟ ನಿಯಮಗಳನ್ನು ಮತ್ತು ಅಸ್ಪಷ್ಟ ಪ್ರಕರಣಗಳಿಗೆ ಮಾದರಿ ತೀರ್ಪನ್ನು ಬಳಸುತ್ತದೆ. ದೋಷ ಸಂದೇಶ ಮಾತ್ರವೂ ಮಾದರಿಯನ್ನು ದೋಷಾರೋಪಣೆ ಮಾಡಲು ಸಾಕಾಗುವುದಿಲ್ಲ; ನ್ಯಾಯನಿರ್ಣಯಗೊಂಡ ಸರಿಪಡಿಕೆ ಮಾದರಿ ಟೂಲ್ ಸ್ಕೀಮಾ, ಸಿಸ್ಟಮ್ ಸೂಚನೆಗಳು, ಅಥವಾ ಹಿಂದಿನ ಸಂಭಾಷಣೆಯಿಂದ ತಿಳಿದಿರಬಹುದಾದದ್ದಕ್ಕೆ ಸೂಚಿಸಬೇಕು.

ಹುಡುಕಾಟ ಕರೆಯು ಅಮಾನ್ಯವಾದ recency_filter ಮೌಲ್ಯ year ಅನ್ನು ಬಳಸುತ್ತದೆ; ಪಟ್ಟಿ ಮಾಡಲಾದ ಮೌಲ್ಯವನ್ನು ಬಳಸಲು ಅಥವಾ ಐಚ್ಛಿಕ ಕ್ಷೇತ್ರವನ್ನು ಬಿಟ್ಟುಬಿಡಲು ನೆಲೆಯುಳ್ಳ ಸುಳಿವು ಮಾದರಿಗೆ ಸೂಚನೆ ನೀಡುತ್ತದೆ. — ವರದಿಯ ಅಮಾನ್ಯ ಹುಡುಕಾಟ ವಾದವು ಪ್ರಸ್ತುತ ಸಾಧನ-ದೋಷ ವಿಧಾನವನ್ನು ವಿವರಿಸುತ್ತದೆ. ಸ್ಕೀಮಾನು ಈ ತಪ್ಪನ್ನು ತಪ್ಪಿಸಬಹುದಾದಂತೆ ಮಾಡುತ್ತದೆ; ಕೇವಲ ಪ್ರಸಾರ ನಿಲುಗಡೆಯು ಅದನ್ನು ಮಾಡುವುದಿಲ್ಲ. ಮೂಲ ಕರೆಯು ದಾಖಲೆಯಲ್ಲಿ ಉಳಿಯುತ್ತದೆ ಮತ್ತು ನೆಲೆಯುಳ್ಳ ಸುಳಿವನ್ನು ಪಡೆಯುತ್ತದೆ. ಕ್ಷೇತ್ರವು ಐಚ್ಛಿಕವಾಗಿದ್ದರೆ ಪಟ್ಟಿ ಮಾಡಲಾದ ಮೌಲ್ಯ ಅಥವಾ ಬಿಟ್ಟುಬಿಡುವುದನ್ನು ಸುಳಿವು ಅನುಮತಿಸುತ್ತದೆ; ಇದು ಪ್ರತಿಯೊಂದು ವಿನಂತಿಗೂ "month" ಬೇಕೆಂದು ಬಯಸುವುದಿಲ್ಲ.

ಇಲ್ಲಿ, ಸುಳಿವು ವಿಫಲವಾದ ಕರೆಯನ್ನು ಹೆಸರಿಸುತ್ತದೆ, ಮೌಲ್ಯೀಕರಣ ದೋಷವನ್ನು ಒಳಗೊಂಡಿರುತ್ತದೆ ಮತ್ತು ಅನುಮತಿಸಲಾದ ಮೌಲ್ಯವನ್ನು ಬಳಸಲು ಅಥವಾ ಕ್ಷೇತ್ರವು ಐಚ್ಛಿಕವಾಗಿದ್ದರೆ ಅದನ್ನು ಬಿಟ್ಟುಬಿಡಲು ಮಾದರಿಗೆ ಸೂಚನೆ ನೀಡುತ್ತದೆ.

ಒಮ್ಮೆ ಟರ್ನ್ ಅನ್ನು ಗುರುತಿಸಿದರೆ, ತರಬೇತುದಾರನು ಅದೇ ಚೆಕ್‌ಪಾಯಿಂಟ್ ಅನ್ನು ಎರಡು ಬಾರಿ ರನ್ ಮಾಡುತ್ತಾನೆ: ಒಮ್ಮೆ ಶಿಕ್ಷಕರಾಗಿ ಮತ್ತು ಒಮ್ಮೆ ವಿದ್ಯಾರ್ಥಿಯಾಗಿ. ಶಿಕ್ಷಕನು ಹಿಂಟ್ ಅನ್ನು ನೋಡುತ್ತಾನೆ; ವಿದ್ಯಾರ್ಥಿಯು ನೋಡುವುದಿಲ್ಲ.

ಎರಡೂ ಪಾಸ್‌ಗಳು ಶಿಕ್ಷಕರ ಬಲವಂತವನ್ನು ಬಳಸುತ್ತವೆ, ಅಲ್ಲಿ ನಾವು ಹೊಸ ಟೋಕನ್‌ಗಳನ್ನು ಆರಿಸಲು ಬಿಡುವ ಬದಲು ಮಾದರಿಗೆ ದಾಖಲಿಸಿದ ಸೆಷನ್ ಅನ್ನು ನೀಡುತ್ತೇವೆ. ಫಾರ್ವರ್ಡ್ ಪಾಸ್ ಇನ್ನೂ ಪ್ರತಿ ಹಂತದಲ್ಲಿ ಪೂರ್ಣ ಮುಂದಿನ-ಟೋಕನ್ ವಿತರಣೆಯನ್ನು ಉತ್ಪಾದಿಸುತ್ತದೆ, ಆದರೆ ಇದು ಯಾವಾಗಲೂ ರೆಕಾರ್ಡಿಂಗ್‌ನಿಂದ ಸ್ಥಿರ ಉಪಸರ್ಗದ ಮೇಲೆ ನಿಂತಿರುತ್ತದೆ, ರೋಲ್‌ಔಟ್ ಟೋಕನ್‌ಗಳ ಮೇಲೆ ಅಲ್ಲ.

ಹುಡುಕಾಟದ ಉದಾಹರಣೆಗಾಗಿ, ಸುಳಿವನ್ನು ನೀಡಿದಾಗ ಅದೇ ಮಾದರಿಯು "month" ಗೆ ಹೆಚ್ಚು ಸಂಭವನೀಯತೆಯನ್ನು ಮತ್ತು "year" ಗೆ ಕಡಿಮೆ ಸಂಭವನೀಯತೆಯನ್ನು ನಿಯೋಜಿಸುತ್ತದೆ. ತರಬೇತಿಯು ಈ ವಿತರಣಾ ಬದಲಾವಣೆಯನ್ನು ಸಾಫ್ಟ್ ಗುರಿಯಾಗಿ ಬಳಸುತ್ತದೆ.

ಅದೇ ಮಾದರಿಯು ಸುಳಿವು ಇರುವ ಮತ್ತು ಇಲ್ಲದ ಲಾಗ್ ಮಾಡಲಾದ ಟರ್ನ್ ಅನ್ನು ಸ್ಕೋರ್ ಮಾಡುತ್ತದೆ; ಬೇರ್ಪಟ್ಟ ಶಿಕ್ಷಕರ ಸಂಭವನೀಯತೆಗಳು KL ಗುರಿಗಳನ್ನು ಒದಗಿಸುತ್ತವೆ ಆದರೆ CE ಅನುಕರಣೆಯನ್ನು ಲಂಗರು ಹಾಕುತ್ತದೆ. — ಎರಡು ಪಾಸ್‌ಗಳು, ಒಂದು ತೂಕಗಳ ಸೆಟ್. ಎರಡೂ ಪಾಸ್‌ಗಳು ಲಾಗ್ ಮಾಡಲಾದ ಮುಂದುವರಿಕೆಯನ್ನು ಸ್ಕೋರ್ ಮಾಡುತ್ತವೆ; ಶಿಕ್ಷಕರು ಮಾತ್ರ ಸುಳಿವುಗಳನ್ನು ಸ್ವೀಕರಿಸುತ್ತಾರೆ. ಅದರ ಬೇರ್ಪಟ್ಟ ಮುಂದಿನ-ಟೋಕನ್ ಸಂಭವನೀಯತೆಗಳು ಫಾರ್ವರ್ಡ್ KL ಮೂಲಕ ವಿದ್ಯಾರ್ಥಿಗೆ ಮಾರ್ಗದರ್ಶನ ನೀಡುತ್ತವೆ. ಪ್ರತ್ಯೇಕ CE ಗುರಿಗಳು ಅನುಕರಣೆಯನ್ನು ಲಂಗರು ಹಾಕುತ್ತವೆ. ಎರಡೂ ಲಾಸ್‌ಗಳು ಒಂದು ತೂಕ ನವೀಕರಣಕ್ಕೆ ಆಹಾರ ನೀಡುತ್ತವೆ. ಹಿಂದಿನ ಸುಳಿವುಗಳು ಶಿಕ್ಷಕರ ಪ್ರಸ್ತುತ ವಿಭಾಗದಲ್ಲಿ ಉಳಿಯಬಹುದು; ಯಾವುದೇ ಪಾಸ್ ಬದಲಿಸುವ ತರಬೇತಿ ಉತ್ತರನ್ನು ಸೃಷ್ಟಿಸುವುದಿಲ್ಲ.

ಶಿಕ್ಷಕರ ಮುನ್ಸೂಚನೆಗಳು ಬೇರ್ಪಟ್ಟಿವೆ ಅಥವಾ ಸ್ಟಾಪ್-ಗ್ರೇಡಿಯಂಟ್: ಅವು ಗುರಿಯನ್ನು ಪೂರೈಸುತ್ತವೆ ಆದರೆ ಶಿಕ್ಷಕರ ಪಾಸ್ ಮೂಲಕ ನವೀಕರಣವನ್ನು ಸ್ವೀಕರಿಸುವುದಿಲ್ಲ. ವಿದ್ಯಾರ್ಥಿಯ ಪಾಸ್ ನಂತರ, ಒಂದು ಆಪ್ಟಿಮೈಜರ್ ಹಂತವು ಹಂಚಿದ ಮಾದರಿಯನ್ನು ನವೀಕರಿಸುತ್ತದೆ.

CE ಲಾಸ್ ಅನುಕರಣೆಗಾಗಿ ಆಯ್ಕೆಮಾಡಿದ ರೆಕಾರ್ಡ್ ಮಾಡಿದ ಟೋಕನ್‌ಗಳನ್ನು ಗ್ರೌಂಡ್-ಟ್ರೂತ್ ಗುರಿಗಳಾಗಿ ಪರಿಗಣಿಸುತ್ತದೆ ಮತ್ತು ಅವುಗಳಿಗೆ ಕಡಿಮೆ ಸಂಭವನೀಯತೆಗಳನ್ನು ನಿಯೋಜಿಸಿದ್ದಕ್ಕಾಗಿ ಮಾದರಿಯನ್ನು ದಂಡಿಸುತ್ತದೆ. ಇದು ಕಠಿಣ ಅನುಕರಣೆ ಗುರಿಯನ್ನು ಸೃಷ್ಟಿಸುತ್ತದೆ.

ಟೋಕನ್ ಸ್ಥಾನ ನಲ್ಲಿ, ಪೂರ್ಣ ಶಬ್ದಕೋಶ ನಲ್ಲಿ ಟೋಕನ್ ರ ವಿದ್ಯಾರ್ಥಿಯ ಸಂಭವನೀಯತೆಯು ಆಗಿರಲಿ. ಪ್ರತಿಕ್ರಿಯೆ ಅಥವಾ ಸಾಧನರ ಕರೆಯಲ್ಲಿ ದಾಖಲಿಸಲಾದ ಮುಂದಿನ ಟೋಕನ್ ಆಗಿದೆ, ಒನ್-ಹಾಟ್ ಗುರಿ ವಿತರಣೆಯು ಆಗಿದೆ. $i$ $p_i(v)$ $v$ $V$ $y_i$ $r_i$

r_i(v)=\mathbf{1}[v=y_i]

ಕ್ರಾಸ್-ಎಂಟ್ರೋಪಿಯು ವಿದ್ಯಾರ್ಥಿಯು ಆ ದಾಖಲಿತ ಟೋಕನ್ ಅನ್ನು ಎಷ್ಟು ಚೆನ್ನಾಗಿ ಮುನ್ಸೂಚಿಸುತ್ತಾನೆ ಎಂಬುದನ್ನು ಅಳೆಯುತ್ತದೆ. ಒನ್-ಹಾಟ್ ಗುರಿಯೊಂದಿಗೆ, ಇದು $y_i$ ಗೆ ನಿಯೋಜಿಸಲಾದ ಋಣಾತ್ಮಕ ಲಾಗ್-ಸಂಭವನೀಯತೆಗೆ ಕಡಿಮೆಯಾಗುತ್ತದೆ.

H(r_i,p_i)=-\sum_{v\in V}r_i(v)\log p_i(v)=-\log p_i(y_i)

CE ಮುಖವಾಡ $m_i^{\mathrm{CE}}$ ಟೋಕನ್ ಅನ್ನು ಅನುಕರಿಸಬೇಕಾದ ಸ್ಥಳದಲ್ಲಿ $1$ ಮತ್ತು ಇಲ್ಲದಿದ್ದರೆ $0$ ಆಗಿರುತ್ತದೆ. ಆಯ್ಕೆಮಾಡಿದ ಸ್ಥಾನಗಳ ಮೇಲೆ ಮೊತ್ತ ಮಾಡುವುದರಿಂದ ಅನುಕರಣೆ ಲಾಸ್ ದೊರೆಯುತ್ತದೆ.

\mathcal{L}_{\mathrm{CE}}=\sum_i m_i^{\mathrm{CE}}H(r_i,p_i)

ಬದಲಿಗೆ KL ಲಾಸ್ ಸಾಫ್ಟ್ ತಿದ್ದುಪಡಿಯ ಗುರಿಯಾಗಿ ಶಿಕ್ಷಕರ ಪೂರ್ಣ ಮುಂದಿನ-ಟೋಕನ್ ಸಂಭವನೀಯತಾ ವಿತರಣೆ $q_i$ ಅನ್ನು ಬಳಸುತ್ತದೆ. ಶಿಕ್ಷಕರ ಸಂದರ್ಭವು ಪ್ರಸ್ತುತ ಸುಳಿವು ಮತ್ತು ಆ ತರಬೇತಿ ವಿಭಾಗದಲ್ಲಿ ಉಳಿಸಿಕೊಂಡಿರುವ ಯಾವುದೇ ಹಿಂದಿನ ಸುಳಿವುಗಳನ್ನು ಒಳಗೊಂಡಿರುತ್ತದೆ; ವಿದ್ಯಾರ್ಥಿಯ ಸಂದರ್ಭವು ಯಾವಾಗಲೂ ಸುಳಿವು-ಮುಕ್ತವಾಗಿರುತ್ತದೆ.

KL ಮುಖವಾಡ $m_i^{\mathrm{KL}}$ ಟೋಕನ್ ಅನ್ನು ಸರಿಪಡಿಸಬೇಕಾದ ಸ್ಥಳದಲ್ಲಿ $1$ ಮತ್ತು ಇಲ್ಲದಿದ್ದರೆ $0$ ಆಗಿರುತ್ತದೆ; CE ಮತ್ತು KL ಮುಖವಾಡಗಳು ಅತಿಕ್ರಮಿಸುವುದಿಲ್ಲ. ಈ ಸ್ಥಾನಗಳಲ್ಲಿ, ಫಾರ್ವರ್ಡ್ KL ಪೂರ್ಣ ಶಬ್ದಕೋಶದಾದ್ಯಂತ ಶಿಕ್ಷಕ ಮತ್ತು ವಿದ್ಯಾರ್ಥಿಯ ನಡುವಿನ ಭಿನ್ನಾಭಿಪ್ರಾಯವನ್ನು ದಂಡಿಸುತ್ತದೆ:

\mathcal{L}_{\mathrm{KL}}=\sum_i m_i^{\mathrm{KL}}D_{\mathrm{KL}}(q_i\Vert p_i)=\sum_i m_i^{\mathrm{KL}}\sum_{v\in V}q_i(v)\log\frac{q_i(v)}{p_i(v)}

ಎರಡೂ ಪದಗಳು ಪ್ರತ್ಯೇಕವಾಗಿ ಸಾಮಾನ್ಯೀಕರಣಗೊಳ್ಳುವ ಬದಲು ಒಂದು ಡೆನೋಮಿನೇಟರ್ ಅನ್ನು ಹಂಚಿಕೊಳ್ಳುತ್ತವೆ. ಈ ಡೆನೋಮಿನೇಟರ್ ಜಾಗತಿಕ ತರಬೇತಿ ಬ್ಯಾಚ್‌ಾದ್ಯಂತ ಅನುಕರಣೆಗಾಗಿ ಆಯ್ಕೆಮಾಡಿದ ಒಟ್ಟು ಟೋಕನ್‌ಗಳನ್ನು ಎಣಿಸುತ್ತದೆ. ತೂಕ $\lambda$ ಅನುಕರಣೆಗೆ ಸಂಬಂಧಿಸಿದಂತೆ ತಿದ್ದುಪಡಿ ತರಬೇತಿಯ ಕೊಡುಗೆಯನ್ನು ನಿಯಂತ್ರಿಸುತ್ತದೆ.

ಈ ಹಂಚಿದ ಸಾಮಾನ್ಯೀಕರಣವು ನಮ್ಮ ತರಬೇತಿ ಮೂಲಸೌಕರ್ಯದ ಏಕ-ಹೊರಗೆಡೆಯ ಇಂಟರ್‌ಫೇಸ್‌ಗೆ ಹೊಂದಿಕೊಳ್ಳುತ್ತದೆ ಮತ್ತು $\lambda=0$ ಆಗಿರುವಾಗ ಪ್ರಮಾಣಿತ SFT ಲಾಸ್ ಅನ್ನು ಮರುಪಡೆಯುತ್ತದೆ, ಬೇಸ್‌ಲೈನ್ ಹೋಲಿಕೆಗಳನ್ನು ಸರಳಗೊಳಿಸುತ್ತದೆ. CE ಟೋಕನ್‌ಗಳು KL ಟೋಕನ್‌ಗಳಿಗಿಂತ ಹೆಚ್ಚು ಸಮೃದ್ಧವಾಗಿರುವುದರಿಂದ, ಹಂಚಿದ ಡೆನೋಮಿನೇಟರ್ ಅನ್ನು ಬಳಸುವುದರಿಂದ ಕೆಲವು ಗುರುತಿಸಲಾದ ಟೋಕನ್‌ಗಳನ್ನು ಹೊಂದಿರುವ ಬ್ಯಾಚ್‌ಗಳಲ್ಲಿ ಪ್ರತ್ಯೇಕ KL ಟೋಕನ್‌ಗಳಿಗೆ ಅಸಮಾನವಾಗಿ ದೊಡ್ಡ ತೂಕವನ್ನು ನೀಡುವುದನ್ನು ತಪ್ಪಿಸುತ್ತದೆ.

\mathcal{L}=\frac{\mathcal{L}_{\mathrm{CE}}+\lambda\mathcal{L}_{\mathrm{KL}}}{\sum_i m_i^{\mathrm{CE}}}

ಹಿಂದಿನ ಉದಾಹರಣೆಗಳಿಗೆ ಅನ್ವಯಿಸಲಾಗಿದೆ, W-3/W-2 ಮಿಶ್ರಣ ಮತ್ತು ಅಮಾನ್ಯ ಹುಡುಕಾಟ ಕರೆಯನ್ನು ಹೊಂದಿರುವ ಟರ್ನ್‌ಗಳು KL ಅನ್ನು ಸ್ವೀಕರಿಸುತ್ತವೆ. ಯಶಸ್ವಿ ಸೆಷನ್‌ನಲ್ಲಿರುವ ಇತರ ಗುರುತಿಸದ ಸಹಾಯಕ ವಿಷಯವು ಇನ್ನೂ CE ಅನ್ನು ಪಡೆಯುತ್ತದೆ. ಯಶಸ್ವಿಯಾಗದ ಸೆಷನ್‌ನಲ್ಲಿರುವ ಇತರ ಸಹಾಯಕ ವಿಷಯವನ್ನು ಸಂದರ್ಭವಾಗಿ ಉಳಿಸಿಕೊಳ್ಳಲಾಗುತ್ತದೆ ಆದರೆ CE ಅಥವಾ KL ಯಾವುದನ್ನೂ ಸ್ವೀಕರಿಸುವುದಿಲ್ಲ.

ನಮ್ಮ ಮೌಲ್ಯಮಾಪನಗಳು ಎರಡು ಪ್ರತ್ಯೇಕ ಪ್ರಶ್ನೆಗಳಿಗೆ ಉತ್ತರಿಸುತ್ತವೆ. ಮೊದಲನೆಯದಾಗಿ, ಸುಳಿವು ಇ When when the hint is present, does a hint actually help the model correct an error? ಎರಡನೆಯದಾಗಿ, ಸುಳಿವು ಇಲ್ಲದೆ, ಮಾದರಿಯು ಆ ತಪ್ಪನ್ನು ತಪ್ಪಿಸಲು ತರಬೇತಿಯು ಸಹಾಯ ಮಾಡುತ್ತದೆಯೇ? ಮೊದಲನೆಯದು ಸುಳಿವುಗಳು ಉಪಯುಕ್ತ ತರಬೇತಿ ಸಂಕೇತಗಳನ್ನು ಒದಗಿಸುತ್ತವೆಯೇ ಎಂದು ಪರೀಕ್ಷಿಸುತ್ತದೆ. ಎರಡನೆಯದು ಮಾದರಿಯು ಅವುಗಳಿಂದ ಕಲಿಯುತ್ತದೆಯೇ ಎಂದು ಪರೀಕ್ಷಿಸುತ್ತದೆ.

ಸುಳಿವುಗಳು ನಿಜಕ್ಕೂ ಮಾದರಿಯನ್ನು ತಪ್ಪುಗಳಿಂದ ದೂರವಿಡಬಲ್ಲವು ಎಂಬುದನ್ನು ಖಚಿತಪಡಿಸಿಕೊಳ್ಳಲು ನಾವು ತರಬೇತಿ ರನ್ ಆಗುವ ಮೊದಲು ಮೊದಲ ಪ್ರಶ್ನೆಯನ್ನು ಪರೀಕ್ಷಿಸುತ್ತೇವೆ.

ನಾವು ಗುರುತಿಸಲಾದ ಬಳಕೆದಾರ-ಪ್ರತಿಕ್ರಿಯಾ ತಿರುವುಗಳನ್ನು ಸೂಚನೆ ಸಹಿತವೂ ಸಹಿತವಿಲ್ಲದೆಯೂ ಮರುರಚಿಸಿದೆವು, ಅದೇ GLM-5.2 ಬೇಸ್ ಮಾದರಿಯನ್ನು ಶೂನ್ಯ ತಾಪಮಾನದಲ್ಲಿ ಬಳಸಿ. ಅಂಧ ನ್ಯಾಯಾಧೀಶನು ನಂತರದ ದೂರುವನ್ನು ನೋಡುತ್ತಾನೆ, ಆದರೆ ಸೂಚನೆಯನ್ನಾಗಲಿ ಉತ್ತರವನ್ನು ಉತ್ಪಾದಿಸಿದ ಪರಿಸ್ಥಿತಿಯನ್ನಾಗಲಿ ನೋಡಲಾಗುವುದಿಲ್ಲ.

W-3 ಉದಾಹರಣೆಯಲ್ಲಿ, ಸುಳಿವು "W-" ಉಪಸರ್ಗದ ನಂತರ ಮುಂದಿನ-ಟೋಕನ್ ಸಂಭವನೀಯತೆಯನ್ನು "3" ಕಡೆಗೆ ಮತ್ತು "2" ನಿಂದ ದೂರಕ್ಕೆ ಬದಲಾಯಿಸುತ್ತದೆ.

ಬದಲಾಗದ ಬೇಸ್ ಮಾದರಿಯು ಸುಳಿವನ್ನು ಸ್ವೀಕರಿಸಿದಾಗ W- ನಂತರದ ಮುಂದಿನ-ಟೋಕನ್ ಸಂಭವನೀಯತೆಗಳು 2 ಕ್ಕಿಂತ 3 ರ ಕಡೆಗೆ ಬದಲಾಗುತ್ತವೆ. — ಸುಳಿವು ವಿನಂತಿಸಿದ W-3 ಫಾರ್ಮ್ ಅನ್ನು ಸಂರಕ್ಷಿಸುತ್ತದೆ. ಬಾರ್‌ಗಳು ಎಂಟು ಫಾರ್ವರ್ಡ್ ಪಾಸ್‌ಗಳಲ್ಲಿ ಸರಾಸರಿ ಮುಂದಿನ-ಟೋಕನ್ ಸಂಭವನೀಯತೆಗಳನ್ನು ತೋರಿಸುತ್ತವೆ; ಮೀಸೆಗಳು ಗಮನಿಸಿದ ಶ್ರೇಣಿಯನ್ನು ತೋರಿಸುತ್ತವೆ, ವಿಶ್ವಾಸಾರ್ಹ ಮಧ್ಯಂತರವಲ್ಲ. ಎರಡೂ ಪರಿಸ್ಥಿತಿಗಳು ಬದಲಾಗದ ಬೇಸ್ ಮಾದರಿಯನ್ನು ಬಳಸುತ್ತವೆ.

ಸ್ಪಷ್ಟವಾಗಿ ತಿಳಿಸಲಾದ ಹಿಂದಿನ ಸಾಕ್ಷ್ಯದಿಂದ ಬೆಂಬಲಿತವಾದ ದೊಡ್ಡ 40-ಟರ್ನ್ ಹೆಲ್ಡ್-ಔಟ್ ಮಾದರಿಯಲ್ಲಿ, ಸುಳಿವು ಇಲ್ಲದೆ 40.0% ಇದ್ದ ಸ್ಥಿರ ಅಥವಾ ಆನ್-ಟ್ರ್ಯಾಕ್ ಎಂದು ನಿರ್ಣಯಿಸಲ್ಪಟ್ಟ ಪಾಲ Δ ಸುಳಿವು ಇರುವವರಲ್ಲಿ 75.0% ಕ್ಕೆ ಏರುತ್ತದೆ. ಊಹಿಸಿದ ಉದ್ದೇಶದಿಂದ ಬೆಂಬಲಿತವಾದ ಮತ್ತೊಂದು 40 ಟರ್ನ್‌ಗಳಲ್ಲಿ, ಇದು 32.5% ರಿಂದ 80.0% ಕ್ಕೆ ಏರುತ್ತದೆ.

ಸುಳಿವು ಮೌಲ್ಯಮಾಪನ: ಸ್ಪಷ್ಟ ಸಾಕ್ಷ್ಯಕ್ಕಾಗಿ ಸ್ಥಿರ ಅಥವಾ ಆನ್-ಟ್ರ್ಯಾಕ್ ದರಗಳು 40.0% ರಿಂದ 75.0% ಕ್ಕೆ ಮತ್ತು ಊಹಿಸಿದ ಉದ್ದೇಶಕ್ಕಾಗಿ 32.5% ರಿಂದ 80.0% ಕ್ಕೆ ಹೆಚ್ಚಾಗುತ್ತವೆ. — ಸೂಚನೆ ಮಾನ್ಯೀಕರಣ, ತರಬೇತಿ ನಂತರದ ಮೌಲ್ಯಮಾಪನವಲ್ಲ. ಪ್ರತಿ ಸಾಕ್ಷ್ಯ ಗುಂಪಿನಲ್ಲಿನ ಅದೇ 40 ಗುರುತಿಸಲಾದ ತಿರುವುಗಳನ್ನು ಬದಲಾಗಿಸದ GLM-5.2 ಅನ್ನು ಶೂನ್ಯ ತಾಪಮಾನದಲ್ಲಿ ಬಳಸಿ, ಸೂಚನೆ ಸಹಿತವೂ ಸಹಿತವಿಲ್ಲದೆಯೂ ಮರುರಚಿಸಲಾಗುತ್ತದೆ. ನ್ಯಾಯಾಧೀಶನು ದೂರುವನ್ನು ನೋಡುತ್ತಾನೆ ಆದರೆ ಸೂಚನೆ ಅಥವಾ ಪರಿಸ್ಥಿತಿಯನ್ನು ನೋಡಲಾಗುವುದಿಲ್ಲ. ಎಣಿಕೆಗಳು ವರದಿಯ ಪ್ರಮಾಣಗಳು ಮತ್ತು ಮಾದರಿ ಗಾತ್ರಗಳಿಂದ ಪಡೆದುಕೊಳ್ಳಲ್ಪಟ್ಟಿವೆ; ವಿಶ್ವಾಸಾಂತರಗಳು ವರದಿಯಾಗಿಲ್ಲ.

ಹುಡುಕಾಟ ಸಾಧನ ದೋಷದ ಉದಾಹರಣೆಯಲ್ಲಿ, ಸುಳಿವು ನಿಜಕ್ಕೂ ವರ್ಷ ಟೋಕನ್‌ನಿಂದ ತಿಂಗಳು ಟೋಕನ್‌ಗೆ ಸಂಭವನೀಯತಾ ದ್ರವ್ಯರಾಶಿಯನ್ನು ಬದಲಾಯಿಸುತ್ತದೆ.

ಒಂದು ಸುಳಿವು ಬದಲಾಗದ ಬೇಸ್ ಮಾದರಿಯ ಮುಂದಿನ-ಟೋಕನ್ ಸಂಭವನೀಯತೆಗಳನ್ನು year ನಿಂದ ದೂರ ಮತ್ತು ಅನುಮತಿಸಲಾದ ಮೌಲ್ಯ month ಕಡೆಗೆ ಬದಲಾಯಿಸುತ್ತದೆ. — ಸುಳಿವು ಅನುಮತಿಸಲಾದ ಮೌಲ್ಯದ ಕಡೆಗೆ ಸಂಭವನೀಯತೆಯನ್ನು ಬದಲಾಯಿಸುತ್ತದೆ. ಬಾರ್‌ಗಳು ಎಂಟು ಫಾರ್ವರ್ಡ್ ಪಾಸ್‌ಗಳಲ್ಲಿ ಸರಾಸರಿ ಮುಂದಿನ-ಟೋಕನ್ ಸಂಭವನೀಯತೆಗಳನ್ನು ತೋರಿಸುತ್ತವೆ; ಮೀಸೆಗಳು ಗಮನಿಸಿದ ಶ್ರೇಣಿಯನ್ನು ತೋರಿಸುತ್ತವೆ, ವಿಶ್ವಾಸಾರ್ಹ ಮಧ್ಯಂತರವಲ್ಲ. ಎರಡೂ ಪರಿಸ್ಥಿತಿಗಳು ಒಂದೇ ಬೇಸ್ ಮಾದರಿಯನ್ನು ಬಳಸುತ್ತವೆ; ಯಾವುದೇ ತರಬೇತಿ ಪಡೆದ ಚೆಕ್‌ಪಾಯಿಂಟ್ ಅನ್ನು ಹೋಲಿಸಲಾಗುವುದಿಲ್ಲ.

ಹೆಚ್ಚಿನ 985-ತಿರುವುಗಳ ಹಿಡಿದುಕೊಂಡ ಮಾದರಿಯಲ್ಲಿ, ನಾವು ಅದೇ ಬೇಸ್ ಮಾದರಿಯನ್ನು ಬಳಸಿ ಪ್ರತಿಯೊಂದು ತಿರುವನ್ನು ಸೂಚನೆ ಸಹಿತ ಮತ್ತು ಸೂಚನೆ ಇಲ್ಲದೆ ನಾಲ್ಕು ಬಾರಿ ಮರುರಚಿಸುತ್ತೇವೆ. ಅಂಧ ನ್ಯಾಯಾಧೀಶನು ಪ್ರತಿಯೊಂದು ಮರುರಚನೆ ಮೂಲ ವಿಫಲತೆಯನ್ನು ತಪ್ಪಿಸುತ್ತದೆಯೇ ಎಂಬುದನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡುತ್ತಾನೆ. ಸೂಚನೆಗಳು ವಿಫಲತೆಯನ್ನು ತಪ್ಪಿಸುವ ಪ್ರಮಾಣವನ್ನು 75.1% ರಿಂದ 93.7% ಗೆ ಹೆಚ್ಚಿಸುತ್ತವೆ, ಜೋಡಿ ಲಾಭವು 18.6 ಶೇಕಡಾ ಅಂಕಗಳು, ಮತ್ತು ಸರಿಪಡಿಸಿದ ಕ್ರಿಯೆಯನ್ನು ಕೈಗೊಳ್ಳುವ ಹಂಚಿಕೆಯನ್ನು 60.6% ರಿಂದ 82.3% ಗೆ ಹೆಚ್ಚಿಸುತ್ತವೆ. ಲಾಭಗಳು ಕೇವಲ ಮರುನಮೂದಿಸುವಿಕೆ ಮಾತ್ರದಿಂದ ಸರಿಪಡಿಸಲು ಕಷ್ಟವಾಗುವ ದೋಷಗಳಲ್ಲಿ ಅತಿ ಹೆಚ್ಚು.

985 ಹೆಲ್ಡ್-ಔಟ್ ಗುರುತಿಸಲಾದ ಸಾಧನ-ದೋಷ ಟರ್ನ್‌ಗಳಲ್ಲಿ, ಸುಳಿವುಗಳು ವೈಫಲ್ಯ ತಪ್ಪಿಸುವಿಕೆಯನ್ನು 75.1% ರಿಂದ 93.7% ಕ್ಕೆ ಮತ್ತು ಸರಿಪಡಿಸಿದ-ಕ್ರಿಯೆಯ ದರಗಳನ್ನು 60.6% ರಿಂದ 82.3% ಕ್ಕೆ ಹೆಚ್ಚಿಸುತ್ತವೆ. — 985 ಹಿಡಿದುಕೊಂಡ ಗುರುತಿಸಲಾದ ತಿರುವುಗಳ ಮೇಲೆ ಟೂಲ್-ದೋಷ ಸೂಚನೆ ಮಾನ್ಯೀಕರಣ, ಪ್ರತಿ ಪರಿಸ್ಥಿತಿಗೆ ನಾಲ್ಕು ಮರುರಚನೆಗಳೊಂದಿಗೆ. ಬಾರ್‌ಗಳು ಬದಲಾಯಿಸದ ಬೇಸ್ ಮಾದರಿಗಾಗಿ, ಸೂಚನೆಗಳಿದ್ದರೂ ಇಲ್ಲದಿದ್ದರೂ, ವಿಫಲತೆಯನ್ನು ತಪ್ಪಿಸುವುದು ಮತ್ತು ಸರಿಪಡಿಸಿದ-ಕ್ರಿಯೆ ಪ್ರಮಾಣಗಳನ್ನು ತೋರಿಸುತ್ತವೆ. ಗುರಿಯಾಗಿಸಿದ ತಪ್ಪನ್ನು ತಪ್ಪಿಸುವುದರಿಂದ ಟೂಲ್-ಕಾಲ್ ಅಥವಾ ಕಾರ್ಯ ಯಶಸ್ಸು ಸ್ಥಾಪನೆಯಾಗುವುದಿಲ್ಲ.

ನಾವು ಮುಂದಾಗಿ, ತರಬೇತುಗೊಂಡ ಮಾದರಿ ಸೂಚನೆಗಳನ್ನು ಪಡೆಯದೆ ಕಡಿಮೆ ತಪ್ಪುಗಳನ್ನು ಮಾಡುತ್ತದೆಯೇ ಎಂಬುದನ್ನು ಪರೀಕ್ಷಿಸುತ್ತೇವೆ. ನಾವು stock model ಮತ್ತು ವಿವಿಧ post-trained checkpoints ಅನ್ನು offline benchmark tasks ಗಳಲ್ಲಿ ಹಾಗೂ live user ಸೆಷನ್‌ಗಳಲ್ಲಿ ಮೌಲ್ಯಮಾಪನ ಮಾಡಿ, ಕಡಿಮೆ tool failures ಮತ್ತು ಕಡಿಮೆ user dissatisfaction ಅನ್ನು ಪರಿಶೀಲಿಸುತ್ತೇವೆ.

ಆಫ್‌ಲೈನ್ ಮೌಲ್ಯಮಾಪನವು BrowseComp, Finch, WideSearch, DRACO, DSQA, SpreadsheetBench, HLE, ಪ್ರತಿನಿಧಿ Computer ಕಾರ್ಯ ಸೆಟ್ ಅನ್ನು ಬಳಸುತ್ತದೆ ಮತ್ತು ಕೌಶಲ್ಯ ಲೋಡಿಂಗ್, ಡಾಕ್ಯುಮೆಂಟ್ ವಿಮರ್ಶೆ ಮತ್ತು ಇನ್‌ಲೈನ್ ಉಲ್ಲೇಖಗಳಿಗಾಗಿ ಪರಿಶೀಲಿಸುತ್ತದೆ. ಮೌಲ್ಯಮಾಪನ ಪಥಗಳಾದ್ಯಂತ ಯಾವ ಸಾಧನ ಕರೆಯ ಫಲಿತಾಂಶಗಳನ್ನು ಸ್ಪಷ್ಟವಾಗಿ ದೋಷಗಳೆಂದು ಫ್ಲಾಗ್ ಮಾಡಲಾಗಿದೆ ಎಂಬುದರ ಪಾಲನ್ನು ನಾವು ಅಳೆಯುತ್ತೇವೆ.

ಈ ಮೌಲ್ಯಮಾಪನಗಳಲ್ಲಿ, ದಾಖಲಿಸಲಾದ ಸಾಧನ-ದೋಷ ದರವು ಸ್ಟಾಕ್ GLM 5.2 ಗೆ 2.79%, RFT-ಮಾತ್ರ ಚೆಕ್‌ಪಾಯಿಂಟ್‌ಗೆ 1.35%, ಮತ್ತು RFT-plus-OPSD ಚೆಕ್‌ಪಾಯಿಂಟ್‌ಗೆ 0.87% ಆಗಿತ್ತು. ಈ ಚೆಕ್‌ಪಾಯಿಂಟ್‌ಗಳಿಗೆ ವಿಭಿನ್ನ ಡೇಟಾದ ಮೇಲೆ ತರಬೇತಿ ನೀಡಲಾಗಿದೆ, ಆದ್ದರಿಂದ ಇದು OPSD ಯ ಹೊಂದಾಣಿಕೆಯ ಡೇಟಾ ಅಬ್ಲೇಶನ್ ಅಲ್ಲ. ಕಾರ್ಯ-ಮಟ್ಟದ ಬೆಂಚ್‌ಮಾರ್ಕ್ ಫಲಿತಾಂಶಗಳು ಮಿಶ್ರವಾಗಿವೆ, ಆದ್ದರಿಂದ ಕಡಿಮೆ ಸಾಧನ ದೋಷಗಳು ಮಾತ್ರ ಕಾರ್ಯದ ಯಶಸ್ಸಿನಲ್ಲಿ ವ್ಯಾಪಕ ಸುಧಾರಣೆಗೆ ಅನುವಾದಿಸಬೇಕಾಗಿಲ್ಲ.

ಆಫ್‌ಲೈನ್‌ನಲ್ಲಿ ದಾಖಲಿಸಲಾದ ಸಾಧನ-ದೋಷ ದರಗಳು: ಸ್ಟಾಕ್ GLM 5.2 ಗೆ 2.79%, RFT-ಮಾತ್ರಕ್ಕೆ 1.35%, ಮತ್ತು RFT plus OPSD ಗೆ 0.87%; ತರಬೇತಿ ಡೇಟಾ ಭಿನ್ನವಾಗಿವೆ. — ಸ್ಟಾಕ್ GLM-5.2, RFT-ಮಾತ್ರ, ಮತ್ತು RFT-plus-OPSD ಚೆಕ್‌ಪಾಯಿಂಟ್‌ಗಳಿಗಾಗಿ ಆಫ್‌ಲೈನ್ ಸಾಧನ-ದೋಷ ದರಗಳು. ಚೆಕ್‌ಪಾಯಿಂಟ್‌ಗಳಾದ್ಯಂತ ತರಬೇತಿ ಡೇಟಾ ಭಿನ್ನವಾಗಿರುತ್ತದೆ; ಇದು ನಿಯಂತ್ರಿತ ಅಬ್ಲೇಶನ್ ಅಲ್ಲ.

GLM-5.2 ಗಾಗಿ, ನಾವು ಪ್ರತಿಯೊಂದು ಸ್ಥಿತಿಯಲ್ಲಿ ಸುಮಾರು ಒಂದು ಲಕ್ಷ ಬಳಕೆದಾರರೊಂದಿಗೆ ಎರಡು ಪ್ರತ್ಯೇಕ A/B ಪರೀಕ್ಷೆಗಳನ್ನು ನಡೆಸಿದ್ದೇವೆ. ಮೊದಲನೆಯದರಲ್ಲಿ, ಆರಂಭಿಕ RFT-ಪ್ಲಸ್-OPSD ಚೆಕ್‌ಪಾಯಿಂಟ್ ಸ್ಟಾಕ್ GLM 5.2 ಗಿಂತ ಸ್ವಲ್ಪ ಕಡಿಮೆ ಟೂಲ್-ಫೇಲ್ಯುರ್ ದರವನ್ನು ಹೊಂದಿತ್ತು, ಅಂದರೆ 2.82% ವಿರುದ್ಧ 2.94%, ಆದರೆ ವ್ಯತ್ಯಾಸವು ಸಂಖ್ಯಾಶಾಸ್ತ್ರೀಯವಾಗಿ ಮಹತ್ವದ್ದಾಗಿರಲಿಲ್ಲ.

ನಂತರದ ಪರೀಕ್ಷೆಯಲ್ಲಿ, ನಾವು ಎರಡು RFT-plus-OPSD ಚೆಕ್‌ಪಾಯಿಂಟ್‌ಗಳನ್ನು ಹೋಲಿಸಿದ್ದೇವೆ: ಹಿಂದಿನದು (ಚೆಕ್‌ಪಾಯಿಂಟ್ ಒಂದು) ಮತ್ತು ನಂತರದದು (ಚೆಕ್‌ಪಾಯಿಂಟ್ ಎರಡು). ದಾಖಲಿತ ಸ್ಥಿತಿಯೊಂದಿಗೆ ಸಾಧನ-ಕರೆ ವೈಫಲ್ಯಗಳು ಕಲ್‌ಗಳ 2.24% ನಿಂದ 1.77% ಕ್ಕೆ ಇಳಿದವು. ಇದು ಅಂಕಿಅಂಶಗಳ ಪ್ರಕಾರ ಗಮನಾರ್ಹವಾದ 21.2% ಸಾಪೇಕ್ಷ ಕಡಿತವಾಗಿದೆ. ನಾವು ಆನ್‌ಲೈನ್‌ನಲ್ಲಿ ಸ್ಟಾಕ್ GLM 5.2 ನೊಂದಿಗೆ ಚೆಕ್‌ಪಾಯಿಂಟ್ ಎರಡನ್ನು ನೇರವಾಗಿ ಹೋಲಿಸಲಿಲ್ಲ.

ಬಳಕೆದಾರರ ಪ್ರತಿಕ್ರಿಯೆ ಫಲಿತಾಂಶಗಳು ಕಡಿಮೆ ನಿರ್ಣಾಯಕವಾಗಿದ್ದವು. ಎರಡನೇ GLM-5.2 ಪ್ರಯೋಗದಲ್ಲಿ, ಬಲವಾದ ಅತೃಪ್ತಿಯ (ಮಧ್ಯಮ ಅಥವಾ ಹೆಚ್ಚು) ಸರಾಸರಿ ಸಂಭವನೀಯತೆಯು ಚೆಕ್‌ಪಾಯಿಂಟ್ ಒನ್‌ಗೆ 2.58% ಮತ್ತು ಚೆಕ್‌ಪಾಯಿಂಟ್ ಟುಗೆ 2.54% ಆಗಿತ್ತು, ಯಾವುದೇ ಸಂಖ್ಯಾಶಾಸ್ತ್ರೀಯವಾಗಿ ಗಮನಾರ್ಹ ವ್ಯತ್ಯಾಸವಿಲ್ಲ.

ಎರಡು ಪ್ರತ್ಯೇಕ ಆನ್‌ಲೈನ್ A/B ಪರೀಕ್ಷೆಗಳು; ನಂತರದ ಚೆಕ್‌ಪಾಯಿಂಟ್ ಹೋಲಿಕೆ ಮಾತ್ರ ಗಮನಾರ್ಹವಾದ ಸಾಧನ-ವೈಫಲ್ಯ ಕಡಿತವನ್ನು ಹೊಂದಿದೆ, ಯಾವುದೇ ಗಮನಾರ್ಹ MID+ ಅತೃಪ್ತಿ ಬದಲಾವಣೆ ಇಲ್ಲದೆ. — ಎರಡು ಪ್ರತ್ಯೇಕ GLM-5.2 ಲೈವ್ A/B ಪರೀಕ್ಷೆಗಳು. ಚೆಕ್‌ಪಾಯಿಂಟ್ 1 ಅನ್ನು ಸ್ಟಾಕ್ GLM-5.2 ನೊಂದಿಗೆ ಹೋಲಿಸಲಾಗುತ್ತದೆ; ಚೆಕ್‌ಪಾಯಿಂಟ್ 2 ಅನ್ನು ಚೆಕ್‌ಪಾಯಿಂಟ್ 1 ನೊಂದಿಗೆ ಹೋಲಿಸಲಾಗುತ್ತದೆ. ಈ ಎರಡು ಪರೀಕ್ಷೆಗಳಲ್ಲಿ, ನಂತರದ ಟೂಲ್-ಫೇಲ್ಯುರ್ ಕಡಿತ ಮಾತ್ರ ಸಂಖ್ಯಾಶಾಸ್ತ್ರೀಯವಾಗಿ ಮಹತ್ವದ್ದಾಗಿದೆ. MID+ ದರಗಳು ದೂರುಗಳ ಸಂಖ್ಯೆಯಲ್ಲ, ಮಧ್ಯಮ ಅಥವಾ ಹೆಚ್ಚಿನ ಅತೃಪ್ತಿಯ ಸರಾಸರಿ ಅಂದಾಜು ಸಂಭವನೀಯತೆಗಳನ್ನು ಸೂಚಿಸುತ್ತವೆ.

GLM-5.3 ಗಾಗಿ, ನಾವು ತರಬೇತಿ ಪಡೆದ ಚೆಕ್‌ಪಾಯಿಂಟ್ ಅನ್ನು ನೇರವಾಗಿ ಸ್ಟಾಕ್ GLM-5.3 ನೊಂದಿಗೆ ಹೋಲಿಸಿದ್ದೇವೆ. ರೆಕಾರ್ಡ್ ಮಾಡಲಾದ ಸ್ಥಿತಿಯೊಂದಿಗೆ ಟೂಲ್-ಕಾಲ್ ವೈಫಲ್ಯಗಳು ಕರೆಗಳ 3.56% ರಿಂದ 2.38% ಕ್ಕೆ ಇಳಿದಿವೆ, ಇದು 33.04% ಸಾಪೇಕ್ಷ ಕಡಿತವಾಗಿದೆ. ಮಧ್ಯಮ ಅಥವಾ ಹೆಚ್ಚಿನ ಅತೃಪ್ತಿಯ ಸರಾಸರಿ ಅಂದಾಜು ಸಂಭವನೀಯತೆಯಾದ MID+ ದರವು 4.12% ರಿಂದ 3.41% ಕ್ಕೆ ಇಳಿದಿದೆ, ಇದು 17.2% ಸಾಪೇಕ್ಷ ಕಡಿತವಾಗಿದೆ. ಎರಡೂ ಕಡಿತಗಳು ಅಂಕಿಅಂಶಗಳ ಪ್ರಕಾರ ಮಹತ್ವದ್ದಾಗಿವೆ.

GLM-5.3 A/B ಪರೀಕ್ಷೆ: ಟೂಲ್-ವೈಫಲ್ಯದ ದರವು 3.56% ರಿಂದ 2.38% ಕ್ಕೆ ಇಳಿಯುತ್ತದೆ ಮತ್ತು ಮಧ್ಯಮ ಅಥವಾ ಹೆಚ್ಚಿನ ಅತೃಪ್ತಿಯ ಸರಾಸರಿ ಅಂದಾಜು ಸಂಭವನೀಯತೆಯಾದ MID+ ದರವು 4.12% ರಿಂದ 3.41% ಕ್ಕೆ ಇಳಿಯುತ್ತದೆ. CUPED-ಹೊಂದಾಣಿಕೆಯ ಸಾಪೇಕ್ಷ ಕಡಿತಗಳು ಕ್ರಮವಾಗಿ 33.04% ಮತ್ತು 17.16% ಆಗಿವೆ. ಎರಡೂ 95% ಅನುಕ್ರಮ ಮಧ್ಯಂತರಗಳು ಸೊನ್ನೆಯನ್ನು ಹೊರತುಪಡಿಸುತ್ತವೆ; ಪ್ರಾಥಮಿಕ ನಿಶ್ಚಿತಾರ್ಥದ ಮೆಟ್ರಿಕ್ ಮಹತ್ವದ್ದಾಗಿಲ್ಲ. — ಪ್ರತ್ಯೇಕ ಆನ್‌ಲೈನ್ A/B ಪರೀಕ್ಷೆಯಲ್ಲಿ ಸ್ಟಾಕ್ GLM-5.3 ವಿರುದ್ಧ ತರಬೇತಿ ಪಡೆದ GLM-5.3. ಟೂಲ್-ವೈಫಲ್ಯ ಮತ್ತು MID+ ದರಗಳು, ಸಾಪೇಕ್ಷ ಬದಲಾವಣೆಗಳು ಮತ್ತು 95% ಅನುಕ್ರಮ ವಿಶ್ವಾಸಾರ್ಹ ಮಧ್ಯಂತರಗಳು CUPED ಹೊಂದಾಣಿಕೆಯನ್ನು ಬಳಸುತ್ತವೆ. ಎರಡೂ ಕಡಿತಗಳು ಅಂಕಿಅಂಶಗಳ ಪ್ರಕಾರ ಮಹತ್ವದ್ದಾಗಿವೆ. MID+ ದರಗಳು ದೂರುಗಳ ಸಂಖ್ಯೆಗಳಲ್ಲ, ಅರ್ಹವಾದ ಸ್ಕೋರ್ ಮಾಡಿದ ಅನುಸರಣಾ ಥ್ರೆಡ್‌ಗಳಲ್ಲಿ ಮಧ್ಯಮ ಅಥವಾ ಹೆಚ್ಚಿನ ಅತೃಪ್ತಿಯ ಸರಾಸರಿ ಅಂದಾಜು ಸಂಭವನೀಯತೆಗಳಾಗಿವೆ. ಟೂಲ್-ವೈಫಲ್ಯದ ದರಗಳು ಯಶಸ್ಸು ಅಥವಾ ವೈಫಲ್ಯದ ಸ್ಥಿತಿ ದಾಖಲಾಗದ ಕರೆಗಳನ್ನು ಹೊರತುಪಡಿಸುತ್ತವೆ.

ಕೇವಲ ಸೆಷನ್ ಅಲ್ಲ, ನಿರ್ಧಾರದ ಮಟ್ಟದಲ್ಲಿ ಕಲಿಯುವುದು ಕೇಂದ್ರ ಕಲ್ಪನೆಯಾಗಿದೆ.

ಯಶಸ್ವಿ ಫಲಿತಾಂಶವು ತಪ್ಪುಗಳನ್ನು ಮರೆಮಾಚಬಹುದು, ಮತ್ತು ಯಶಸ್ವಿಯಾಗದ ಸೆಷನ್ ಸುಧಾರಿಸುವುದು ಹೇಗೆ ಎಂಬುದನ್ನು ಇನ್ನೂ ಬಹಿರಂಗಪಡಿಸಬಹುದು. ಯಶಸ್ವಿ ಸೆಷನ್‌ಗಳಿಂದ ಉಪಯುಕ್ತ ನಡವಳಿಕೆಯನ್ನು ನಾವು ಲಂಗರು ಆಗಿ ಇರಿಸಿಕೊಳ್ಳುತ್ತೇವೆ, ತಪ್ಪಿಸಬಹುದಾದ ವೈಫಲ್ಯಗಳನ್ನು ಗುರುತಿಸಲು ದೂರುಗಳು ಮತ್ತು ಸಾಧನ ದೋಷಗಳನ್ನು ಬಳಸುತ್ತೇವೆ ಮತ್ತು ಆ ತಪ್ಪುಗಳು ಮತ್ತು ತಿದ್ದುಪಡಿಗಳನ್ನು ಸ್ಪಷ್ಟಪಡಿಸಿದಾಗ ಅದು ಮಾಡುವ ಮುನ್ಸೂಚನೆಗಳತ್ತ ಮಾದರಿಗೆ ತರಬೇತಿ ನೀಡುತ್ತೇವೆ. ಯಶಸ್ಸು ಸಂರಕ್ಷಿಸಲು ನಡವಳಿಕೆಯನ್ನು ಒದಗಿಸುತ್ತದೆ; ವೈಫಲ್ಯವು ಸುಧಾರಣೆಗೆ ದಿಕ್ಕನ್ನು ಒದಗಿಸುತ್ತದೆ.

ನೈಜ-ಪ್ರಪಂಚದ ಬಳಕೆಯು ಈ ವಿಧಾನವನ್ನು ವಿಶೇಷವಾಗಿ ಉಪಯುಕ್ತವಾಗಿಸುತ್ತದೆ. ನೈಜ ಬಳಕೆದಾರರು ಸಂಶ್ಲೇಷಿತ ಪರಿಸರದಲ್ಲಿ ನಿರೀಕ್ಷಿಸಲು ಕಷ್ಟಕರವಾದ ಗುರಿಗಳು, ನಿರ್ಬಂಧಗಳು ಮತ್ತು ಕಾರ್ಯಪ್ರವಾಹಗಳನ್ನು ತರುತ್ತಾರೆ. ಅವರ ತಿದ್ದುಪಡಿಗಳು ಮಾದರಿಯು ಕಳೆದುಕೊಂಡ ಅವಶ್ಯಕತೆಗಳನ್ನು ಬಹಿರಂಗಪಡಿಸುತ್ತವೆ, ಆದರೆ ಸಾಧನ ದೋಷಗಳು ಮಾದರಿಯು ಪ್ರಯತ್ನಿಸಿದ್ದು ಮತ್ತು ಪರಿಸರವು ಅನುಮತಿಸುವುದರ ನಡುವಿನ ಅಂತರವನ್ನು ಬಹಿರಂಗಪಡಿಸುತ್ತವೆ. ಈ ಸಂಕೇತಗಳು ಫಲಿತಾಂಶ-ಆಧಾರಿತ ತರಬೇತಿಗೆ ಪೂರಕವಾಗಿವೆ: ಕಾರ್ಯವು ಯಶಸ್ವಿಯಾಯಿತೇ ಎಂದು ಮಾತ್ರ ಕೇಳುವ ಬದಲು, ಮಾದರಿ ಎಲ್ಲಿ ತಪ್ಪಾಗಿದೆ ಮತ್ತು ಯಾವ ಮಾಹಿತಿಯು ಉತ್ತಮ ನಿರ್ಧಾರ ತೆಗೆದುಕೊಳ್ಳಲು ಸಹಾಯ ಮಾಡಬಹುದಿತ್ತು ಎಂದು ನಾವು ಕೇಳಬಹುದು.

ಮಿತಿಗಳು ಅಷ್ಟೇ ಮುಖ್ಯ. ತೀರ್ಪುಗಾರರು ತಪ್ಪಾಗಬಹುದು, ಮತ್ತು ಒಂದು ಟರ್ನ್ ಅನ್ನು ಸರಿಪಡಿಸುವುದು ಪೂರ್ಣ ಕಾರ್ಯವು ಯಶಸ್ವಿಯಾಗುತ್ತದೆ ಎಂದು ಖಾತರಿಪಡಿಸುವುದಿಲ್ಲ. ಗುರಿಯು ಕೇವಲ ತಿದ್ದುಪಡಿಯ ನಂತರ ಚೇತರಿಸಿಕೊಳ್ಳುವ ಏಜೆಂಟ್ ಅಲ್ಲ. ಬದಲಿಗೆ, ಕಡಿಮೆ ಬಾರಿ ತಿದ್ದುಪಡಿ ಅಗತ್ಯವಿರುವ ಏಜೆಂಟ್ ಇದು.

BibTeX

@online{perplexity2026LearningFromRealWorldExperience,
  author = {{Perplexity} and Senzeyu Zhang and Chuan Wang and Hang Wu and Hao Zhang and Yuan Liang and Yunfan Zhong and Phi Hoang and Claire Beamer and Jeremy Yang and Andrew Wilson and Denis Yarats},
  title = {{Learning from real-world experience}},
  date = {2026-09-21},
  url = {https://www.perplexity.ai/hub/blog/learning-from-real-world-experience}
}

ಸಂಶ್ಲೇಷಿತದಿಂದ ನೈಜ-ಪ್ರಪಂಚದ ಡೇಟಾಗೆ

ಉತ್ತಮ ಹಂತಗಳನ್ನು ಅನುಕರಿಸಿ, ಕೆಟ್ಟ ಹಂತಗಳನ್ನು ಸರಿಪಡಿಸಿ

ಒಂದು ಉದಾಹರಣೆ: ಒಂದು ಸೆಷನ್ ಎರಡೂ ಪಾಠಗಳನ್ನು ಕಲಿಸಬಹುದು

ತರಬೇತಿಯು ಹೇಗೆ ಕೆಲಸ ಮಾಡುತ್ತದೆ

ಸೆಷನ್‌ಗಳನ್ನು ಆಯ್ಕೆಮಾಡಿ, ನಂತರ ಫಲಿತಾಂಶವನ್ನು ನಿರ್ಣಯಿಸಿ

ಬಳಕೆದಾರರ ಪ್ರತಿಕ್ರಿಯೆಯಿಂದ ತಪ್ಪುಗಳನ್ನು ಹುಡುಕಿ

ಸಾಧನ ದೋಷಗಳಿಂದ ತಪ್ಪುಗಳನ್ನು ಹುಡುಕಿ

ಎರಡು ಫಾರ್ವರ್ಡ್ ಪಾಸ್‌ಗಳು

ಲಾಸ್ ಕಾರ್ಯ

CE ಲಾಸ್

KL ಲಾಸ್

ಸಂಯೋಜಿತ ಲಾಸ್

ಮೌಲ್ಯಮಾಪನಗಳು ಏನು ತೋರಿಸುತ್ತವೆ

ಸುಳಿವುಗಳು ಮಾದರಿಯನ್ನು ತಪ್ಪುಗಳಿಂದ ದೂರವಿಡಬಲ್ಲವು

ಬಳಕೆದಾರರ ಪ್ರತಿಕ್ರಿಯೆ

ಸಾಧನ ದೋಷಗಳು

ತರಬೇತಿಯ ನಂತರ ಟೂಲ್ ವಿಶ್ವಾಸಾರ್ಹತೆ ಮತ್ತು ಬಳಕೆದಾರರ ಪ್ರತಿಕ್ರಿಯೆ

ಆಫ್‌ಲೈನ್ ಮೌಲ್ಯಮಾಪನ

ಆನ್‌ಲೈನ್ ಮೌಲ್ಯಮಾಪನ: GLM-5.2

ಆನ್‌ಲೈನ್ ಮೌಲ್ಯಮಾಪನ: GLM-5.3

ತೀರ್ಮಾನ

ಉಲ್ಲೇಖ