AI ಹೊಂದಾಣಿಕೆ: ಪ್ರಸ್ತುತ ಸಂಶೋಧನೆ ಮತ್ತು ಚರ್ಚೆ

AI ಹೊಂದಾಣಿಕೆಯು ಸರಳವಾಗಿ "AI ಮಾದರಿಯು ಬಳಕೆದಾರರ ಸೂಚನೆಗಳನ್ನು ಅನುಸರಿಸುತ್ತದೆಯೇ?" ಎಂದರ್ಥವಿತ್ತು. ಆದಾಗ್ಯೂ, AI ಸಿಸ್ಟಮ್‌ಗಳು ಹೆಚ್ಚು ಸಾಮರ್ಥ್ಯ ಮತ್ತು ಸ್ವಾಯತ್ತತೆಯನ್ನು ಪಡೆದುಕೊಂಡಂತೆ, ಆ ಪ್ರಶ್ನೆಯು ತೀರ್ಪು ಮತ್ತು ಮೌಲ್ಯಗಳನ್ನು ಒಳಗೊಳ್ಳಲು ವಿಸ್ತರಿಸಿದೆ. ಈ ಲೇಖನವು AI ಪ್ಲಾಟ್‌ಫಾರ್ಮ್‌ಗಳು, ಸರ್ಕಾರಿ ಸಂಸ್ಥೆಗಳು ಮತ್ತು ಲಾಭೋದ್ದೇಶವಿಲ್ಲದ ಸಂಸ್ಥೆಗಳು AI ಹೊಂದಾಣಿಕೆಯ ಸವಾಲಿಗೆ ಹೇಗೆ ಪ್ರತಿಕ್ರಿಯಿಸುತ್ತಿವೆ ಎಂಬುದನ್ನು ಅನ್ವೇಷಿಸುತ್ತದೆ.

AI ಹೊಂದಾಣಿಕೆ ಎಂದರೇನು

ಅದರ ಸರಳತೆಯಲ್ಲಿ, AI ಹೊಂದಾಣಿಕೆ ಎಂದರೆ AI ಸಿಸ್ಟಮ್ ತಾನು ಮಾಡಲು ಉದ್ದೇಶಿಸಿದ್ದನ್ನು ಮಾಡುತ್ತದೆ ಎಂದು ಖಚಿತಪಡಿಸಿಕೊಳ್ಳುವುದು. ಹೊಂದಾಣಿಕೆಯಾದ AI ಮಾದರಿಯು ಪ್ರಾಂಪ್ಟ್ ಅನ್ನು ಓದುತ್ತದೆ ಮತ್ತು ಪ್ರಾಂಪ್ಟ್ ಕೇಳಿದ ಔಟ್‌ಪುಟ್ ಅನ್ನು ಉತ್ಪಾದಿಸುತ್ತದೆ, ಅದು ತರಬೇತಿ ಪಡೆದ ಉದ್ದೇಶವನ್ನು ಗೇಮ್ ಮಾಡದೆ. ಆಧುನಿಕ ಹೊಂದಾಣಿಕೆಯ ಸಂಶೋಧನೆಯಲ್ಲಿ, ಇದನ್ನು ಸಾಮಾನ್ಯವಾಗಿ ಉದ್ದೇಶದ ಹೊಂದಾಣಿಕೆ ಎಂದು ರೂಪಿಸಲಾಗಿದೆ: ಕೇವಲ ಪ್ರಾಂಪ್ಟ್‌ನ ಪಠ್ಯವನ್ನು शाब्दिकವಾಗಿ ಅನುಸರಿಸದೆ, ತಮ್ಮ ಆಪರೇಟರ್‌ಗಳು ಏನು ಉದ್ದೇಶಿಸುತ್ತಾರೋ ಅದನ್ನು ಮಾಡಲು ಪ್ರಯತ್ನಿಸುವ ಸಿಸ್ಟಮ್‌ಗಳನ್ನು ನಿರ್ಮಿಸುವುದು.

ಹೊಂದಾಣಿಕೆಯು ತಾಂತ್ರಿಕ ಸವಾಲು ಮತ್ತು ಸಾರ್ವಜನಿಕ ಚರ್ಚೆಯ ವಿಷಯವಾಗಿದೆ. ತಾಂತ್ರಿಕ ಪದವಾಗಿ, ಹೊಂದಾಣಿಕೆಯು ಎಂಜಿನಿಯರಿಂಗ್ 문제입니다. ನಿರ್ದಿಷ್ಟ ಕಾರ್ಯದಲ್ಲಿ ಕೆಲಸ ಮಾಡುವ ನಿರ್ದಿಷ್ಟ ಮಾದರಿಯು ಅದು ಮಾಡಲು ನಿರ್ಮಿಸಿದ್ದನ್ನು ಮಾಡುತ್ತದೆಯೇ? ಇದು ಸೀಮಿತವಾದ, ಪರೀಕ್ಷಿಸಬಹುದಾದ ಸಮಸ್ಯೆಯಾಗಿದೆ.

ಆದಾಗ್ಯೂ, AI ಹೊಂದಾಣಿಕೆಯನ್ನು AI ಸಿಸ್ಟಮ್‌ಗಳ ಸಾಮಾನ್ಯ ಸುರಕ್ಷತೆಯ ಕುರಿತಾದ ವಿಶಾಲವಾದ ಸಾರ್ವಜನಿಕ ಮತ್ತು ನೀತಿ ಚರ್ಚೆಗಳಲ್ಲಿಯೂ ಬಳಸಲಾಗುತ್ತದೆ. ಹೆಚ್ಚು ಸಾಮರ್ಥ್ಯವಿರುವ AI ಪ್ಲಾಟ್‌ಫಾರ್ಮ್‌ಗಳು ಮಾನವಕುಲಕ್ಕೆ ಪ್ರಯೋಜನಕಾರಿಯಾಗಿ ಉಳಿಯುತ್ತವೆಯೇ ಮತ್ತು ಮಾನವ ನೈತಿಕತೆ, ಬಯಕೆಗಳು ಮತ್ತು ಗುರಿಗಳೊಂದಿಗೆ ಹೊಂದಾಣಿಕೆಯಾಗುತ್ತವೆಯೇ?

ಮಾದರಿಗಳು ಹೆಚ್ಚು ಸಂಕೀರ್ಣವಾದಂತೆ ಆ ಹೊಂದಾಣಿಕೆಯನ್ನು ಸಾಧಿಸುವುದು ಕ್ರಮೇಣ ಹೆಚ್ಚು ಕಷ್ಟಕರವಾಗುತ್ತದೆ. ಹೊಂದಾಣಿಕೆಯಾದ AI ಮಾದರಿಗಳನ್ನು ನಿರ್ಮಿಸುವಲ್ಲಿ ಎರಡು ಪ್ರಮುಖ ಸವಾಲುಗಳಿವೆ:

బాಹ್ಯ ಹೊಂದಾಣಿಕೆಯ ಸಮಸ್ಯೆ

ಬಳಕೆದಾರರು ಸಾಮಾನ್ಯವಾಗಿ ಸಹಾಯಕವಾದ, ಪ್ರಾಮಾಣಿಕವಾದ ಮತ್ತು ನೈತಿಕವಾದ LLM ಅನ್ನು ಬಯಸುತ್ತಾರೆ. ಆದರೆ LLM ಗೆ "ಸಹಾಯಕವಾಗಿರಿ ಮತ್ತು ನೈತಿಕವಾಗಿರಿ" ಎಂಬುದರ ಕುರಿತು ನೇರವಾಗಿ ಎಂದಿಗೂ ತರಬೇತಿ ನೀಡಲಾಗುವುದಿಲ್ಲ. ಇದು ಎರಡು ವಿಭಿನ್ನ ಹಂತಗಳ ಮೂಲಕ ಸಾಗುತ್ತದೆ.

ಪೂರ್ವ-ತರಬೇತಿ: ಮಾದರಿಯು ಭಾಷೆ, ಸಂಗತಿಗಳು ಮತ್ತು ರೀಜನಿಂಗ್‌ನ ಮಾದರಿಗಳನ್ನು ಕಲಿಯುತ್ತದೆ ಮತ್ತು ಹಾಗೆ ಮಾಡುವಾಗ ಭಾಷೆ, ಸಂಗತಿಗಳು ಮತ್ತು ರೀಜನಿಂಗ್‌ನ ಮಾದರಿಗಳನ್ನು ಪಡೆದುಕೊಳ್ಳುತ್ತದೆ. ಈ ಹಂತವು ನಿರ್ದಿಷ್ಟ ಪ್ರಶ್ನೆಯಿಂದ ವ್ಯಕ್ತಿಯು ವಾಸ್ತವವಾಗಿ ಏನು ಬಯಸುತ್ತಾನೆ ಎಂಬುದರ ಯಾವುದೇ ಕಲ್ಪನೆಯನ್ನು ಮಾದರಿಗೆ ನೀಡುವುದಿಲ್ಲ. ಇಲ್ಲಿಯೇ ಬಿಟ್ಟರೆ, ಮಾದರಿಯು "ನಾನು ಸೌರ್‌ಡೌ ಅನ್ನು ಹೇಗೆ ಬೇಕ್ ಮಾಡುವುದು" ಎನ್ನುವಷ್ಟೇ ಸುಲಭವಾಗಿ "ನಾನು ಲಾಕ್ ಅನ್ನು ಹೇಗೆ ಆಯ್ಕೆ ಮಾಡುವುದು" ಎಂದು ಉತ್ತರಿಸುತ್ತದೆ.

ಮಾನವ ಆದ್ಯತೆ: ಜನರು ಮಾದರಿಯ ಉತ್ತರಗಳ ಜೋಡಿಗಳನ್ನು ಪರಿಶೀಲಿಸುತ್ತಾರೆ ಮತ್ತು ತಾವು ಯಾವುದನ್ನು ಬಯಸುತ್ತೇವೆ ಎಂದು ಹೇಳುತ್ತಾರೆ. ಆ ಆದ್ಯತೆಗಳು ಪ್ರತ್ಯೇಕ ಸ್ಕೋರಿಂಗ್ ಸಿಸ್ಟಮ್ ಅನ್ನು ತರಬೇತಿಗೊಳಿಸುತ್ತವೆ, ಮತ್ತು ಉತ್ತಮ ಸ್ಕೋರ್ ಗಳಿಸುವ ಉತ್ತರಗಳನ್ನು ಉತ್ಪಾದಿಸಲು ನಂತರ ಮಾದರಿಯನ್ನು ಸರಿಹೊಂದಿಸಲಾಗುತ್ತದೆ.

ಈ ಪ್ರಕ್ರಿಯೆಯಲ್ಲಿ ಎಲ್ಲಿಯೂ ಸಹಾಯಕವಾಗಿರುವುದು ಅಥವಾ ನೈತಿಕವಾಗಿರುವುದು ಎಂದರೇನು ಎಂಬುದರ ಕುರಿತು ಯಾರೂ ಸ್ಪಷ್ಟ ವ್ಯಾಖ್ಯಾನವನ್ನು ಬರೆಯುವುದಿಲ್ಲ. ಮಾದರಿಯು ಏನು ಮಾಡಬೇಕೆಂದು ಸ್ಕೋರಿಂಗ್ ಸಿಸ್ಟಮ್‌ನ ಮಾರ್ಗದರ್ಶಿಯು ಅನೇಕ ಪ್ರತ್ಯೇಕ ಮಾನವ ತೀರ್ಪಿನ ಕರೆಗಳಿಂದ ಸಂಪೂರ್ಣವಾಗಿ ನಿರ್ಮಿಸಲ್ಪಟ್ಟಿದೆ. ಸ್ಕೋರಿಂಗ್ ವಿಮರ್ಶಕರು ಯಾವುದನ್ನು ಬಯಸುವ ಪ್ರವೃತ್ತಿಯನ್ನು ಹೊಂದಿದ್ದರು ಎಂಬುದನ್ನು ಪ್ರತಿಬಿಂಬಿಸುತ್ತದೆ ಹೊರತು, ಯಾವುದೇ ಒಬ್ಬ ವ್ಯಕ್ತಿಯು ವಾಸ್ತವವಾಗಿ ಏನು ಉದ್ದೇಶಿಸಿದ್ದಾನೆ ಎಂದಲ್ಲ ಮತ್ತು ಆಧಾರವಾಗಿರುವ ಗುರಿಯ ನಿಖರವಾದ ವ್ಯಾಖ್ಯಾನವಲ್ಲ.

ಪರಿಣಾಮವಾಗಿ, AI ತಾನು ಗ್ರಹಿಸುವುದರೊಂದಿಗೆ ಉದ್ದೇಶಕ್ಕೆ ಚೆನ್ನಾಗಿ ಹೊಂದಿಕೊಳ್ಳಬಹುದು, ಆದರೆ ಉದ್ದೇಶವೇ ಜನರು ವಾಸ್ತವವಾಗಿ ಬಯಸುವ ಫಲಿತಾಂಶದೊಂದಿಗೆ ಚೆನ್ನಾಗಿ ಹೊಂದಿಕೆಯಾಗದಿರಬಹುದು.

ಉದಾಹರಣೆಗೆ, ವಿಮರ್ಶಕರು ಉದ್ದವಾದ ಉತ್ತರಗಳನ್ನು ಬಯಸುವ ಪ್ರವೃತ್ತಿಯನ್ನು ಹೊಂದಿದ್ದರೆ, ಸಣ್ಣ ಉತ್ತರವು ಸರಿಯಾಗಿದ್ದರೂ ಸಹ ಮಾದರಿಯು ಉದ್ದವಾದ ಉತ್ತರಗಳನ್ನು ಬರೆಯಲು ಕಲಿಯುತ್ತದೆ. ಅಥವಾ, ವಿಮರ್ಶಕರು ವಿಶ್ವಾಸಾರ್ಹ ಉತ್ತರಗಳನ್ನು ಬಯಸುವ ಪ್ರವೃತ್ತಿಯನ್ನು ಹೊಂದಿದ್ದರೆ, ಅದು ಸಂದೇಹವನ್ನು ವ್ಯಕ್ತಪಡಿಸಬೇಕಾದರೂ ಸಹ, ಮಾದರಿಯು ನಿಖರವಾಗಿ ಧ್ವನಿಸಲು ಕಲಿಯುತ್ತದೆ.

ಹೇಳಲಾದ ಗುರಿ ಮತ್ತು ತರಬೇತಿ ಪಡೆದ ಗುರಿಯ ನಡುವಿನ ಈ ಅಂತರವನ್ನು ಸಂಶೋಧಕರು ಬಾಹ್ಯ ಹೊಂದಾಣಿಕೆಯ ಸಮಸ್ಯೆ ಎಂದು ಕರೆಯುತ್ತಾರೆ.

ಆಂತರಿಕ ಹೊಂದಾಣಿಕೆಯ ಸಮಸ್ಯೆ

ಸಂಬಂಧಿತ ಗುರಿಯ ಮೇಲೆ ತರಬೇತಿ ಪಡೆದ ಮಾದರಿಯು ಜಗತ್ತಿನಲ್ಲಿ ಬಂದ ನಂತರ ಆ ಗುರಿಯನ್ನು ಸರಿಯಾಗಿ ಮುಂದುವರಿಸಲು ವಿಫಲವಾದಾಗ ಆಂತರಿಕ ಹೊಂದಾಣಿಕೆಯ ಸಮಸ್ಯೆಯಾಗುತ್ತದೆ. ಮಾದರಿಯು ತರಬೇತಿಯು ಸಿದ್ಧಪಡಿಸದ ಪರಿಸ್ಥಿತಿಯನ್ನು ಎದುರಿಸಿದಾಗ ಮಾತ್ರ ಈ ಸಮಸ್ಯೆಯು ಗೋಚರಿಸುತ್ತದೆ.

ತರಬೇತಿಯ ಸಮಯದಲ್ಲಿ, ಮಾದರಿಗಳಿಗೆ ಯಾವಾಗಲೂ ಸೀಮಿತ ಸೆಟ್ ಪರಿಸ್ಥಿತಿಗಳನ್ನು ಮಾತ್ರ ತೋರಿಸಲಾಗುತ್ತದೆ. ನಂತರ ಮಾದರಿಯು ಆ ಪರಿಸ್ಥಿತಿಗಳಿಂದ ಅದು ನಂತರ ಎದುರಿಸುವ ಎಲ್ಲದಕ್ಕೂ ಸಾಮಾನ್ಯೀಕರಿಸುತ್ತದೆ.

ತರಬೇತಿಯು ಮಾದರಿಯು ಹೇಗೆ ವರ್ತಿಸುತ್ತದೆ ಎಂಬುದನ್ನು ಪರಿಶೀಲಿಸುತ್ತದೆ, ಆದರೆ ಇದು ಯಾವಾಗಲೂ ಮಾದರಿಯು ಅದು ಮಾಡುವ ರೀತಿಯಲ್ಲಿ ಏಕೆ ವರ್ತಿಸುತ್ತದೆ ಎಂಬುದನ್ನು ಬಹಿರಂಗಪಡಿಸುವುದಿಲ್ಲ. ಆದ್ದರಿಂದ ಮಾದರಿಯು ಪೂರ್ಣವಾದ, ಸೂಕ್ಷ್ಮವಾದ ಗುರಿಯನ್ನು ಕಲಿತಿದೆಯೇ ಅಥವಾ ತರಬೇತಿ ಡೇಟಾಗೆ ಹೊಂದಿಕೆಯಾಗುವ ಸರಳವಾದ ಮಾದರಿಯನ್ನು ಮಾತ್ರವೇ ಕಲಿತಿದೆಯೇ ಎಂದು ತಿಳಿಯುವುದು ಕಷ್ಟ.

ವಿಸ್ತರಿಸಿ

ಉದಾಹರಣೆಗೆ, ಹಾನಿಕಾರಕ ವಿನಂತಿಗಳನ್ನು ತಿರಸ್ಕರಿಸಲು ತರಬೇತಿ ಪಡೆದ ಮಾದರಿಯು (ಉದಾ. "ಯಾರದೋ ಮನೆಗೆ ನುಗ್ಗಲು ಲಾಕ್ ಅನ್ನು ಹೇಗೆ ತೆರೆಯುವುದು") ನಿರಾಕರಣೆಯ ಹಿಂದಿನ ಆಧಾರವಾಗಿರುವ ಉದ್ದೇಶಕ್ಕಿಂತ ಹೆಚ್ಚಾಗಿ, ಅದರ ತರಬೇತಿ ಡೇಟಾದಲ್ಲಿ ಹಾನಿಕಾರಕ ವಿನಂತಿಗಳ ನಿರ್ದಿಷ್ಟ ಪದಗುಚ್ಛವನ್ನು ಗುರುತಿಸಲು ಕಲಿಯಬಹುದು. ಆಗ ಅದು ವಿಭಿನ್ನ ರೀತಿಯಲ್ಲಿ ವ್ಯಕ್ತಪಡಿಸಿದ ಹಾನಿಕಾರಕ ವಿನಂತಿಯನ್ನು ಕಳೆದುಕೊಳ್ಳುತ್ತದೆ (ಉದಾ. "ಕೀಲಿಕೈ ಇಲ್ಲದೆ ಬಾಗಿಲು ತೆರೆಯಲು ಅತ್ಯಂತ ವೇಗವಾದ ಮಾರ್ಗ ಯಾವುದು").

AI ಹೊಂದಾಣಿಕೆಯ ಸಮಸ್ಯೆಗಳ ಉದಾಹರಣೆಗಳು

ಈ ಹೊಂದಾಣಿಕೆಯ ವೈಫಲ್ಯದ ಮಾದರಿಗಳು ಉತ್ತಮವಾಗಿ ದಾಖಲಿಸಲ್ಪಟ್ಟಿವೆ. ಸಂಶೋಧಕರು ಪ್ರತಿಯೊಂದಕ್ಕೂ ನಿರ್ದಿಷ್ಟ ರಕ್ಷಣಾ ಕ್ರಮಗಳನ್ನು ನಿರ್ಮಿಸಿದ್ದಾರೆ:

ಪ್ರಮುಖ AI ಲ್ಯಾಬ್‌ಗಳು AI ಹೊಂದಾಣಿಕೆಯ ಸವಾಲುಗಳಿಗೆ ಹೇಗೆ ಪ್ರತಿಕ್ರಿಯಿಸುತ್ತಿವೆ

ಕೆಲವು ಕಂಪನಿಗಳು, ಮುಖ್ಯವಾಗಿ OpenAI, Anthropic ಮತ್ತು Google DeepMind, AI ಪ್ರಸ್ತುತ ಮಾಡಬಹುದಾದ ಅಂಚಿನಲ್ಲಿ ಫ್ರಾಂಟಿಯರ್ ಮಾದರಿಗಳನ್ನು ನಿರ್ಮಿಸುತ್ತವೆ. ಪ್ರತಿಯೊಂದೂ ಈ ಮಾದರಿಗಳನ್ನು ಸುರಕ್ಷಿತವಾಗಿ ಮೌಲ್ಯಮಾಪನ ಮಾಡಲು ಮತ್ತು ನಿಯೋಜಿಸಲು ತನ್ನದೇ ಆದ ಚೌಕಟ್ಟನ್ನು ಪ್ರಕಟಿಸಿದೆ.

OpenAI

OpenAI public statement on safety and alignment ಪ್ರಕಾರ, ಅವರು ಸಂಭಾವ್ಯ AI ತಪ್ಪು ಹೊಂದಾಣಿಕೆಯ ಅಪಾಯಗಳನ್ನು ಇದರ ಮೂಲಕ ಪರಿಹರಿಸುತ್ತಿದ್ದಾರೆ:

ಪುನರಾವರ್ತಿತ ನಿಯೋಜನೆ

OpenAI ತಾನು ಮಾದರಿಗಳನ್ನು ಕ್ರಮೇಣವಾಗಿ ಬಿಡುಗಡೆ ಮಾಡುವುದಾಗಿ ಹೇಳುತ್ತದೆ, ಇದರಿಂದ ಅದು ಮಾದರಿಗಳು ವಾಸ್ತವ ಜಗತ್ತಿನಲ್ಲಿ ಹೇಗೆ ವರ್ತಿಸುತ್ತವೆ ಮತ್ತು ದುರುಪಯೋಗಗೊಳ್ಳುತ್ತವೆ ಎಂಬುದನ್ನು ಅಧ್ಯಯನ ಮಾಡಬಹುದು. ಮುಂಚಿತವಾಗಿ ಪ್ರತಿಯೊಂದು ಅಪಾಯವನ್ನು ಊಹಿಸಲು ಪ್ರಯತ್ನಿಸುವುದಕ್ಕಿಂತ ರಿಯಲ್-ವಲ್ಡ್ ಪ್ರತಿಕ್ರಿಯೆಯು ಹೆಚ್ಚಿನ ಒಳೋಟವನ್ನು ನೀಡುತ್ತದೆ ಎಂದು ಅದು ತರ್ಕಿಸುತ್ತದೆ. ಹೊರಹೊಮ್ಮುವ ಅಪಾಯಗಳನ್ನು ಟ್ರ್ಯಾಕ್ ಮಾಡಲು ಮತ್ತು ಬಿಡುಗಡೆಗೆ ಮೊದಲು ಮಾದರಿಗೆ ಯಾವ ಸುರಕ್ಷತಾ ಕ್ರಮಗಳು ಬೇಕಾಗುತ್ತವೆ ಎಂಬುದನ್ನು ನಿರ್ಧರಿಸಲು ಇದು Preparedness Framework ಅನ್ನು ಅನ್ವಯಿಸುತ್ತದೆ.

ಶ್ರೇಣೀಕೃತ ಸುರಕ್ಷತಾ ಕ್ರಮಗಳು

OpenAI ಇದು ಬಹು, ಸ್ವತಂತ್ರ ಸುರಕ್ಷತಾ ಕ್ರಮಗಳನ್ನು ಜೋಡಿಸುತ್ತದೆ ಎಂದು ಹೇಳುತ್ತದೆ, ಆದ್ದರಿಂದ ಏನಾದರೂ ತಪ್ಪಾಗಲು ಹಲವಾರು ರಕ್ಷಣಾ ಕ್ರಮಗಳು ಏಕಕಾಲದಲ್ಲಿ ವಿಫಲಗೊಳ್ಳಬೇಕಾಗುತ್ತದೆ.

ಉದ್ದೇಶಪೂರ್ವಕ ಹೊಂದಾಣಿಕೆ

ಕಂಪನಿಯ ಪ್ರಕಾರ, ಒಂದೇ ಹಂತದಲ್ಲಿ ಉತ್ತರಿಸುವ ಬದಲು, ಪ್ರತಿಕ್ರಿಯಿಸುವುದು ಹೇಗೆ ಎಂದು ನಿರ್ಧರಿಸುವ ಮೊದಲು ಸಂಬಂಧಿತ ಸುರಕ್ಷತಾ ಮಾರ್ಗಸೂಚಿಗಳ ಮೂಲಕ ಕೆಲಸ ಮಾಡಲು ಮಾದರಿಗೆ ತರಬೇತಿ ನೀಡಲಾಗುತ್ತದೆ. ಇದರ ಗುರಿಯೆಂದರೆ, ಮಾದರಿಯ ತರಬೇತಿಯು ಸ್ಪಷ್ಟವಾಗಿ ಒಳಗೊಳ್ಳದ ಪರಿಸ್ಥಿತಿಗಳಲ್ಲಿ ಸರಿಯಾದ ಕರೆಗೆ ತನ್ನದೇ ಆದ ರೀತಿಯಲ್ಲಿ ರೀಜನಿಂಗ್ ಮಾಡಲು ಸಾಧ್ಯವಾಗಬೇಕು.

ಹಂಚಿದ ಜವಾಬ್ದಾರಿ

OpenAI ತಾನು AI ಸುರಕ್ಷತೆಯನ್ನು ಸಾಮೂಹಿಕ ಪ್ರಯತ್ನವಾಗಿ ಪರಿಗಣಿಸುವುದಾಗಿ ಹೇಳುತ್ತದೆ, ಇದು ತನ್ನ ಪ್ರಕಟಿತ ಸುರಕ್ಷತಾ ಸಂಶೋಧನೆ ಮತ್ತು ಮೌಲ್ಯಮಾಪನ ಮಾನದಂಡಗಳ ಕುರಿತು US Center for AI Standards and Innovation (CAISI) ಮತ್ತು UK AI ಸೆಕ್ಯುರಿಟಿ ಇನ್‌ಸ್ಟಿಟ್ಯೂಟ್‌ನೊಂದಿಗೆ ನಡೆಸಿದ ಕೆಲಸವನ್ನು ಸೂಚಿಸುತ್ತದೆ.

Anthropic

Anthropic ನ Responsible Scaling Policy ಡಾಕ್ಯುಮೆಂಟ್ ಇದು AI ಹೊಂದಾಣಿಕೆಯತ್ತ ಹೇಗೆ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ ಎಂಬುದನ್ನು ವಿವರಿಸುತ್ತದೆ:

ಸಾಮರ್ಥ್ಯ-ಸಂಬಂಧಿತ ಸುರಕ್ಷತಾ ಕ್ರಮಗಳು

ಒಂದು ಮಾದರಿಯು ಹೆಚ್ಚು ಸಾಮರ್ಥ್ಯವನ್ನು ಪಡೆದುಕೊಂಡಂತೆ, ಅದನ್ನು ಮತ್ತಷ್ಟು ತರಬೇತಿ ನೀಡುವ ಮೊದಲು ಅಥವಾ ಬಿಡುಗಡೆ ಮಾಡುವ ಮೊದಲು ಕಟ್ಟುನಿಟ್ಟಾದ ಸುರಕ್ಷತಾ ಪರಿಶೀಲನೆಗಳನ್ನು ಪಾಸ್ ಮಾಡಬೇಕಾಗುತ್ತದೆ. ಇದರ ಜೊತೆಗೆ, AI ಸಿಸ್ಟಮ್‌ಗಳು ತಮ್ಮದೇ ಆದ ಅಪಾಯದ ಮೌಲ್ಯಮಾಪನಗಳ ಹಿಂದಿನ ಹೆಚ್ಚಿನ ಸಂಶೋಧನೆ ಮತ್ತು ವಿಶ್ಲೇಷಣೆಯನ್ನು ಮಾಡುತ್ತವೆ ಒಮ್ಮೆ, ಆ ಸಾಕ್ಷ್ಯವು ಸ್ವತಃ ತಪ್ಪುದಾರಿಗೆಳೆಯುವ ಅಥವಾ ಕುಶಲತೆಯ ವರ್ತನೆಯಿಂದ ಪ್ರಭಾವಿತವಾಗಬಹುದು ಎಂದು Anthropic ಒಪ್ಪಿಕೊಳ್ಳುತ್ತದೆ. ಆ ಹಂತದಲ್ಲಿ ಮೌಲ್ಯಮಾಪನಗಳನ್ನು ಹೆಚ್ಚಿನ ಪ್ರಮಾಣದ ಸಾಕ್ಷ್ಯಕ್ಕೆ ಒಳಪಡಿಸಲು ಇದು ಬದ್ಧವಾಗಿದೆ.

ವ್ಯಾಖ್ಯಾನಿಸಲಾದ ಹೊಂದಾಣಿಕೆ ಅಪಾಯದ ವರ್ಗ

Anthropic 'ಹೆಚ್ಚಿನ ಹೂಡಿಕೆಯ ಸೆಟ್ಟಿಂಗ್‌ಗಳಲ್ಲಿ ತಪ್ಪಾದ ಹೊಂದಾಣಿಕೆಯ AI ಸಿಸ್ಟಮ್‌ಗಳು' ನಿರ್ದಿಷ್ಟ ಅಪಾಯದ ವರ್ಗವೆಂದು ಎತ್ತಿ ತೋರಿಸುತ್ತದೆ: ಹೆಚ್ಚು ಅವಲಂಬಿತವಾಗಿರುವ, ಸಂವೇದನಾಶೀಲ ಸಿಸ್ಟಮ್‌ಗಳಿಗೆ ವ್ಯಾಪಕ ಪ್ರವೇಶವನ್ನು ಹೊಂದಿರುವ ಮತ್ತು ಗುರಿಯತ್ತ ಸ್ವಾಯತ್ತವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸಲು ಮತ್ತು ಮೇಲ್ವಿಚಾರಣೆಯನ್ನು ಸುತ್ತಮುತ್ತ ಕೆಲಸ ಮಾಡಲು ಸ್ವಲ್ಪ ಸಾಮರ್ಥ್ಯವನ್ನು ಹೊಂದಿರುವ ಮಾದರಿಗಳು.

ಆಂತರಿಕ ಹೊಂದಾಣಿಕೆ ಪರೀಕ್ಷೆ

ಎರಡು ಮುಖ್ಯ ವಿಧಾನಗಳನ್ನು ಬಳಸಿಕೊಂಡು ಎಚ್ಚರಿಕೆಯ ಚಿಹ್ನೆಗಳಿಗಾಗಿ ತನ್ನದೇ ಆದ ಮಾದರಿಗಳ ವರ್ತನೆಯನ್ನು ನಿಯಮಿತವಾಗಿ ಅಧ್ಯಯನ ಮಾಡಲು ಕಂಪನಿಯು ಬದ್ಧವಾಗಿದೆ: ಅದು ನೀಡಲಾದ ಔಟ್‌ಪುಟ್ ಅನ್ನು ಏಕೆ ಉತ್ಪಾದಿಸುತ್ತಿದೆ ಎಂಬುದನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳಲು ಮಾದರಿಯ ಒಳಗೆ ನೋಡಲು ಪ್ರಯತ್ನಿಸುವುದು, ಮತ್ತು ಆಂತರಿಕ ಟೀಮ್ ಕೆಟ್ಟ ವರ್ತನೆಯು ತೋರಿಸಿಕೊಳ್ಳುತ್ತದೆಯೇ ಎಂದು ನೋಡಲು ಉದ್ದೇಶಪೂರ್ವಕವಾಗಿ ಪ್ರಚೋದಿಸಲು ಪ್ರಯತ್ನಿಸುವುದು.

ನಿಯಮಿತ ಸಾರ್ವಜನಿಕ ವರದಿಗಾರಿಕೆ

ಮಾದರಿಯ ಸಾಮರ್ಥ್ಯಗಳು ಮತ್ತು ವರ್ತನೆಯ ಪ್ರವೃತ್ತಿಗಳು, ಅದರ ಮೇಲ್ವಿಚಾರಣಾ ಅಭ್ಯಾಸಗಳು ಮತ್ತು ಅಪಾಯದ ಒಟ್ಟಾರೆ ಮೌಲ್ಯಮಾಪನದ ಕುರಿತು ತನಗೆ ತಿಳಿದಿರುವುದನ್ನು ವಿವರವಾಗಿ ತಿಳಿಸುತ್ತಾ ಪ್ರತಿ ಮೂರರಿಂದ ಆರು ತಿಂಗಳಿಗೊಮ್ಮೆ Risk Report ಅನ್ನು ಪ್ರಕಟಿಸುವುದಾಗಿ ಕಂಪನಿಯು ಹೇಳುತ್ತದೆ.

Google DeepMind

Google DeepMind's Frontier Safety Framework ಡಾಕ್ಯುಮೆಂಟ್ ಇದು ಹೊಂದಾಣಿಕೆಯತ್ತ ಹೇಗೆ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ ಎಂಬುದನ್ನು ವಿವರಿಸುತ್ತದೆ:

ಶ್ರೇಣೀಕೃತ ರಚನೆ

ಚೌಕಟ್ಟು ತಪ್ಪು ಹೊಂದಾಣಿಕೆಯನ್ನು ನಾಲ್ಕು ಅಪಾಯದ ಡೊಮೇನ್‌ಗಳಲ್ಲಿ ಒಂದೆಂದು ಪರಿಗಣಿಸುತ್ತದೆ, ಮತ್ತು AI ಅಪಾಯವನ್ನು ನಿರ್ವಹಿಸುವ সমাজের ಒಟ್ಟಾರೆ ಸಾಮರ್ಥ್ಯವನ್ನು ಕಡಿಮೆ ಮಾಡುವ ಮಾದರಿಯ ML R&D ಸಾಮರ್ಥ್ಯಗಳು ಅಥವಾ ತಪ್ಪಾದ ಪ್ರವೃತ್ತಿಗಳಿಂದ ಉಂಟಾಗುವ ಅಪಾಯವೆಂದು ನಿರ್ದಿಷ್ಟವಾಗಿ ವ್ಯಾಖ್ಯಾನಿಸುತ್ತದೆ. ಇದು ಒಂದು ಪ್ರತ್ಯೇಕ ಅಪಾಯವಲ್ಲ, ಆದರೆ ಒಂದೇ ಬಾರಿಗೆ ಹಲವಾರು ವಿಭಿನ್ನ ಮಾರ್sಗಳ ಮೂಲಕ ತೀವ್ರ ಹಾನಿಗೆ ಕೊಡುಗೆ ನೀಡುವ ಅಂಶವಾಗಿ ಸ್ಪಷ್ಟವಾಗಿ ರೂಪಿಸಲಾಗಿದೆ.

ಮುಂಚಿನ ಎಚ್ಚರಿಕೆಯ ಹಂತ

ಮಾದರಿಯು ಮೂಲಭೂತ ಮೇಲ್ವಿಚಾರಣೆಯು ಸಾಕಷ್ಟಿಲ್ಲದಿರುವಷ್ಟು ಬಲವಾಗಿದ್ದಾಗ, DeepMind ಮಾದರಿಯು ಆಂತರಿಕವಾಗಿ ಹೇಗೆ ಬಳಸಲ್ಪಡುತ್ತದೆ ಎಂಬುದು ಸೇರಿದಂತೆ ನಿರಂತರ ಆಧಾರದ ಮೇಲೆ ಅದರ ನಡವಳಿಕೆಯನ್ನು ಪರಿಶೀಲಿಸುತ್ತದೆ. ಆ ಪರಿಶೀಲನೆಯು ಸಮಸ್ಯೆಗಳನ್ನು ಹೊರಹಾಕಿದರೆ ಅದರ ರೀಜನಿಂಗ್ ಅನ್ನು ಮೇಲ್ವಿಚಾರಣೆ ಮಾಡುವಂತಹ ಸುರಕ್ಷತಾ ಕ್ರಮಗಳನ್ನು ಇದು ಸೇರಿಸುತ್ತದೆ.

ಅಪಾಯ ತಗ್ಗಿಸುವಿಕೆ

ನಿರ್ದಿಷ್ಟವಾಗಿ ತಪ್ಪು ಹೊಂದಾಣಿಕೆಗಾಗಿ, ಮಾದರಿಯು ಏನು ಮಾಡಲು ಸಾಧ್ಯ ಎಂಬುದನ್ನು ಮಿತಿಗೊಳಿಸುವುದು, ನಡೆಯುತ್ತಿರುವ ಮೇಲ್ವಿಚಾರಣೆ ಮತ್ತು ಉಲ್ಬಣಗೊಳಿಸುವ ಪ್ರಕ್ರಿಯೆಗಳು, ಆಡಿಟಿಂಗ್ ಮತ್ತು ಹೊಂದಾಣಿಕೆಯ ತರಬೇತಿಯಂತಹ ಕ್ರಮಗಳನ್ನು DeepMind ಹೆಸರಿಸುತ್ತದೆ. ಕಂಪನಿಯ ಒಳಗೆ ಮಾದರಿಯನ್ನು ಹೇಗೆ ಬಳಸಲಾಗುತ್ತದೆ ಎಂಬುದರಲ್ಲಿ ತಪ್ಪು ಹೊಂದಾಣಿಕೆಯ ಅಪಾಯವು ತೋರಿಸಿಕೊಳ್ಳುವುದರಿಂದ ಇದು ಇದನ್ನು ಹೆಚ್ಚಿನ ಅಪಾಯದ ಆಂತರಿಕ ಬಳಕೆಗೂ ಅನ್ವಯಿಸುತ್ತದೆ.

AI ಹೊಂದಾಣಿಕೆ: ಅಪಾಯಗಳ ಬಗ್ಗೆ ಚರ್ಚೆ

ಮೇಲೆ ಒಳಗೊಂಡಿರುವ ಸ್ವಯಂಪ್ರೇರಿತ ಚೌಕಟ್ಟುಗಳು ತಮ್ಮದೇ ಆದ ಮೇಲೆ ಸಾಕಾಗುತ್ತವೆಯೇ ಅಥವಾ ಸ್ಪರ್ಧಾತ್ಮಕ ಒತ್ತಡದಲ್ಲಿ ನಿಜವಾಗಿ ಉಳಿಯಲು ಹೊಂದಾಣಿಕೆಯ ಬದ್ಧತೆಗಳು ಕಾನೂನುಬದ್ಧವಾಗಿ ಬಂಧಿಸಲ್ಪಡಬೇಕೇ ಎಂಬ ಬಗ್ಗೆ ನಡೆಯುತ್ತಿರುವ ಉದ್ಯಮದ ಚರ್ಚೆಯಿದೆ.

ಜುಲೈ 2026 ರಲ್ಲಿ, OpenAI, Anthropic, Google DeepMind ಮತ್ತು Meta ಸೇರಿದಂತೆ ಫ್ರಾಂಟಿಯರ್ AI ಕಂಪನಿಗಳಾದ್ಯಂತ 1,386 ಕಾರ್ಯನಿರ್ವಾಹಕರು ಮತ್ತು ಉದ್ಯೋಗಿಗಳು Pacing the Frontier ಎಂಬ ಹೇಳಿಕೆಗೆ ಸಹಿ ಹಾಕಿದರು. ಈ ಕಂಪನಿಗಳು AI ಸಂಶೋಧನೆಯನ್ನು ತಾವೇ ಸ್ವಯಂಚಾಲಿತಗೊಳಿಸಬಹುದಾದ ಹಂತವನ್ನು ಸಮೀಪಿಸುತ್ತಿರಬಹುದು ಎಂದು ಈ ಹೇಳಿಕೆಯು ವಾದಿಸುತ್ತದೆ. ಇದರರ್ಥ ಸಂಶೋಧಕರು ಮುಂದುವರಿಯಲು ಸಾಧ್ಯವಾಗುವುದಕ್ಕಿಂತ ವೇಗವಾಗಿ AI ಸಾಮರ್ಥ್ಯವು ಮುನ್ನಡೆಯಬಹುದು ಮತ್ತು ಹೊಂದಾಣಿಕೆಯ ಕೆಲಸವು ಶಾಶ್ವತವಾಗಿ ಹಿಂದೆ ಬೀಳಬಹುದು.

ಭವಿಷ್ಯದಲ್ಲಿ ಬಳಸಬಹುದಾದ ತಾಂತ್ರಿಕ ಮತ್ತು ಆಡಳಿತಾತ್ಮಕ ಬ್ರೇಕ್‌ಗಳನ್ನು ನಿರ್ಮಿಸಲು ಸಹಾಯ ಮಾಡುವಂತೆ Pacing the Frontier ಯು.ಎಸ್. সরকারকে ಕೇಳುತ್ತದೆ, ಯಾವುದೇ ಏಕೈಕ ಲ್ಯಾಬ್ ಪ್ರತಿಸ್ಪರ್ಧಿಗಳು ಮುನ್ನಡೆಯುವುದನ್ನು ಮುಂದುವರೆಸುತ್ತಿರುವಾಗ ಹಿಂದೆ ಸರಿಯಲು ಸಾಧ್ಯವಿಲ್ಲ ಎಂದು ವಾದಿಸುತ್ತದೆ. ಸ್ವಯಂಪ್ರೇರಿತ ಚೌಕಟ್ಟುಗಳು ಮಾತ್ರ ಭವಿಷ್ಯದಲ್ಲಿ AI ಹೊಂದಾಣಿಕೆಯನ್ನು ಸಂರಕ್ಷಿಸಲು ಸಾಕಾಗುವುದಿಲ್ಲ ಎಂಬ ಉದ್ಯಮದ ಒಳಗಿನಿಂದ ಇದು ಒಂದು ಮೌನ ಒಪ್ಪಿಗೆಯಾಗಿ ಪರಿಗಣಿಸಲ್ಪಡಬಹುದು.

AI ಹೊಂದಾಣಿಕೆಯಲ್ಲಿ ಬೇರೆ ಯಾರು ಕೆಲಸ ಮಾಡುತ್ತಿದ್ದಾರೆ

ಹೊಂದಾಣಿಕೆಯ ಕೆಲಸವು ಫ್ರಾಂಟಿಯರ್ ಮಾದರಿಗಳನ್ನು ನಿರ್ಮಿಸುವ ಕಂಪನಿಗಳನ್ನು ಮೀರಿ ವಿಸ್ತರಿಸುತ್ತದೆ.

ಸರ್ಕಾರಗಳು

ಸರ್ಕಾರಗಳು ನೇರವಾಗಿ ಹೊಂದಾಣಿಕೆಯ ಸಂಶೋಧನೆಗೆ ಹಣ ಒದಗಿಸುತ್ತಿವೆ ಮತ್ತು ಸಮನ್ವಯಗೊಳಿಸುತ್ತಿವೆ. ಉದಾಹರಣೆಗೆ, UK AI ಸೆಕ್ಯುರಿಟಿ ಇನ್‌ಸ್ಟಿಟ್ಯೂಟ್ Alignment Project ಅನ್ನು ನಡೆಸುತ್ತಿದೆ, ಇದು AI ನಿಯಂತ್ರಣವನ್ನು ನಿರ್ದಿಷ್ಟವಾಗಿ ಗುರಿಯಾಗಿಟ್ಟುಕೊಂಡು 2025 ರಿಂದ ಎಂಟು ದೇಶಗಳಲ್ಲಿ 60 ಕ್ಕೂ ಹೆಚ್ಚು ಪ್ರಾಜೆಕ್ಟ್‌ಗಳಿಗೆ £27M ಗಿಂತ ಹೆಚ್ಚು ಹಣವನ್ನು ನೀಡಿದ ಜಾಗತಿಕ ನಿಧಿಯಾಗಿದೆ. US ನಲ್ಲಿ, CAISI ಮೌಲ್ಯಮಾಪನ ಮಾನದಂಡಗಳ ಮೇಲೆ ಗಮನಹರಿಸುತ್ತದೆ.

ಎರಡೂ ವಿಶಾಲವಾದ International Network for Advanced AI Measurement, Evaluation and Science ಒಳಗೆ ಕುಳಿತುಕೊಳ್ಳುತ್ತವೆ, ಇದು ಜಂಟಿ ಪರೀಕ್ಷಾ ಅಭ್ಯಾಸಗಳನ್ನು ನಡೆಸುವ ಮತ್ತು ಗಡಿಯಾದ್ಯಂತ ಮೌಲ್ಯಮಾಪನ ವಿಧಾನಗಳನ್ನು ಹೊಂದಿಸಲು ಕೆಲಸ ಮಾಡುವ ಹತ್ತು ದೇಶಗಳ ರಾಷ್ಟ್ರೀಯ ಸುರಕ್ಷತಾ ಸಂಸ್ಥೆಗಳ ದೇಹವಾಗಿದೆ.

ಲಾಭೋದ್ದೇಶವಿಲ್ಲದ ಸಂಸ್ಥೆಗಳು

ಫ್ಯೂಚರ್ ಆಫ್ ಲೈಫ್ ಇನ್‌ಸ್ಟಿಟ್ಯೂಟ್ AI Safety Index ಅನ್ನು ಪ್ರಕಟಿಸುತ್ತದೆ, ಇದು AI ಲ್ಯಾಬ್‌ಗಳ ಸುರಕ್ಷತಾ ಅಭ್ಯಾಸಗಳನ್ನು ಹೋಲಿಸುವ ಸ್ಕೋರ್‌ಕಾರ್ಡ್ ಆಗಿದೆ. Center for AI Safety WMDP ಮತ್ತು SafeBench ಸೇರಿದಂತೆ ಕ್ಷೇತ್ರವ್ಯಾದಿ ಬಳಸಲಾಗುವ ಬೆಂಚ್‌ಮಾರ್ಕ್‌ಗಳನ್ನು ನಿರ್ಮಿಸುತ್ತದೆ. Alignment Research Center ಹೆಚ್ಚು ಸೈದ್ಧಾಂತಿಕ ಹೊಂದಾಣಿಕೆಯ ಸಮಸ್ಯೆಗಳನ್ನು ಅಧ್ಯಯನ ಮಾಡುತ್ತದೆ ಮತ್ತು ಅದರ ಸ್ಪಿನ್-ಔಟ್, Model Evaluation and Threat Research (METR), ಫ್ರಾಂಟಿಯರ್ ಮಾದರಿಗಳ ಮೇಲೆ ಸ್ವತಂತ್ರ ಪೂರ್ವ-ನಿಯೋಜನೆ ಮೌಲ್ಯಮಾಪನಗಳನ್ನು ನಡೆಸುತ್ತದೆ. FAR.AI ಬಿಡುಗಡೆಯಾಗುವ ಮೊದಲು ಮತ್ತು ನಂತರ ದೌರ್ಬಲ್ಯಗಳಿಗಾಗಿ ಫ್ರಾಂಟಿಯರ್ ಮಾದರಿಗಳನ್ನು ಪರೀಕ್ಷಿಸುತ್ತದೆ.

ವಿಶ್ವವಿದ್ಯಾನಿಲಯಗಳು

UC ಬರ್ಕ್ಲಿಯಲ್ಲಿರುವ Center for Human-Compatible AI ಮತ್ತು ಯೂನಿವರ್ಸಿಟಿ ಆಫ್ ಕೇಂಬ್ರಿಡ್ಜ್‌ನ Leverhulme Centre for the Future of Intelligence ಸೇರಿದಂತೆ ಹಲವಾರು ವಿಶ್ವವಿದ್ಯಾನಿಲಯಗಳು AI ಹೊಂದಾಣಿಕೆಯ ಸಂಶೋಧನೆಯಲ್ಲಿ ಸಕ್ರಿಯ ಪಾತ್ರ ವಹಿಸುತ್ತಿವೆ.

AI ಹೊಂದಾಣಿಕೆ: ಸಾಮಾನ್ಯ ತಪ್ಪುಗ್ರಹಿಕೆಗಳು

ಹೊಂದಾಣಿಕೆಯು ಕಂಟೆಂಟ್ ಮಾಡರೇಶನ್ ನಂತೆಯೇ ಇರುವುದಿಲ್ಲ, ಆದರೂ ಈ ಪದವನ್ನು ಕೆಲವೊಮ್ಮೆ ಆ ಸಂದರ್ಭದಲ್ಲಿ ಬಳಸಲಾಗುತ್ತದೆ. ಕಂಟೆಂಟ್ ಮಾಡರೇಶನ್ ಎಂದರೆ ಮಾದರಿಯು ಏನು ಹೇಳುತ್ತದೆ ಅಥವಾ ಹೇಳುವುದಿಲ್ಲ, ಸ್ಲರ್‌ಗಳು, ಗ್ರಾಫಿಕ್ ಕಂಟೆಂಟ್ ಅಥವಾ ನಿರ್ದಿಷ್ಟ ನಿಷೇಧಿತ ವಿಷಯಗಳನ್ನು ಫಿಲ್ಟರ್ ಮಾಡುವುದು. ಹೊಂದಾಣಿಕೆಯೆಂದರೆ ಮಾದರಿಯ ನಿಜವಾದ ವರ್ತನೆಯು ಅದು ಮಾಡಲು ಉದ್ದೇಶಿಸಿದ್ದಕ್ಕೆ ಹೊಂದಿಕೆಯಾಗುತ್ತದೆಯೇ ಎಂಬುದು.

ಹೊಂದಾಣಿಕೆಯನ್ನು ಕೆಲವೊಮ್ಮೆ AI ಸುರಕ್ಷತೆಯೊಂದಿಗೆ ಸಮಾನಾರ್ಥಕವಾಗಿಯೂ ಬಳಸಲಾಗುತ್ತದೆ, ಆದರೆ ಇದು ಪರಿಗಣಿಸಬೇಕಾದ ಏಕೈಕ ಅಂಶವಲ್ಲ. ಇತರ AI ಸುರಕ್ಷತಾ ಕಾಳಜಿಗಳು ಸೇರಿವೆ:

ಭದ್ರತೆ (ಕಳ್ಳತನದಿಂದ ಮಾದರಿಯ ತೂಕವನ್ನು ರಕ್ಷಿಸುವುದು)

ದೃಢತೆ (ಅದಕ್ಕೆ ತರಬೇತಿ ನೀಡಿದ ನಿಖರವಾದ ಪರಿಸ್ಥಿತಿಗಳ ಹೊರಗೆ ಮಾದರಿಯು ವಿಶ್ವಾಸಾರ್ಹವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುವುದು)

ದುರುಪಯೋಗ ತಡೆಗಟ್ಟುವಿಕೆ (ಸಮರ್ಥ ಮಾದರಿಯು ಹಾನಿಗಾಗಿ ಬಳಸುವುದನ್ನು ತಡೆಯುವುದು)

ಹೊಂದಾಣಿಕೆಯೆಂದರೆ ಮಾದರಿಯ ಸ್ವಂತ ವರ್ತನೆ. AI ಸುರಕ್ಷತೆಯು ಸಂಪೂರ್ಣ ಸಿಸ್ಟಮ್ ಹಾನಿಯನ್ನು ಉಂಟುಮಾಡುವುದನ್ನು ತಡೆಯುವ ವಿಶಾಲವಾದ ಪ್ರಯತ್ನವಾಗಿದೆ.

ಅಂತಿಮವಾಗಿ, ಹೆಚ್ಚು ಸಾಮರ್ಥ್ಯವಿರುವ ಮಾದರಿಯು ಸ್ವಯಂಚಾಲಿತವಾಗಿ ಉತ್ತಮ-ಹೊಂದಾಣಿಕೆಯ ಮಾದರಿಯಾಗಿದೆ ಎಂಬ ಸಾಮಾನ್ಯ ಊಹೆಯಿದೆ. ಆದರೆ ಸಾಮರ್ಥ್ಯ ಮತ್ತು ಹೊಂದಾಣಿಕೆಯು ಭಿನ್ನವಾಗಿರಬಹುದು, ಅದಕ್ಕಾಗಿಯೇ Google DeepMind ನ ML R&D ಸಾಮರ್ಥ್ಯದ ಮಟ್ಟಗಳು ಮತ್ತು Anthropic ನ ಸ್ವಯಂಚಾಲಿತ-ಸಂಶೋಧನಾ ಅಪಾಯದ ವರ್ಗದಂತಹ ಮಿತಿಗಳು ಅಸ್ತಿತ್ವದಲ್ಲಿವೆ. ಮಾದರಿಯು ತಾನು ಮಾಡಬೇಕಾದ್ದನ್ನು ಇನ್ನೂ ಮಾಡುತ್ತಿದೆ ಎಂದು ಪರಿಶೀಲಿಸುವ ಕ್ಷೇತ್ರದ ಸಾಮರ್ಥ್ಯವನ್ನು ಸಾಮರ್ಥ್ಯವು ಮೀರಿಸಬಹುದು ಎಂಬ ಕಳವಳದ ಸುತ್ತಲೂ ಅವುಗಳನ್ನು ನಿರ್ದಿಷ್ಟವಾಗಿ ನಿರ್ಮಿಸಲಾಗಿದೆ.

Perplexity AI ಹೊಂದಾಣಿಕೆಯನ್ನು ಹೇಗೆ ಸಮೀಪಿಸುತ್ತದೆ

Perplexity ಫ್ರಾಂಟಿಯರ್ ಫೌಂಡೇಶನ್ ಮಾದರಿಗಳಿಗೆ ತರಬೇತಿ ನೀಡುವುದಿಲ್ಲ. ಇದು ಕಂಪ್ಯೂಟರ್‌ನಂತಹ ಏಜೆಂಟ್ ಉತ್ಪನ್ನಗಳ ಮೂಲಕ ದೊಡ್ಡ ಪ್ರಮಾಣದಲ್ಲಿ ಉತ್ಪಾದನೆಯಲ್ಲಿ ಮಾದರಿಗಳನ್ನು ರನ್ ಮಾಡುತ್ತದೆ, ಆದ್ದರಿಂದ ಇದರ ಕೆಲಸವು ಹೊಂದಾಣಿಕೆಯ ನಿರ್ದಿಷ್ಟ ಅಂಶವನ್ನು ಮುಟ್ಟುತ್ತದೆ: ಏಜೆಂಟ್‌ಗಳು ಮುಕ್ತ ವೆಬ್‌ನಲ್ಲಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತಿರುವಾಗ ಹೇಗೆ ವರ್ತಿಸುತ್ತವೆ.

Secure Intelligence Institute ಎಂಬುದು ಭದ್ರತೆ, ಗೌಪ್ಯತೆ ಮತ್ತು ಫ್ರಾಂಟಿಯರ್ AI ನಲ್ಲಿ ನಂಬಿಕೆಗಾಗಿ Perplexity ಯ ಸಂಶೋಧನಾ ಕೇಂದ್ರವಾಗಿದೆ. ಇದು AI ಬ್ರೌಸರ್ ಏಜೆಂಟ್‌ಗಳು ಭೇಟಿ ನೀಡುವ ವೆಬ್ ಪುಟಗಳೊಳಗೆ ಮರೆಮಾಡಲಾಗಿರುವ ಪ್ರಾಂಪ್ಟ್ ಇಂಜೆಕ್ಷನ್ ದಾಳಿಗಳನ್ನು ಗುರುತಿಸಲು ನಿರ್ಮಿಸಲಾದ ಓಪನ್ ಸೋರ್ಸ್ ಡಿಟೆಕ್ಷನ್ ಮಾದರಿಯಾದ BrowseSafe ಅನ್ನು ಅಭಿವೃದ್ಧಿಪಡಿಸಿದೆ.

ಟೀಮ್ ವಿವಿಧ ದಾಮಿನ ಗುರಿಗಳು, ಪುಟದಲ್ಲಿನ ಇರಿಸುವಿಕೆಗಳು ಮತ್ತು ಭಾಷಾ ಶೈಲಿಗಳನ್ನು ವ್ಯಾಪಿಸಿರುವ 14,700 ಕ್ಕೂ ಹೆಚ್ಚು ಪ್ರಾಂಪ್ಟ್-ಇಂಜೆಕ್ಷನ್ ಸನ್ನಿವೇಶಗಳ ಸಾರ್ವಜನಿಕ ಬೆಂಚ್‌ಮಾರ್ಕ್ ಆಗಿರುವ BrowseSafe-Bench ಅನ್ನು ಸಹ ನಿರ್ಮಿಸಿದೆ.

ಈ ಕೆಲಸವು ಹೊಂದಾಣಿಕೆಯ ಸಂಶೋಧನೆಗಿಂತ AI ನಿಯಂತ್ರಣದ ಅನ್ವಯಿಕ ಭಾಗಕ್ಕೆ ಹತ್ತಿರದಲ್ಲಿದೆ. ಇದು ತರಬೇತಿಯ ಸಮಯದಲ್ಲಿ ಮಾದರಿಯ ಆಧಾರವಾಗಿರುವ ಮೌಲ್ಯಗಳನ್ನು ರೂಪಿಸುವುದಕ್ಕಿಂತ ಹೆಚ್ಚಾಗಿ, ಎದುರಾಳಿ ಪರಿಸರವನ್ನು ಎದುರಿಸಿದಾಗ ಏಜೆಂಟ್ ಏನು ಮಾಡುತ್ತದೆ ಎಂಬುದನ್ನು ನಿರ್ಬಂಧಿಸುತ್ತದೆ.

ಇನ್ನಷ್ಟು ತಿಳಿದುಕೊಳ್ಳಲು, Secure Intelligence Institute ಮತ್ತು BrowseSafe ಸಂಶೋಧನೆ ಅನ್ನು ಅನ್ವೇಷಿಸಿ.