AI ఏజెంట్‌లను ఎలా మూల్యాంకనం చేయాలి: టెస్ట్ సెట్‌లు, గ్రేడర్‌లు మరియు రిగ్రెషన్ చెక్‌లు

ప్రతి గొప్ప AI ఉత్పత్తి వెనుక, లోపాలను ముందుగానే పట్టుకుని, ఏజెంట్ సరిగ్గా పనిచేసేలా చూసే బలమైన AI ఏజెంట్ మూల్యాంకన ప్రక్రియ ఉంటుంది — దీనినే ఎవాల్స్ (evals) అంటారు. ఎవరి తరఫునైనా రీఫండ్‌ల వంటి అధిక-ప్రమాద చర్యలను అమలు చేసే AI ఏజెంట్‌లకు ఎవాల్స్ అత్యంత కీలకం.

ఆ ప్రక్రియను రూపొందించడానికి కొంత సాంకేతిక పరిజ్ఞానం, డేటా విశ్లేషణ నైపుణ్యాలు అవసరం. కానీ ఇది వినిపించినంత భయానకంగానో, అర్థం చేసుకోలేనంత కష్టంగానో అస్సలు ఉండదు. మీరు ప్రారంభించడంలో సహాయపడటానికి, AI ఏజెంట్‌లను మూల్యాంకనం చేయడానికి ఆరు ఆచరణాత్మక దశలను, ఈ ప్రక్రియను దెబ్బతీసే సాధారణ అపోహలను మేము ఇక్కడ వివరించాము.

AI ఏజెంట్‌ను మూల్యాంకనం చేయడం అంటే ఏమిటి?

AI ఏజెంట్‌ను మూల్యాంకనం చేయడం అంటే, అది టాస్క్‌లను ఎంత సరిగ్గా పూర్తి చేస్తుందో, దాని నిర్ణయాలు సంస్థ అవసరాలకు అనుగుణంగా ఉన్నాయో లేదో అంచనా వేయడం. ఆచరణలో చెప్పాలంటే, AI ఏజెంట్ మూల్యాంకనాలు, లేదా ఎవాల్స్, అనేవి ఏజెంట్ తన ఉద్దేశిత పాత్రకు తగినంత విశ్వసనీయంగా పనిచేస్తుందో లేదో నిర్ణయించడంలో సంస్థలకు సహాయపడే నిర్దిష్ట కొలమానాలు.

స్పేర్-పార్ట్స్ ఇన్వెంటరీని తనిఖీ చేసి, స్టాక్ భర్తీ అభ్యర్థనలను సిద్ధం చేసే ఒక తయారీ ప్లాంట్‌లోని AI కొనుగోలు ఏజెంట్‌ను ఊహించుకోండి. ఆమోదించిన పార్ట్ అందుబాటులో లేకపోతే లేదా సరఫరాదారు సమాచారం పాతబడిపోయి ఉంటే, ఏజెంట్ ఆ సమస్యను ఫ్లాగ్ చేస్తుందా, లేక ఆమోదం లేని ప్రత్యామ్నాయాన్ని సిఫార్సు చేస్తుందా?

మరి ఆ సమస్యను సరిచేయడానికి మీరు దాని సిస్టమ్ ప్రాంప్ట్‌ను మార్చితే, కొత్తగా మరో సమస్యను తీసుకురాలేదని మీకు ఎలా తెలుస్తుంది?

మూల్యాంకనం లేకపోతే, ప్రొడక్ట్ మేనేజర్‌లు దాదాపు ఊహాగానాలపైనే ఆధారపడాల్సి వస్తుంది. అందుకే, పనితీరును కొలవడానికి, పదే పదే వచ్చే సమస్యలను గుర్తించడానికి, మార్పులను మరింత నమ్మకంతో పరీక్షించడానికి ఎవాల్స్ ఒక ఫీడ్‌బ్యాక్ సిగ్నల్‌ను అందిస్తాయి.

ఈ నేపథ్యంలో, ఏజెంట్ మూల్యాంకనం ఒక రన్‌కు సంబంధించిన అనేక అంశాలను పరిశీలించగలదు:

• తుది ఫలితం యొక్క నాణ్యత
• ఏజెంట్ ఉపయోగించిన సమాచారం
• అది కాల్ చేసిన టూల్స్
• దాని ప్రవర్తనను నియంత్రించే నియమాలను అది పాటించిందా లేదా

సాధారణ AI ఏజెంట్ మూల్యాంకన కొలమానాలు

ఎవాల్స్ గుణాత్మక, పరిమాణాత్మక డేటా రెండింటిపైనా పనిచేస్తాయి. ఏజెంట్ నిర్ణయాలను మాన్యువల్‌గా సమీక్షించడంతో సహా, ఏమి జరుగుతోందో, ఎందుకు జరుగుతోందో అర్థం చేసుకోవడానికి గుణాత్మక మూల్యాంకనం సహాయపడుతుంది. నిర్దిష్ట వైఫల్య రీతులు ఎంత తరచుగా సంభవిస్తాయో లెక్కించడం లేదా టాస్క్ విజయ రేట్లను గణించడం వంటి వాటి ద్వారా పరిమాణాత్మక మూల్యాంకనం ఆ పరిశీలనలను కొలవదగిన సంకేతాలుగా మారుస్తుంది.

ప్రాథమిక AI ఏజెంట్ మూల్యాంకన కొలమానాల జాబితా ఇదిగో:

• టాస్క్ విజయం ఏజెంట్ ఉద్దేశించిన ఫలితాన్ని సాధించిందో లేదో కొలుస్తుంది; సాధారణంగా చెల్లుబాటు అయ్యే ఫలితాలను ఇచ్చిన రన్‌ల శాతంగా దీనిని కొలుస్తారు.
• చర్య ఖచ్చితత్వం ఏజెంట్ టూల్స్‌ను సముచితంగా ఉపయోగించిందా, చెల్లుబాటు అయ్యే ఆర్గ్యుమెంట్‌లను ఎంచుకుందా, అనుమతులను గౌరవించిందా అనే దాన్ని కొలుస్తుంది.
• సమాధాన నాణ్యత తుది అవుట్‌పుట్ ఖచ్చితమైనదా, సంపూర్ణమైనదా, ఉపయోగకరమైనదా అనే దాన్ని అంచనా వేస్తుంది. ఇందులో వాస్తవిక ఖచ్చితత్వం, సూచనలకు కట్టుబడి ఉండటం, అందుబాటులో ఉన్న సమాచారంతో ఏజెంట్ తన నిర్ణయాలను సమర్థించుకుంటుందా అనే అంశాలు ఉండవచ్చు.
• విశ్వసనీయత పదేపదే చేసే ట్రయల్స్, మారుతున్న ఇన్‌పుట్‌లు, ఎడ్జ్ కేసులలో స్థిరత్వాన్ని కొలుస్తుంది.
• ఖర్చు, లేటెన్సీ విజయవంతమైన ఫలితాన్ని సాధించడానికి అవసరమైన వనరులను కొలుస్తాయి, ఇందులో ఎగ్జిక్యూషన్ సమయం, టోకెన్ వినియోగం, టూల్ కాల్స్ ఉంటాయి.

మీరు దేనిని కొలుస్తున్నారనే దానిపై ఆధారపడి, ఎవాల్స్ ఏజెంట్ ఎండ్-టు-ఎండ్ పనితీరును, దాని ఎగ్జిక్యూషన్ ట్రాజెక్టరీని, లేదా టూల్ కాల్స్, రిట్రీవల్ దశల వంటి వ్యక్తిగత భాగాలను అంచనా వేయగలవు.

దశ 1: విజయవంతమైన ఏజెంట్ రన్ ఎలా ఉంటుందో నిర్ణయించండి

ముందుగా, ఏజెంట్ ఏమి సాధించాలో — అంటే ప్రొడక్ట్ అవసరాలను — స్పష్టంగా వివరించండి. ఇది సులభమైన విషయంగా అనిపించినా, ఆశ్చర్యకరంగా కష్టంగా ఉండవచ్చు. దీనికి ఒక పేరు కూడా ఉంది: స్పెసిఫికేషన్ గ్యాప్.

మా సీనియర్ డేటా సైంటిస్ట్ Andrey Khomutov ప్రకారం, దీన్ని ఎలా చేపట్టాలో ఇక్కడ చూడండి:

“రెండు ప్రశ్నలతో ప్రారంభించండి: “ఏది చేస్తే పని పూర్తయినట్లుగా పరిగణించవచ్చు?” మరియు “విజయవంతమైనట్లు కనిపించే రన్‌ను ఏది ఆమోదయోగ్యం కానిదిగా చేస్తుంది?”

ఏజెంట్‌ల విషయంలో, సాంకేతిక దృక్కోణం నుండి చూస్తే, దాని అర్థం ఫలితాన్ని, ఏజెంట్‌లు అక్కడికి ఎలా చేరుకున్నాయో — రెండింటినీ తనిఖీ చేయడం.”

ఒక ఏజెంట్ లీక్ అయిన ఆన్సర్ కీని యాక్సెస్ చేయడం ద్వారా సరైన సమాధానాన్ని ఇవ్వవచ్చు, లేదా తన టాస్క్‌ను పూర్తి చేసే క్రమంలో అనధికార చర్యలు తీసుకోవచ్చు. కేవలం తుది సమాధానాన్ని మాత్రమే చూసి తీర్పు ఇవ్వకూడదనడానికి సమాధాన లీకేజీ, మూల్యాంకనాల సమయంలో అసురక్షిత చర్యలు స్పష్టమైన కారణాలని Khomutov ఎత్తి చూపారు.

“ఫలితం అనుమానాస్పదంగా కనిపించినప్పుడు మాత్రమే చేసే పనిగా కాకుండా, ట్రాజెక్టరీ తనిఖీ ఏజెంట్ ఎవాల్ సూట్‌లలో ఒక ప్రామాణిక భాగంగా మారుతుందని నేను ఆశిస్తున్నాను,” అని ఆయన జోడించారు.

ఆ తర్వాత, మీ విజయ ప్రమాణాలను ధృవీకరించడానికి ఒక డొమైన్ నిపుణుడి సహకారం తీసుకోండి. ఆ డొమైన్‌లో ప్రత్యక్ష అనుభవం ఉన్నవారు, AI ఏజెంట్ కోసం మనం నిర్దేశించిన షరతులు విజయవంతమైన ఫలితాన్ని ప్రతిబింబిస్తున్నాయో లేదో చెప్పగలరు.

దశ 2. నిజమైన టాస్క్‌లు, వైఫల్యాల నుండి టెస్ట్ సెట్‌ను రూపొందించండి

మంచి పనితీరు, చెడు పనితీరు ఎలా ఉంటాయో అర్థం చేసుకోవడానికి ఏజెంట్ వాస్తవ ప్రవర్తనను పరిశీలించండి. ఏమి తప్పు జరగవచ్చని మీరు అనుకుంటున్నారో దాని ఆధారంగా మాత్రమే డజన్ల కొద్దీ టెస్ట్‌లను రూపొందించడంతో ప్రారంభించాలనే ప్రలోభాన్ని నిరోధించండి.

Parlance Labలో ML ఇంజనీర్ అయిన Hamel Husain, ML సిస్టమ్స్ మరియు అప్లైడ్ AI ఎవాల్స్ పరిశోధకురాలు Shreya Shankar ఇలా సిఫార్సు చేస్తున్నారు: మెషిన్ లెర్నింగ్, డేటా సైన్స్ నుండి తీసుకున్న ఎర్రర్ అనాలిసిస్ అనే సాంకేతికతతో ప్రారంభించండి. ఈ ప్రక్రియ ఏజెంట్ ఎగ్జిక్యూషన్ ట్రేస్‌ల గుణాత్మక విశ్లేషణతో మొదలవుతుంది — ఇవి యూజర్ ఇన్‌పుట్, టూల్ కాల్స్, తిరిగి పొందిన సమాచారం, ఏజెంట్ అవుట్‌పుట్‌ను చూపించే రికార్డులు.

1. వ్యక్తిగత ట్రేస్‌లను సమీక్షించి, లోపాలపై వ్యాఖ్యలు రాయండి (ఓపెన్ కోడింగ్). ఏజెంట్ రన్‌లను ఒక డొమైన్ నిపుణుడు పరిశీలించి, ఏమి తప్పు జరిగిందో చిన్న పరిశీలనలుగా రాసేలా చూడండి. మొదటి అర్థవంతమైన లోపంపై దృష్టి పెట్టండి.
2. పరిశీలనలను వైఫల్య రీతులుగా వర్గీకరించండి (యాక్సియల్ కోడింగ్). తగినన్ని నోట్స్ సేకరించిన తర్వాత, ఒకే రకమైన లోపాలకు వర్గాలను సూచించడానికి LLMను ఉపయోగించండి. వీటిలో అననుకూల పార్ట్ సిఫార్సులు, తప్పుడు ఇన్వెంటరీ రిట్రీవల్, మనిషికి పనిని అప్పగించడంలో వైఫల్యాలు వంటివి ఉండవచ్చు.
3. అవి ఎన్నిసార్లు సంభవించాయో లెక్కించండి. ప్రతి పరిశీలనను ఒక వర్గానికి కేటాయించి, ఆపై ప్రతి వైఫల్య రీతి ఎంత తరచుగా కనిపిస్తుందో లెక్కించడానికి స్ప్రెడ్‌షీట్ లేదా పివట్ టేబుల్‌ను ఉపయోగించండి.
4. దేనిని ముందుగా పరిష్కరించాలో ప్రాధాన్యత నిర్ణయించండి, తరచుదనం, తీవ్రత రెండింటినీ పరిగణనలోకి తీసుకుని.
5. ముఖ్యమైన వైఫల్యాలను టెస్ట్ కేసులుగా మార్చండి. సంబంధిత ఇన్‌పుట్, ప్రారంభ పరిస్థితులు, ఆశించిన ఫలితం, గ్రేడింగ్ ప్రమాణాలను సేవ్ చేయండి, తద్వారా అదే దృష్టాంతంలో ఏజెంట్‌ను మళ్లీ పరీక్షించవచ్చు.

మీరు ఎన్ని ట్రేస్‌లను పరిశీలించాలి? సుమారు 100, కానీ కచ్చితమైన సంఖ్య అంటూ ఏదీ లేదు. సైద్ధాంతిక సంతృప్తతను చేరుకున్న వెంటనే ఆపేయండి: అంటే అదనపు ట్రేస్‌లను సమీక్షించినా అర్థవంతమైన కొత్త వైఫల్య నమూనాలు బయటపడని దశ.

అప్లికేషన్‌ను ఇంకా లాంచ్ చేయలేదా? ప్రారంభ టెస్ట్ సెట్‌ను రూపొందించడానికి సింథటిక్ ఉదాహరణలు సహాయపడతాయి, అయితే నిజమైన యూజర్ డేటా అందుబాటులోకి వచ్చిన వెంటనే దానిని ఆధారంగా చేసుకోవాలి.

AI ఏజెంట్ మూల్యాంకనంలో బెంచ్‌మార్క్‌ల ఉపయోగం

మీ సొంత టెస్ట్ కేసులను రూపొందించడమే కాకుండా, ఏజెంట్ సామర్థ్యాలను అంచనా వేయడానికి బెంచ్‌మార్క్‌లు అని పిలిచే, ఇప్పటికే ఉన్న ప్రామాణిక మూల్యాంకన టాస్క్‌ల సేకరణలను కూడా మీరు ఉపయోగించవచ్చు.

కానీ బెంచ్‌మార్క్‌లు దోషరహితమైనవి కావు. లోపభూయిష్ట టాస్క్‌లు లేదా ఆశించిన సమాధానాలు మూల్యాంకన ఫలితాలను ఎలా వక్రీకరించగలవో SWE-bench ఆడిట్‌లు, Epoch AI బెంచ్‌మార్క్ సమీక్షలు, TheoPhysEvalలో మొదట తిరస్కరించబడిన సరైన సమాధానాలు చూపిస్తాయి.

Khomutov సలహా ఇచ్చినట్లుగా, మీ డొమైన్‌కు సంబంధించిన తాజా బెంచ్‌మార్క్‌లను ఎంచుకోండి, స్కోర్‌లను ఏజెంట్ పనితీరుకు నమ్మదగిన రుజువుగా పరిగణించే ముందు ఆశ్చర్యకరమైన విజయాలను లేదా వైఫల్యాలను పరిశోధించండి.

దశ 3. పునరావృతం చేయగల టెస్ట్ ఎన్విరాన్‌మెంట్‌లో ఏజెంట్‌ను రన్ చేయండి

పునరావృతం చేయగల టెస్ట్ ఎన్విరాన్‌మెంట్ అనేది ఒక నియంత్రిత సెటప్; ఇందులో మీరు ఒకే ప్రారంభ పరిస్థితుల్లో ఒకే టెస్ట్ కేసులపై AI ఏజెంట్‌ను రన్ చేసి, ఫలితాలను పోల్చవచ్చు. ఇందులో టెస్ట్ కేసుల ఫోల్డర్, ఏజెంట్‌ను రన్ చేసే Python స్క్రిప్ట్, లేదా ఫలితాలను మూల్యాంకనం చేసే చెక్‌ల సమితి ఉంటాయి.

ప్రాతినిధ్య ఇన్‌పుట్‌లను JSON ఫైల్‌లుగా నిల్వ చేసి, మీ ఏజెంట్ వర్క్‌ఫ్లోను అమలు చేయడానికి, అసర్షన్‌లతో దాని అవుట్‌పుట్‌లను తనిఖీ చేయడానికి Python స్క్రిప్ట్‌ను ఉపయోగించడం ద్వారా మీరు ప్రారంభించవచ్చు. మా తయారీ ప్లాంట్ ఇన్వెంటరీ ఏజెంట్ కోసం, పునరావృతం చేయగల టెస్ట్ ఎన్విరాన్‌మెంట్ ఇలా ఉండవచ్చు:

విస్తరించు

పునరావృతం చేయగల టెస్ట్ ఎన్విరాన్‌మెంట్‌ను సెటప్ చేయడానికి, ఈ దశలను అనుసరించండి:

1. ప్రాతినిధ్య ఇన్‌పుట్‌లను సేవ్ చేయండి. ప్రొడక్షన్‌లో మీ అప్లికేషన్ స్వీకరించే అదే నిర్మాణంలో వాస్తవ ఈవెంట్‌లు లేదా టెస్ట్ కేసులను నిల్వ చేయండి. మా ఉదాహరణలో, మెషిన్ ID, అవసరమైన స్పేర్ పార్ట్, మెయింటెనెన్స్ తేదీ ఉన్న మెయింటెనెన్స్ అభ్యర్థనను, ఇన్వెంటరీ మరియు ఆమోదిత పార్ట్స్ డేటా స్నాప్‌షాట్‌తో పాటు JSON ఫైల్‌గా సేవ్ చేస్తారు.
2. వర్క్‌ఫ్లోను అమలు చేయండి. ప్రతి ఇన్‌పుట్‌ను దాని రిట్రీవల్ దశలు, టూల్ కాల్స్, ప్రతిస్పందన జనరేషన్‌తో సహా ఏజెంట్ ద్వారా రన్ చేయండి.
3. ఫలితాన్ని, ట్రేస్‌ను రికార్డ్ చేయండి. తుది అవుట్‌పుట్‌ను, సంబంధిత మధ్యంతర చర్యలను (ఇన్వెంటరీ లుకప్‌ల వంటివి) క్యాప్చర్ చేయండి, తద్వారా ఏజెంట్ విఫలమైందో లేదో మాత్రమే కాకుండా, ఎక్కడ విఫలమైందో కూడా చూడవచ్చు.
4. వైఫల్య తీవ్రత, తరచుదనం, సమస్యను సరిచేయడంలో ఉన్న కష్టం ఆధారంగా కేసులను పునరావృతం చేయండి. LLM అప్లికేషన్‌లు నాన్‌డిటర్మినిస్టిక్గా ఉంటాయి (ఒకే ఇన్‌పుట్‌ల నుండి వేర్వేరు ఫలితాలను ఇవ్వగలవు), కాబట్టి ఒక రన్ విజయవంతమైనంత మాత్రాన తదుపరిది కూడా విజయవంతమవుతుందని హామీ లేదు. విజయవంతమైన ట్రయల్స్ నిష్పత్తిని నివేదించి, వైఫల్యాలను పరిశీలించండి.

ఇందుకోసం, pass@1 (ఒకే ప్రయత్నంలో ఏజెంట్ ఎంత తరచుగా విజయం సాధిస్తుంది), pass@k (నిర్దిష్ట సంఖ్యలో ప్రయత్నాలలో కనీసం ఒక్కసారైనా విజయం సాధించే సంభావ్యత)లను కొలవాలని Khomutov సలహా ఇస్తున్నారు. pass@kని నివేదిస్తే, ప్రయత్నాల సంఖ్యను పేర్కొనండి, ఎందుకంటే అనేక సమాధానాలలో ఒక సరైన సమాధానాన్ని ఇచ్చినంత మాత్రాన, వాటిలో దేనిని ఎంచుకోవాలో ఏజెంట్‌కు తెలుసని అర్థం కాదు.

మీ అప్లికేషన్ విస్తరిస్తున్న కొద్దీ, టెస్ట్‌లను నిర్వహించడానికి, రన్ చేయడానికి pytest వంటి టెస్టింగ్ ఫ్రేమ్‌వర్క్‌ను ఉపయోగించండి, పెద్ద టెస్ట్ డేటాసెట్‌లను, ఫలితాలను డేటాబేస్‌లో నిల్వ చేయడాన్ని పరిగణించండి.

దశ 4. ప్రతి చెక్‌కు సరైన గ్రేడర్‌ను ఎంచుకోండి

గ్రేడర్ (తరచుగా ఎవాల్యుయేటర్ అని కూడా పిలుస్తారు) అనేది ఒక కోడ్ భాగం, గ్రేడింగ్ రూబ్రిక్ మార్గదర్శకత్వంలో పనిచేసే LLM, లేదా మానవ సమీక్షకుడి రూపంలో ఉండే ఒక యంత్రాంగం; ఇది ఏజెంట్ అవుట్‌పుట్‌ను లేదా చర్యను నిర్వచించిన ప్రమాణంతో పోల్చి తనిఖీ చేస్తుంది. గ్రేడర్ ఒక పాస్/ఫెయిల్ తీర్పును, సంబంధిత ఆధారాలను గుర్తించే వివరణను అందిస్తుంది.

సమాచారం: గ్రేడింగ్ రూబ్రిక్ అనేది సరైన లేదా ఆమోదయోగ్యమైన ఫలితంగా దేనిని పరిగణించాలో నిర్వచించే ప్రమాణాలు, సూచనల సమితి.

సరైన గ్రేడర్ రకం మీరు దేనిని ధృవీకరించాలనుకుంటున్నారనే దానిపై ఆధారపడి ఉంటుంది. ఈ మూడు విధానాల పోలిక ఇదిగో:

కొన్నిసార్లు ఒకే రన్‌లోని వేర్వేరు అంశాలకు వేర్వేరు మూల్యాంకన పద్ధతులు అవసరం కావచ్చు, కాబట్టి మీరు గ్రేడర్‌లను కలపాల్సి రావచ్చు.

గ్రేడర్‌లను ఎలా కలపాలి?

మీరు ఇలా అడగండి: “ఫలితాన్ని తెలిసిన నియమం లేదా ఆశించిన విలువతో ధృవీకరించగలమా, లేక దానికి మనిషి తరహా విచక్షణ అవసరమా?”

• మీరు ఫలితాన్ని ఖచ్చితంగా ధృవీకరించగలిగితే, కోడ్ ఆధారిత గ్రేడర్‌తో ప్రారంభించండి. కోడ్ ఆధారిత గ్రేడర్‌లు స్ట్రక్చర్డ్ అవుట్‌పుట్‌లు, చెల్లుబాటు అయ్యే ఫీల్డ్ విలువలు, టూల్ ఆర్గ్యుమెంట్‌లు, లేదా డేటాబేస్ తుది స్థితిని కూడా ధృవీకరించగలవు.
• చెక్ చేయడానికి సందర్భాన్ని అర్థం చేసుకోవాల్సి వస్తే, LLM-as-a-judgeను ఉపయోగించండి.
• డొమైన్-నిర్దిష్ట లేదా వివాదాస్పద నిర్ణయాల కోసం మానవ సమీక్షకులను ఉపయోగించండి.

ముఖ్యం! LLM గ్రేడర్ ఆధారాలను తప్పుగా అర్థం చేసుకోవచ్చు లేదా రూబ్రిక్‌ను తప్పుగా వర్తింపజేయవచ్చు. అందువల్ల దానికి అదనపు మూల్యాంకన దశ అవసరం: మానవ తీర్పులతో క్యాలిబ్రేషన్.

LLM గ్రేడర్‌ను మానవ తీర్పులతో క్యాలిబ్రేట్ చేయండి.

సారాంశంలో, క్యాలిబ్రేషన్ కోసం ఒక డొమైన్ నిపుణుడు వాస్తవ ఏజెంట్ రన్‌లను అంచనా వేయాలి. ఆ తర్వాత నిపుణుడు తన తీర్పులను LLM తీర్పులతో పోల్చి, భిన్నాభిప్రాయాల ఆధారంగా గ్రేడింగ్ రూబ్రిక్‌ను మెరుగుపరుస్తారు.

ఐదు దశల గ్రేడర్ క్యాలిబ్రేషన్ ప్రక్రియ ఇదిగో:

1. ఏజెంట్ ఇన్‌పుట్‌లు, అవుట్‌పుట్‌లు, సంబంధిత ట్రేస్‌ల ఉదాహరణలను సేకరించండి.
2. ప్రతి ఉదాహరణ మూల్యాంకన ప్రమాణానికి అనుగుణంగా ఉందో లేదో ఒక డొమైన్ నిపుణుడు స్వతంత్రంగా అంచనా వేసేలా చూడండి.
3. ఆ ఉదాహరణలపై LLM గ్రేడర్‌ను రన్ చేయండి.
4. మానవ, మోడల్ తీర్పులను పోల్చండి.
5. భిన్నాభిప్రాయాలను పరిశోధించి, కొత్త ఉదాహరణలపై పరీక్షించే ముందు గ్రేడర్ రూబ్రిక్‌ను మెరుగుపరచండి.

LLM గ్రేడర్ స్థిరత్వాన్ని విడిగా పరీక్షించడం ఎంత ముఖ్యమో కూడా Khomutov నొక్కి చెప్పారు:

“ఏజెంట్‌ను మళ్లీ రన్ చేయకుండా, సేవ్ చేసిన అదే రన్‌ను, అవే ఫైల్‌లను దానికి అనేకసార్లు ఇవ్వండి. అలా చేస్తే ఏజెంట్ పనిలోని వైవిధ్యాన్ని గ్రేడింగ్‌లోని వైవిధ్యం నుండి వేరు చేయవచ్చు.”

ఒకే అవుట్‌పుట్‌కు వేర్వేరు తీర్పులు వస్తే, ప్రతి స్కోర్ మార్పు ఏజెంట్ వల్లే వస్తుందని భావించకండి. బదులుగా, గ్రేడర్ ఎప్పుడు లోపాలను సరిగ్గా గుర్తించిందో, ఎప్పుడు వాటిని గుర్తించలేకపోయిందో, లేదా ఎప్పుడు ఆమోదయోగ్యమైన అవుట్‌పుట్‌లను తప్పుగా ఫ్లాగ్ చేసిందో చూపే కన్ఫ్యూజన్ మ్యాట్రిక్స్ను పరిశీలించండి.

రిఫరెన్స్ తీర్పులను నిర్ధారించడానికి, వివాదాస్పద కేసులను పరిష్కరించడానికి, ప్రస్తుత గ్రేడర్‌లు గుర్తించేలా రూపొందించబడని కొత్త వైఫల్య రీతులను కనుగొనడానికి మానవ సమీక్ష ఇప్పటికీ అత్యవసరం.

దశ 5. వెర్షన్‌లను పోల్చి, రిగ్రెషన్ చెక్‌లను రన్ చేయండి

మీ ఇన్వెంటరీ ఏజెంట్ తరచుగా ఆమోదం లేని ప్రత్యామ్నాయ పార్ట్‌లను సిఫార్సు చేస్తోందని ఎర్రర్ అనాలిసిస్‌లో తేలిందనుకుందాం. స్పష్టమైన అనుకూలత తనిఖీ తప్పనిసరి అయ్యేలా మీరు దాని సిస్టమ్ ప్రాంప్ట్‌ను మార్చారు. మొదట విఫలమైన కేసు ఇప్పుడు పాస్ అవుతోంది. కానీ ఆ మార్పు ఇతర టాస్క్‌లపై ప్రభావం చూపలేదని మీకు ఎలా తెలుస్తుంది?

ఇక్కడే రిగ్రెషన్ టెస్టింగ్ ఉపయోగపడుతుంది.

రిగ్రెషన్ టెస్టింగ్ అంటే, ఏజెంట్ ప్రాంప్ట్, మోడల్ లేదా వర్క్‌ఫ్లోను మార్చిన తర్వాత, ఆ మార్పు కొత్త వైఫల్యాలను తీసుకురాలేదని నిర్ధారించుకోవడానికి గతంలో విజయవంతమైన టెస్ట్ కేసులను మళ్లీ రన్ చేయడం.

1. టెస్ట్ సెట్ నుండి సేవ్ చేసిన ఇన్‌పుట్‌ను ఉపయోగించి అసలు వైఫల్యాన్ని పునరుత్పత్తి చేయండి.
2. ప్రాంప్ట్, మోడల్ లేదా వర్క్‌ఫ్లోలో లక్ష్యిత మార్పు చేయండి.
3. సమస్య పరిష్కారమైందో లేదో తనిఖీ చేయడానికి విఫలమైన టెస్ట్‌ను మళ్లీ రన్ చేయండి.
4. ఇతర టెస్ట్‌లను రన్ చేసి, మార్పు వల్ల గతంలో విజయవంతంగా పనిచేసిన ప్రవర్తన దెబ్బతినలేదని నిర్ధారించుకోండి.
5. ఫలితాలను పరిశీలించి, ఏవైనా కొత్త వైఫల్యాలు ఉంటే వాటిని పరిశోధించండి.

ఖచ్చితమైన ఫలితాల కోసం, ఒకే టెస్ట్ కేసులు మరియు గ్రేడింగ్ ప్రమాణాలను ఉపయోగించి బేస్‌లైన్ ఏజెంట్‌ను మరియు అప్‌డేట్ చేసిన ఏజెంట్‌ను పోల్చండి.

దశ 6: ప్రొడక్షన్‌లో AI ఏజెంట్ పనితీరును పర్యవేక్షించండి

మీ అప్లికేషన్‌ను డిప్లాయ్ చేసిన తర్వాత కూడా ఏజెంట్ మూల్యాంకనం ఆగిపోదు. హుసేన్ మరియు శంకర్ వివరించినట్లుగా, డెవలప్‌మెంట్ సమయంలో మీరు ఉపయోగించే అవే ఎవాల్యుయేటర్‌లను నిజమైన ప్రొడక్షన్ డేటాపై కూడా రన్ చేసి, కాలక్రమేణా మీ ఏజెంట్ పనితీరును కొలవవచ్చు.

దీనిని ఆన్‌లైన్ మూల్యాంకనం అంటారు. పునరావృతమయ్యే వైఫల్యాలను, ఇంతకు ముందు తెలియని వైఫల్యాలను కనుగొనడంలో సహాయపడే విస్తృత ప్రొడక్షన్ పర్యవేక్షణ ప్రక్రియలో ఇది ఒక భాగం.

ఈ ప్రక్రియ పునరావృత పద్ధతిలో సాగుతుంది, ఇందులో ఒకదానికొకటి పూరకంగా ఉండే నాలుగు కార్యకలాపాలు ఉంటాయి:

• ప్రొడక్షన్ ట్రేస్‌లపై కాలిబ్రేట్ చేసిన LLM జడ్జ్‌లను రన్ చేయండి. నిజమైన ఏజెంట్ ఇంటరాక్షన్‌ల నమూనాలను తీసుకుని, మానవ తీర్పులతో మీరు ఇప్పటికే ధృవీకరించిన ఎవాల్యుయేటర్‌లను వాటిపై వర్తింపజేయండి.
• కాలక్రమేణా వైఫల్య రేట్లను ట్రాక్ చేయండి. పునరావృతమయ్యే సమస్యలను లెక్కించడానికి, ఎర్రర్ విశ్లేషణ సమయంలో నిర్ణయించిన వైఫల్య వర్గాలను ఉపయోగించండి.
• ట్రేస్‌లను మాన్యువల్‌గా సమీక్షిస్తూనే ఉండండి. ఆటోమేటెడ్ గ్రేడర్‌లు తాము గుర్తించేలా రూపొందించిన సమస్యలను మాత్రమే కనుగొంటాయి. కొత్త ఎర్రర్‌లను లేదా అసాధారణ యూజర్ అభ్యర్థనలను కనుగొనడానికి, నిజమైన ఏజెంట్ ఇంటరాక్షన్‌ల నమూనాలను మాన్యువల్‌గా పరిశీలించండి.
• వ్యాపార ఫలితాలను కొలవడానికి A/B టెస్టింగ్‌ను ఉపయోగించండి (తగిన సందర్భాల్లో మాత్రమే). టాస్క్ పూర్తి చేయడం, యూజర్ సంతృప్తి, పరిష్కార సమయం వంటి మెట్రిక్‌లను ఉపయోగించి వేర్వేరు ప్రాంప్ట్‌లు, మోడల్‌లు లేదా వర్క్‌ఫ్లోలను పోల్చండి. ఒక మార్పు వ్యక్తిగత టెస్ట్‌లలో పాస్ అవ్వడమే కాకుండా, అసలైన ప్రోడక్ట్ అనుభవాన్ని మెరుగుపరుస్తుందో లేదో నిర్ణయించడంలో ఈ ప్రక్రియ సహాయపడుతుంది.

ఒక ముఖ్యమైన గమనిక: ఎవాల్స్‌ను పరిపూర్ణంగా తీర్చిదిద్దాల్సిన అవసరం లేదు. మీ ప్రోడక్ట్‌ను మెరుగుపరచడానికి సరిపడేంత బాగుంటే చాలు.

AI ఏజెంట్‌ల మూల్యాంకనంలో సాధారణ అపోహలు

• ఎవాల్స్ అంటే కేవలం యూనిట్ టెస్ట్‌లు మాత్రమే. అది నిజం కాదు; యూనిట్ టెస్ట్‌లు అనేవి చిన్న, ఆటోమేటెడ్ చెక్‌లు, అవి మూల్యాంకనంలో ఒక భాగం మాత్రమే. అప్లికేషన్ నాణ్యతను కొలవడానికి ఎవాల్స్‌లో గుణాత్మక ఎర్రర్ విశ్లేషణ, మానవ తీర్పులు, ప్రొడక్షన్ పర్యవేక్షణ, ప్రయోగాలు కూడా ఉంటాయి.
• ఒక మూల్యాంకన ప్లాట్‌ఫామ్ మీ కోసం అన్నీ చేయగలదు. రెడీమేడ్ టూల్స్ కొన్ని చెక్‌లను ఆటోమేట్ చేయగలవు, కానీ మీ ప్రోడక్ట్‌కు ఏ ఫెయిల్యూర్ మోడ్‌లు (ఎర్రర్‌ల రకాలు లేదా అవాంఛిత ఏజెంట్ ప్రవర్తనలు) ముఖ్యమో అవి నిర్ణయించలేవు.
• అన్నింటినీ LLM చేత మూల్యాంకనం చేయించవచ్చు. ఇది ఒక పెద్ద అపోహ. ప్రతి సమస్యను కనుగొనడానికి అవసరమైన వ్యాపార సందర్భం LLMలకు ఉండదు కాబట్టి, మానవుల నేతృత్వంలో జరిగే ఎర్రర్ విశ్లేషణ మరియు గ్రేడర్ కాలిబ్రేషన్ ఇప్పటికీ తప్పనిసరి.
• A/B టెస్టింగ్ లేదా కేవలం ఏజెంట్‌ను ఉపయోగించడం ఎవాల్స్‌కు ప్రత్యామ్నాయం. ఇది తప్పు. ఎంచుకున్న మెట్రిక్‌ల ప్రకారం ఏ వెర్షన్ మెరుగ్గా పనిచేస్తుందో A/B టెస్ట్‌లు చూపగలవు, కానీ వాటంతట అవే అంతర్లీన సమస్యలను వివరించలేవు.

AI ఏజెంట్ మూల్యాంకనం: తరచుగా అడిగే ప్రశ్నలు

1. AI ఏజెంట్ మూల్యాంకనం మరియు LLM మూల్యాంకనం మధ్య తేడా ఏమిటి?

LLM మూల్యాంకనం అనేది ప్రశ్నకు సమాధానం ఇవ్వడం, డాక్యుమెంట్‌ను సంగ్రహించడం లేదా సమాచారాన్ని సేకరించడం వంటి ఇచ్చిన టాస్క్‌ను ఒక లాంగ్వేజ్ మోడల్ ఎంత బాగా చేస్తుందో కొలుస్తుంది. AI ఏజెంట్ మూల్యాంకనం అనేది ఒక టాస్క్‌ను పూర్తి చేయడానికి స్వతంత్రంగా అనేక దశలను అమలు చేసే సిస్టమ్‌ను అంచనా వేస్తుంది.

సాధారణ LLM మూల్యాంకనంలా కాకుండా, ఏజెంట్ మూల్యాంకనం తుది ఫలితాన్ని మాత్రమే కాకుండా, దానిని సాధించడానికి తీసుకున్న చర్యల క్రమాన్ని కూడా పరిశీలిస్తుంది. ఇందులో టూల్ కాల్‌లు, నిర్ణయాలు, ముందుగా నిర్వచించిన నియమాల పాటింపు ఉంటాయి.

2. AI ఏజెంట్ మూల్యాంకనం కోసం కీలక మెట్రిక్‌లు

AI ఏజెంట్ మూల్యాంకన మెట్రిక్‌లు రెండు విస్తృత వర్గాలుగా ఉంటాయి:

• సాంకేతిక పనితీరు మెట్రిక్‌లు: టాస్క్ విజయ రేటు, చర్యల ఖచ్చితత్వం, సమాధాన నాణ్యత, విశ్వసనీయత (pass@1 మరియు pass@k), లేటెన్సీ, టోకెన్ వినియోగం, విజయవంతమైన ఒక్కో టాస్క్‌కు అయ్యే ఖర్చు.
• వ్యాపార మరియు యూజర్ అనుభవ మెట్రిక్‌లు: కస్టమర్ సంతృప్తి (CSAT), సమస్య పరిష్కార రేటు, ఎస్కలేషన్ రేటు, కన్వర్షన్ రేటు, టాస్క్ పూర్తి చేసే సమయం, ఏజెంట్ పాత్రకు ప్రత్యేకమైన ఇతర ఫలితాలు.

ఉదాహరణకు, కస్టమర్ సపోర్ట్ ఏజెంట్‌ను సమస్యలను విజయవంతంగా పరిష్కరించడం మరియు కస్టమర్ సంతృప్తి ఆధారంగా మూల్యాంకనం చేయవచ్చు, అయితే AI కొనుగోలు ఏజెంట్‌ను స్టాక్ భర్తీ అభ్యర్థనల ఖచ్చితత్వం, ఆమోద రేట్లు, ప్రొక్యూర్‌మెంట్ సైకిల్ సమయం ఆధారంగా కొలవవచ్చు.

సరైన మెట్రిక్‌లు ఏజెంట్ ఎంత విశ్వసనీయంగా పనిచేస్తుందో, దాని పని వ్యాపార ఫలితాలను మెరుగుపరుస్తుందో లేదో అనే రెండింటినీ ప్రతిబింబించాలి.

3. AI ఏజెంట్‌లను మూల్యాంకనం చేయడానికి ఉత్తమ టూల్స్ ఏవి?

సాధారణ ఎంపికలు:

• టెస్టింగ్ ఫ్రేమ్‌వర్క్‌లు: పునరావృతం చేయగల టెస్ట్ కేసులను రన్ చేయడానికి, ఏజెంట్ సరైన టూల్‌ను ఎంచుకుందా లేదా చెల్లుబాటు అయ్యే పార్ట్ IDని అందించిందా వంటి ఖచ్చితమైన షరతులను తనిఖీ చేయడానికి Python అసర్షన్‌లు మరియు pytest ఉపయోగపడతాయి.
• AI ఏజెంట్ మూల్యాంకన ఫ్రేమ్‌వర్క్‌లు: DeepEval మరియు Google యొక్క agent-eval టూల్‌కిట్ ఎగ్జిక్యూషన్ ట్రేస్‌లు, LLM ఆధారిత గ్రేడర్‌లు, ఆటోమేటెడ్ రిగ్రెషన్ టెస్టింగ్‌తో సహా మరింత సంక్లిష్టమైన మూల్యాంకనాలకు సపోర్ట్ చేస్తాయి.
• మూల్యాంకనం మరియు అబ్జర్వబిలిటీ ప్లాట్‌ఫామ్‌లు: LangSmith, Arize Phoenix మరియు MLflow ఏజెంట్ ప్రవర్తనను పరిశీలించడానికి, మూల్యాంకన డేటాసెట్‌లను నిర్వహించడానికి, ఏజెంట్ వెర్షన్‌లను పోల్చడానికి, ప్రొడక్షన్‌లో పనితీరును పర్యవేక్షించడానికి టీమ్‌లకు సహాయపడతాయి.

4. AI ఏజెంట్ మూల్యాంకనాలను ఎలా ఆటోమేట్ చేయాలి?

పునరావృతం చేయగల టెస్ట్‌లను రూపొందించడం, ఆటోమేటెడ్ గ్రేడర్‌లను వర్తింపజేయడం, ఆ చెక్‌లను డెవలప్‌మెంట్ మరియు ప్రొడక్షన్ వర్క్‌ఫ్లోలలో ఇంటిగ్రేట్ చేయడం ద్వారా మీరు AI ఏజెంట్ మూల్యాంకనాలను ఆటోమేట్ చేయవచ్చు:

1. మూల్యాంకన డేటాసెట్‌ను రూపొందించండి: వాస్తవ వినియోగాన్ని ప్రతిబింబించే యూజర్ టాస్క్‌లు, ఆశించిన ఫలితాలు, తెలిసిన వైఫల్యాలు, ఏజెంట్ ఎగ్జిక్యూషన్ ట్రేస్‌లను సేకరించండి. విఫలమైన టూల్ కాల్‌లు, తప్పిపోయిన సమాచారం, అనధికార చర్యలు వంటి ఎడ్జ్ కేసులను కూడా చేర్చండి.
2. టెస్ట్ ఎగ్జిక్యూషన్ మరియు గ్రేడింగ్‌ను ఆటోమేట్ చేయండి: టెస్ట్ కేసులను రన్ చేయడానికి, కోడ్ ఆధారిత చెక్‌లు లేదా LLM గ్రేడర్‌లను వర్తింపజేయడానికి pytest లేదా DeepEval వంటి ఫ్రేమ్‌వర్క్‌లను ఉపయోగించండి. LLM గ్రేడర్‌ల స్కోర్‌లపై ఆధారపడే ముందు, వాటిని మానవ తీర్పులతో ధృవీకరించండి.
3. CI/CDలో మూల్యాంకనాలను ఇంటిగ్రేట్ చేయండి: డెవలపర్‌లు ఏజెంట్ ప్రాంప్ట్‌లు, మోడల్‌లు, టూల్స్ లేదా వర్క్‌ఫ్లోను అప్‌డేట్ చేసినప్పుడు రిగ్రెషన్ టెస్ట్‌లను ఆటోమేటిక్‌గా మళ్లీ రన్ చేయండి. ఫలితాలను బేస్‌లైన్‌తో పోల్చండి, కీలకమైన చెక్‌లు విఫలమైనప్పుడు రిలీజ్‌లను నిలిపివేసే నాణ్యత పరిమితులను నిర్ణయించండి.
4. కాలిబ్రేట్ చేసిన గ్రేడర్‌లను నమూనాగా తీసుకున్న ప్రొడక్షన్ ట్రేస్‌లకు వర్తింపజేయండి, వైఫల్య రేట్లు మరియు ఇతర పనితీరు మెట్రిక్‌లను ట్రాక్ చేయండి, మాన్యువల్ సమీక్ష ద్వారా కొత్త ఎర్రర్‌లను పరిశోధించండి.