Yapay zeka ajanları nasıl değerlendirilir: test kümeleri, puanlayıcılar ve regresyon kontrolleri

Her başarılı yapay zeka ürününün arkasında, hataları erken yakalayan ve ajanın düzgün çalışmasını sağlayan, eval olarak bilinen güçlü bir yapay zeka ajanı değerlendirme süreci vardır. Eval'lar, birinin adına para iadesi gibi yüksek riskli işlemler gerçekleştiren yapay zeka ajanları için kritik öneme sahiptir.

Bu süreci oluşturmak biraz teknik bilgi ve veri analizi becerisi gerektirir. Ancak kulağa geldiği kadar korkutucu ya da zor değildir. Başlamanıza yardımcı olmak için yapay zeka ajanlarını değerlendirmeye yönelik altı pratik adımı ve süreci bozan yaygın yanılgıları bir araya getirdik.

Bir yapay zeka ajanını değerlendirmek ne anlama gelir?

Bir yapay zeka ajanını değerlendirmek, görevleri doğru şekilde tamamlamadaki performansını ve kararlarının kuruluşun gereksinimlerini karşılayıp karşılamadığını ölçmek anlamına gelir. Pratikte yapay zeka ajanı değerlendirmeleri, yani eval'lar, kuruluşların ajanın üstleneceği rol için yeterince güvenilir çalışıp çalışmadığını belirlemesine yardımcı olan belirli metriklerdir.

Bir üretim tesisinde yedek parça envanterini kontrol eden ve ikmal talepleri hazırlayan bir yapay zeka satın alma ajanını düşünün. Onaylı bir parça mevcut değilse veya tedarikçi bilgileri güncel değilse ajan sorunu bildirecek mi, yoksa onaylanmamış bir muadil mi önerecek?

Peki bu sorunu düzeltmek için ajanın sistem istemini değiştirirseniz, yeni bir sorun yaratmadığınızı nasıl bilebilirsiniz?

Değerlendirme olmadan ürün yöneticileri adeta tahmin yürütmek zorunda kalır. Bu nedenle eval'lar; performansı ölçmek, tekrarlayan sorunları tespit etmek ve değişiklikleri daha büyük bir güvenle test etmek için bir geri bildirim sinyali sağlar.

Bununla birlikte, bir ajan değerlendirmesi bir çalıştırmanın birkaç yönünü inceleyebilir:

• Nihai sonucun kalitesi
• Ajanın kullandığı bilgiler
• Çağırdığı araçlar
• Davranışını yöneten kurallara uyup uymadığı

Yaygın yapay zeka ajanı değerlendirme metrikleri

Eval'lar nitel ve nicel veriler üzerinde çalışır. Nitel değerlendirme, ajan kararlarının manuel olarak incelenmesi de dahil olmak üzere neler olduğunu ve nedenini anlamanıza yardımcı olur. Nicel değerlendirme ise bu gözlemleri, belirli hata türlerinin sıklığını saymak veya görev başarı oranlarını hesaplamak gibi ölçülebilir sinyallere dönüştürür.

Temel yapay zeka ajanı değerlendirme metrikleri şunlardır:

• Görev başarısı, ajanın amaçlanan sonuca ulaşıp ulaşmadığını ölçer; genellikle geçerli sonuçlar üreten çalıştırmaların yüzdesiyle ifade edilir.
• Eylem doğruluğu, ajanın araçları uygun şekilde kullanıp kullanmadığını, geçerli argümanlar seçip seçmediğini ve izinlere uyup uymadığını ölçer.
• Yanıt kalitesi, nihai çıktının doğru, eksiksiz ve faydalı olup olmadığını değerlendirir. Olgusal doğruluğu, talimatlara uyumu ve ajanın kararlarını mevcut bilgilerle destekleyip desteklemediğini kapsayabilir.
• Güvenilirlik, tekrarlanan denemeler, değişen girdiler ve uç durumlar genelinde tutarlılığı ölçer.
• Maliyet ve gecikme, başarılı bir sonuca ulaşmak için gereken kaynakları ölçer; buna yürütme süresi, token tüketimi ve araç çağrıları dahildir.

Neyi ölçtüğünüze bağlı olarak eval'lar bir ajanın uçtan uca performansını, yürütme yörüngesini veya araç çağrıları ve bilgi getirme adımları gibi tek tek bileşenlerini değerlendirebilir.

1. Adım: Başarılı bir ajan çalıştırmasının neye benzediğine karar verin

Önce ajanın neyi başarması gerektiğini, yani ürün gereksinimlerini açıkça tanımlayın. Kulağa apaçık gelse de bu, şaşırtıcı derecede zor olabilir. Hatta bunun bir adı bile var: spesifikasyon boşluğu.

Kıdemli veri bilimcimiz Andrey Khomutov'a göre bu konuya şöyle yaklaşmak gerekiyor:

“İki soruyla başlayın: “İşin yapılmış sayılması için ne gerekir?” ve “Görünüşte başarılı bir çalıştırmayı ne kabul edilemez kılar?”

Ajanlar söz konusu olduğunda bu, teknik açıdan hem sonucu hem de ajanların o sonuca nasıl ulaştığını kontrol etmek anlamına gelir.”

Bir ajan, sızdırılmış bir cevap anahtarına erişerek doğru yanıtı üretebilir ya da görevini tamamlarken yetkisiz eylemler gerçekleştirebilir. Khomutov, yanıt sızıntısının ve değerlendirmeler sırasındaki güvenli olmayan eylemlerin, yalnızca nihai yanıta bakarak karar vermemek için somut nedenler olduğuna dikkat çekiyor.

“Yörünge incelemesinin, yalnızca bir sonuç şüpheli göründüğünde başvurduğumuz bir yöntem olmaktan çıkıp ajan eval paketlerinin standart bir parçası hâline gelmesini bekliyorum,” diye ekliyor.

Ardından başarı kriterlerinizi doğrulamak için bir alan uzmanını sürece dahil edin. Alanda uygulamalı bilgiye sahip kişiler, bir yapay zeka ajanı için belirlediğimiz koşulların başarılı bir sonucu yansıtıp yansıtmadığını söyleyebilir.

2. Adım. Gerçek görevlerden ve hatalardan bir test seti oluşturun

İyi ve kötü performansın neye benzediğini anlamak için ajanın gerçek davranışını inceleyin. Yalnızca neyin ters gidebileceğine dair tahminlerinize dayanarak düzinelerce test üretip işe başlama isteğine karşı koyun.

Parlance Lab'de ML mühendisi olan Hamel Husain ve ML sistemleri ile uygulamalı yapay zeka eval'ları araştırmacısı Shreya Shankar şunu öneriyor: işe, makine öğrenimi ve veri biliminden ödünç alınmış bir teknik olan hata analiziyle başlamak. Süreç, ajan yürütme izlerinin nitel analiziyle başlar; bu izler kullanıcının girdisini, araç çağrılarını, getirilen bilgileri ve ajan çıktısını gösteren kayıtlardır.

1. Tek tek izleri inceleyin ve hataları not edin (açık kodlama). Bir alan uzmanının ajan çalıştırmalarını incelemesini ve neyin ters gittiğine dair kısa gözlemler yazmasını sağlayın. İlk anlamlı hataya odaklanın.
2. Gözlemleri hata türlerine göre gruplandırın (eksenel kodlama). Yeterli notunuz olduğunda, benzer hatalar için kategori önermesi amacıyla bir LLM kullanın. Bu kategoriler arasında uyumsuz parça önerileri, hatalı envanter bilgisi getirme ve insana devretmede yaşanan başarısızlıklar yer alabilir.
3. Kaç kez görüldüklerini sayın. Her gözlemi bir kategoriye atayın, ardından her hata türünün ne sıklıkla ortaya çıktığını hesaplamak için bir elektronik tablo veya pivot tablo kullanın.
4. Hangi sorunları ele alacağınızı önceliklendirin, bunu yaparken hem sıklığı hem de ciddiyeti göz önünde bulundurun.
5. Önemli hataları test senaryolarına dönüştürün. Ajanın aynı senaryoyla yeniden test edilebilmesi için ilgili girdiyi, başlangıç koşullarını, beklenen sonucu ve puanlama kriterlerini kaydedin.

Kaç iz incelemelisiniz? Kabaca 100, ancak sihirli bir sayı yok. Teorik doygunluğa ulaştığınızda erken durun: Bu, ek izleri incelemenin artık anlamlı yeni hata kalıpları ortaya çıkarmadığı noktadır.

Uygulamayı henüz yayınlamadınız mı? Sentetik örnekler ilk test setini oluşturmanıza yardımcı olabilir; ancak gerçek kullanıcı verileri kullanılabilir hâle gelir gelmez test seti bu verilere göre şekillendirilmelidir.

Yapay zeka ajanı değerlendirmesinde benchmark'ların kullanımı

Kendi test senaryolarınızı oluşturmanın yanı sıra, ajan yeteneklerini değerlendirmek için benchmark olarak bilinen mevcut standart değerlendirme görevi koleksiyonlarını da kullanabilirsiniz.

Ancak benchmark'lar yanılmaz değildir. SWE-bench denetimleri, Epoch AI'ın benchmark incelemeleri ve TheoPhysEval'da başlangıçta reddedilen doğru yanıtlar, hatalı görevlerin veya beklenen yanıtların değerlendirme sonuçlarını nasıl çarpıtabileceğini gösteriyor.

Khomutov'un tavsiye ettiği gibi, alanınızla ilgili güncel benchmark'ları seçin ve puanları ajan performansının güvenilir bir kanıtı olarak kabul etmeden önce şaşırtıcı başarıları veya başarısızlıkları araştırın.

3. Adım. Ajanı tekrarlanabilir bir test ortamında çalıştırın

Tekrarlanabilir bir test ortamı, bir yapay zeka ajanını aynı başlangıç koşulları altında aynı test senaryolarıyla çalıştırıp sonuçları karşılaştırabileceğiniz kontrollü bir düzenektir. Buna bir test senaryoları klasörü, ajanı çalıştıran bir Python betiği veya sonuçları değerlendiren bir dizi kontrol dahildir.

İşe temsili girdileri JSON dosyaları olarak saklayarak ve ajanınızın iş akışını yürütüp çıktılarını assertion'larla kontrol eden bir Python betiği kullanarak başlayabilirsiniz. Üretim tesisimizin envanter ajanı için tekrarlanabilir bir test ortamı şöyle görünebilir:

Büyüt

Tekrarlanabilir bir test ortamı kurmak için şu adımları izleyin:

1. Temsili girdileri kaydedin. Gerçek olayları veya test senaryolarını, uygulamanızın üretim ortamında aldığı yapının aynısıyla saklayın. Senaryomuzda makine kimliğini, gereken yedek parçayı ve bakım tarihini içeren bir bakım talebini, envanter ve onaylı parça verilerinin anlık görüntüsüyle birlikte bir JSON dosyası olarak kaydedersiniz.
2. İş akışını yürütün. Her girdiyi; bilgi getirme adımları, araç çağrıları ve yanıt üretimi dahil olmak üzere ajan üzerinden çalıştırın.
3. Sonucu ve izi kaydedin. Ajanın yalnızca başarısız olup olmadığını değil, nerede başarısız olduğunu da görebilmek için nihai çıktıyı ve ilgili ara eylemleri (envanter sorguları gibi) kaydedin.
4. Senaryoları hatanın ciddiyetine, sıklığına ve sorunun düzeltilme zorluğuna göre tekrarlayın. LLM uygulamaları deterministik değildir (aynı girdilerden farklı sonuçlar üretebilirler), bu nedenle başarılı bir çalıştırma bir sonrakinin de başarılı olacağını garanti etmez. Başarılı denemelerin oranını raporlayın ve başarısızlıkları inceleyin.

Bu konuda Khomutov, pass@1 (ajanın tek bir denemede ne sıklıkla başarılı olduğu) ve pass@k (belirli sayıda deneme içinde en az bir kez başarılı olma olasılığı) değerlerinin ölçülmesini öneriyor. pass@k değerini raporluyorsanız deneme sayısını belirtin; çünkü birkaç yanıt arasından bir doğru yanıt üretmek, ajanın hangisini seçmesi gerektiğini bildiği anlamına gelmez.

Uygulamanız büyüdükçe testleri düzenlemek ve çalıştırmak için pytest gibi bir test çerçevesi kullanın; büyük test veri kümelerini ve sonuçlarını bir veritabanında saklamayı da düşünün.

4. Adım. Her kontrol için doğru puanlayıcıyı seçin

Puanlayıcı (sıklıkla değerlendirici olarak da adlandırılır), bir ajanın çıktısını veya eylemini tanımlanmış bir kritere göre kontrol eden bir mekanizmadır; bu bir kod parçası, bir puanlama rubriği ile yönlendirilen bir LLM ya da bir insan inceleyici olabilir. Puanlayıcı, bir geçti/kaldı kararı ve ilgili kanıtları belirten bir açıklama döndürür.

Bilgi: Puanlama rubriği, neyin doğru veya kabul edilebilir bir sonuç sayılacağını tanımlayan kriterler ve talimatlar bütünüdür.

Doğru puanlayıcı türü, neyi doğrulamaya çalıştığınıza bağlıdır. Üç yaklaşımın karşılaştırması şöyle:

Bazen aynı çalıştırmanın farklı yönleri farklı değerlendirme yöntemleri gerektirebilir; bu nedenle puanlayıcıları birleştirmeniz gerekebilir.

Puanlayıcılar nasıl birleştirilir?

Kendinize şunu sorun: “Sonuç bilinen bir kurala veya beklenen bir değere göre doğrulanabilir mi, yoksa insan benzeri bir muhakeme mi gerektirir?”

• Sonucu kesin olarak doğrulayabiliyorsanız işe kod tabanlı bir puanlayıcıyla başlayın. Kod tabanlı puanlayıcılar yapılandırılmış çıktıları, geçerli alan değerlerini, araç argümanlarını veya bir veritabanının son durumunu da doğrulayabilir.
• Kontrol bağlamı yorumlamayı gerektiriyorsa hakem olarak LLM yaklaşımını kullanın.
• Alana özgü veya tartışmalı kararlar için insan inceleyicilerden yararlanın.

Önemli! Bir LLM puanlayıcı kanıtları yanlış yorumlayabilir veya bir rubriği hatalı uygulayabilir. Bu nedenle ek bir değerlendirme adımına ihtiyaç duyar: insan değerlendirmelerine göre kalibrasyon.

LLM puanlayıcıyı insan değerlendirmelerine göre kalibre edin.

Kalibrasyon, özünde bir alan uzmanının gerçek ajan çalıştırmalarını değerlendirmesini gerektirir. Uzman daha sonra kendi değerlendirmelerini LLM'inkilerle karşılaştırır ve puanlama rubriğini görüş ayrılıklarına göre iyileştirir.

İşte beş adımlı bir puanlayıcı kalibrasyon süreci:

1. Ajan girdilerinden, çıktılarından ve ilgili izlerden örnekler toplayın.
2. Bir alan uzmanının, her örneğin değerlendirme kriterini karşılayıp karşılamadığını bağımsız olarak değerlendirmesini sağlayın.
3. LLM puanlayıcıyı bu örnekler üzerinde çalıştırın.
4. İnsan ve model değerlendirmelerini karşılaştırın.
5. Görüş ayrılıklarını inceleyin ve puanlayıcıyı yeni örnekler üzerinde test etmeden önce rubriğini iyileştirin.

Khomutov, LLM puanlayıcının tutarlılığını ayrıca test etmenin önemini de vurguluyor:

“Ajanı yeniden çalıştırmadan, kaydedilmiş aynı çalıştırmayı ve aynı dosyaları ona birkaç kez verin. Bu sayede ajanın çalışmasındaki farklılıkları puanlamadaki farklılıklardan ayırabilirsiniz.”

Aynı çıktı farklı kararlar alıyorsa her puan değişikliğinin ajandan kaynaklandığını varsaymayın. Bunun yerine, puanlayıcının hataları ne zaman doğru tespit ettiğini, ne zaman gözden kaçırdığını veya kabul edilebilir çıktıları ne zaman yanlışlıkla işaretlediğini gösteren bir karışıklık matrisini inceleyin.

İnsan incelemesi; referans değerlendirmeler oluşturmak, tartışmalı durumları çözmek ve mevcut puanlayıcıların tespit etmek üzere tasarlanmadığı yeni hata türlerini keşfetmek için vazgeçilmez olmaya devam ediyor.

5. Adım. Sürümleri karşılaştırın ve regresyon kontrolleri yapın

Hata analizinin, envanter ajanınızın sıklıkla onaylanmamış yedek parçalar önerdiğini ortaya koyduğunu varsayalım. Açık bir uyumluluk kontrolü yapmasını zorunlu kılmak için ajanın sistem istemini değiştiriyorsunuz. Başta başarısız olan senaryo artık geçiyor. Peki bu değişikliğin diğer görevleri etkilemediğini nasıl bileceksiniz?

İşte bu noktada regresyon testi devreye girer.

Regresyon testi, bir ajanın istemini, modelini veya iş akışını değiştirdikten sonra, değişikliğin yeni hatalara yol açmadığından emin olmak için daha önce başarılı olan test senaryolarını yeniden çalıştırmak anlamına gelir.

1. Test setinden kaydedilmiş bir girdi kullanarak orijinal hatayı yeniden oluşturun.
2. İstemde, modelde veya iş akışında hedefli bir değişiklik yapın.
3. Sorunun çözülüp çözülmediğini kontrol etmek için başarısız olan testi yeniden çalıştırın.
4. Diğer testleri çalıştırın ve değişikliğin daha önce başarılı olan davranışları bozmadığını doğrulayın.
5. Sonuçları inceleyin ve yeni hataları araştırın.

Doğru sonuçlar elde etmek için temel sürümdeki ajanı ve güncellenmiş ajanı aynı test senaryoları ve puanlama ölçütleriyle karşılaştırın.

6. Adım: Yapay zeka ajanının performansını üretim ortamında izleyin

Ajan değerlendirmesi, uygulamanızı dağıttığınızda sona ermez. Husain ve Shankar’ın açıkladığı gibi, geliştirme sırasında kullandığınız değerlendiricileri, ajanınızın zaman içindeki performansını ölçmek için gerçek üretim verileri üzerinde de çalıştırabilirsiniz.

Bu yönteme çevrimiçi değerlendirme denir; tekrarlayan ve daha önce bilinmeyen hataları ortaya çıkarmaya yardımcı olan daha kapsamlı bir üretim izleme sürecinin bir parçasıdır.

Bu süreç yinelemelidir ve birbirini tamamlayan dört etkinlikten oluşur:

• Kalibre edilmiş LLM hakemlerini üretim izleri üzerinde çalıştırın. Gerçek ajan etkileşimlerinden örnekler alın ve insan değerlendirmelerine göre önceden doğruladığınız değerlendiricileri bu örneklere uygulayın.
• Hata oranlarını zaman içinde takip edin. Tekrarlayan sorunları sayısal olarak ölçmek için hata analizi sırasında belirlenen hata kategorilerini kullanın.
• İzleri manuel olarak incelemeye devam edin. Otomatik puanlayıcılar yalnızca tespit etmek üzere tasarlandıkları sorunları algılar. Yeni hataları veya alışılmadık kullanıcı isteklerini ortaya çıkarmak için gerçek ajan etkileşimlerinden alınan örnekleri manuel olarak inceleyin.
• İş sonuçlarını ölçmek için A/B testi kullanın (yalnızca uygun olduğunda). Farklı istemleri, modelleri veya iş akışlarını görev tamamlama, kullanıcı memnuniyeti ve çözüme ulaşma süresi gibi metriklerle karşılaştırın. Bu süreç, bir değişikliğin tek tek testleri geçmenin ötesinde gerçek ürün deneyimini iyileştirip iyileştirmediğini belirlemeye yardımcı olur.

Önemli bir not: Değerlendirmelerin kusursuz olması gerekmez. Ürününüzü iyileştirecek kadar iyi olmaları yeterlidir.

Yapay zeka ajanı değerlendirmesiyle ilgili yaygın yanılgılar

• Değerlendirmeler birim testlerinden ibarettir. Öyle değil; birim testleri, değerlendirmenin yalnızca bir parçası olan küçük, otomatik kontrollerdir. Değerlendirmeler, uygulama kalitesini ölçmek için niteliksel hata analizini, insan değerlendirmelerini, üretim izlemeyi ve deneyleri de kapsar.
• Bir değerlendirme platformu her şeyi sizin yerinize yapabilir. Hazır araçlar bazı kontrolleri otomatikleştirebilir ancak ürününüz için hangi hata modlarının (hata türleri veya istenmeyen ajan davranışları) önemli olduğunu belirleyemez.
• Her şeyin değerlendirmesini bir LLM'e bırakabilirsiniz. Bu büyük bir yanılgıdır. LLM'ler her sorunu keşfetmek için gereken iş bağlamından yoksun olduğundan, insanların yürüttüğü hata analizi ve puanlayıcı kalibrasyonu vazgeçilmez olmaya devam eder.
• A/B testi yapmak veya ajanı doğrudan kullanmak değerlendirmelerin yerini tutar. Yanlış. A/B testleri, seçilen metriklere göre hangi sürümün daha iyi performans gösterdiğini ortaya koyabilir ancak altta yatan sorunları tek başına açıklayamaz.

Yapay zeka ajanı değerlendirmesi hakkında SSS

1. Yapay zeka ajanı değerlendirmesi ile LLM değerlendirmesi arasındaki fark nedir?

LLM değerlendirmesi, bir dil modelinin soru yanıtlama, belge özetleme veya bilgi çıkarma gibi belirli bir görevi ne kadar iyi yerine getirdiğini ölçer. Yapay zeka ajanı değerlendirmesi ise bir görevi tamamlamak için birden fazla adımı bağımsız olarak yürüten bir sistemi değerlendirir.

Tipik bir LLM değerlendirmesinden farklı olarak ajan değerlendirmesi, hem nihai sonucu hem de bu sonuca ulaşmak için atılan adımların sırasını (araç çağrıları, kararlar ve önceden tanımlanmış kurallara uyum dahil) inceler.

2. Yapay zeka ajanı değerlendirmesi için temel metrikler

Yapay zeka ajanı değerlendirme metrikleri iki geniş kategoriye ayrılır:

• Teknik performans metrikleri: Görev başarı oranı, eylem doğruluğu, yanıt kalitesi, güvenilirlik (pass@1 ve pass@k), gecikme süresi, token kullanımı ve başarılı görev başına maliyet.
• İş ve kullanıcı deneyimi metrikleri: Müşteri memnuniyeti (CSAT), sorun çözüm oranı, eskalasyon oranı, dönüşüm oranı, görev tamamlama süresi ve ajanın rolüne özgü diğer sonuçlar.

Örneğin, bir müşteri destek ajanı başarılı sorun çözümü ve müşteri memnuniyetine göre değerlendirilebilirken, bir yapay zeka satın alma ajanı stok yenileme talebi doğruluğu, onay oranları ve tedarik döngüsü süresiyle ölçülebilir.

Doğru metrikler hem ajanın ne kadar güvenilir çalıştığını hem de çalışmasının iş sonuçlarını iyileştirip iyileştirmediğini yansıtmalıdır.

3. Yapay zeka ajanlarını değerlendirmek için en iyi araçlar nelerdir?

Yaygın seçenekler şunlardır:

• Test çerçeveleri: Python assert ifadeleri ve pytest, tekrarlanabilir test senaryolarını çalıştırmak ve bir ajanın doğru aracı seçip seçmediği veya geçerli bir parça kimliği döndürüp döndürmediği gibi kesin koşulları kontrol etmek için kullanışlıdır.
• Yapay zeka ajanı değerlendirme çerçeveleri: DeepEval ve Google'ın agent-eval araç seti, yürütme izleri, LLM tabanlı puanlayıcılar ve otomatik regresyon testleri dahil olmak üzere daha karmaşık değerlendirmeleri destekler.
• Değerlendirme ve gözlemlenebilirlik platformları: LangSmith, Arize Phoenix ve MLflow, ekiplerin ajan davranışını incelemesine, değerlendirme veri kümelerini yönetmesine, ajan sürümlerini karşılaştırmasına ve üretim ortamındaki performansı izlemesine yardımcı olur.

4. Yapay zeka ajanı değerlendirmeleri nasıl otomatikleştirilir?

Tekrarlanabilir testler oluşturarak, otomatik puanlayıcılar uygulayarak ve bu kontrolleri geliştirme ve üretim iş akışlarına entegre ederek yapay zeka ajanı değerlendirmelerini otomatikleştirebilirsiniz:

1. Bir değerlendirme veri kümesi oluşturun: Temsili kullanıcı görevlerini, beklenen sonuçları, bilinen hataları ve ajan yürütme izlerini toplayın. Başarısız araç çağrıları, eksik bilgiler ve yetkisiz eylemler gibi uç durumları da dahil edin.
2. Test yürütmeyi ve puanlamayı otomatikleştirin: Test senaryolarını çalıştırmak ve kod tabanlı kontroller ya da LLM puanlayıcıları uygulamak için pytest veya DeepEval gibi çerçeveler kullanın. LLM puanlayıcılarının puanlarına güvenmeden önce bu puanlayıcıları insan değerlendirmelerine göre doğrulayın.
3. Değerlendirmeleri CI/CD süreçlerine entegre edin: Geliştiriciler bir ajanın istemlerini, modellerini, araçlarını veya iş akışını güncellediğinde regresyon testlerini otomatik olarak yeniden çalıştırın. Sonuçları bir temel çizgiyle karşılaştırın ve kritik kontroller başarısız olduğunda sürümlerin yayınlanmasını engelleyen kalite eşikleri belirleyin.
4. Kalibre edilmiş puanlayıcıları örneklenmiş üretim izlerine uygulayın, hata oranlarını ve diğer performans metriklerini takip edin ve yeni hataları manuel inceleme yoluyla araştırın.