에이전트 라우팅 평가·회귀 검증
2024.07 — 현재
Evaluation Architecture · JSON Schema · CI
도구 선택 오류를 분석하고, 수정 전후의 개선과 다른 영역의 회귀를 함께 검증하는 평가 파이프라인 구축
- 경계 평가 — 실제 도구 선택과 기대 라우팅을 비교해 정답 영역 이탈·과잉 흡수와 개선·회귀를 분석
- 원인 분해 — 후보 누락·기능 미노출·오선택으로 실패를 분류해 수정 책임과 평가 범위를 구분
- 보강 루프 — 동일 후보군에서 기능 설명·라우팅 기준·도구 계약의 변경 효과와 다른 영역의 회귀를 검증
- 재현성 — JSON Schema·CI 사전 검증, 결정론적 채점과 실행 조건·코드 버전 기록으로 비교 기준 고정
- 검증 범위 — 라우팅 회귀를 평가하며, 도구 연쇄 호출·다단계 실행 경로·상태 변화 평가는 확장 과제로 분리