GUARD - 회고 기반 재귀적 자기 개선 안정화
원문 열기 (academy.dair.ai)
- Google Cloud의 Minghe Zhang, Xuetao Kang, Chen-Yu Lee 등이 GUARD를 제안함
- GUARD는 프롬프트·스킬·도구 규칙·메모리로 구성된 편집 가능한 agent harness를 경험으로부터 수정하고, 이득이 회귀를 상회할 때만 편집을 수용하는 grader-free 루프임
- 각 태스크를 pre-execution self-checks로 분할하고 라운드마다 trajectory를 채점해 mastered rules를 고정하며, 새로 깨진 행동을 우선 순위화해 회귀를 드러냄
- Soft-HURT 게이트는 병렬 후보 편집을 group-relative fitness로 비교해 이득이 회귀를 넘을 때만 승격하고, 후보 2개 병렬 처리는 동일 예산 순차 탐색 대비 거부된 게이트 라운드를 64% 줄임
- procedural memory 태스크에서 GUARD는 태스크 정확도 83.0%와 업데이트 정확도 90.1%를 보이고 procedural pollution 0.000을 기록함; Meta-Harness는 유사 업데이트 점수지만 pollution을 3배로 만듦; Hosted SDK 결과 43개 테스트 태스크에서 정확도 80.80%, 시작 harness 대비 8.89점(paired p = 0.008), Meta-Harness 대비 6.28점, 태스크당 토큰 54.5% 감소, 테스트 시 단일 패스 frozen harness 1개를 사용함
- 주제
- ai/Research
- 날짜