[video]OffensiveCon26 - Oege de Moor - 재귀적 자기개선 보안
원문 열기 (youtu.be)
- OffensiveCon26 Tokyo 키노트에서 Oege de Moor가 AI 공격·방어와 인간 역할을 다루며 재귀적으로 자기개선하는 보안을 제안함.
- Semmle 시절 CodeQL 정적 분석 결과의 악용 가능성 검증 한계에서 XBOW를 시작했고, Gitea에서 LFI→app.ini 내부 토큰→로거 추가→Git hook/push로 이어지는 원격 코드 실행 경로를 시연함.
- GitHub Copilot과 LLM 코드 생성 이후 익스플로잇 자동화를 추진했으며, EXPO는 2024년 1월 시작돼 첫 프로토타입의 학생 수준 CTF 16% 성공에서 Sonnet 35 이후 급성장해 Grok 46 무렵 90%를 상회함.
- Chrome 전체 체인 취약점은 여러 버그 결합과 인간 연구자 및 AI 에이전트 작업을 통해 제출됐고, XBOW 운영 환경은 11개 이상의 모델을 역할별로 사용하며 Opus 47·Opus 46·GPT-6·Opus 48·Haiku 45 등을 활용함.
- 커뮤니티에 공개 평가 데이터셋과 재귀적 개선 파이프라인을 제안했고, Docker Hub 웹앱 약 65,000개 중 40,000개 테스트 준비 예상 및 SWE 작업 비용 월 22% 감소로 $40,000가 2027년 8월 약 $2,000가 될 것이라는 외삽을 제시함.
- 주제
- security
- 날짜