Apple - 질의 분포 학습으로 MIPS 검색 가속
원문 열기 (news.hada.io)
- Apple 연구진이 고정된 벡터 데이터베이스와 실제 질의 분포를 바탕으로 작은 신경망을 미리 학습해 MIPS 추론 속도와 정확도를 높임
- SupportNet은 클러스터별 최상의 일치 점수를 예측해 질의를 더 적합한 클러스터로 라우팅함
- KeyNet은 질의를 최적 키에 가까운 벡터로 변환해 기존 IVF 인덱스 검색을 가속함
- Natural Questions 실험에서 대형 모델은 질의 변환 시간을 포함해 99% 재현율 도달 시간을 최대 약 8배 단축함
- 키 집합이 큰 시스템에서는 SupportNet 라우터와 클러스터별 KeyNet을 결합해 사용할 수 있음
- 주제
- ai/RAG
- 날짜