용어
검색 증강 생성(RAG)
검색 증강 생성은 모델의 학습 데이터 외부에 있는 출처에서 관련 정보를 가져와 생성에 필요한 보조 맥락을 제공하는 기법입니다. 관련 자료에서는 의미 검색, 지식베이스, 에이전트 애플리케이션, 문서 및 코드베이스 검색에 대한 활용을 보여 줍니다.
검색 증강 생성(RAG)은 모델의 학습 데이터 외부에 있는 출처에서 관련 정보를 가져온 다음, 이를 생성 과정에 필요한 보조 맥락으로 제공하는 기법입니다.
어떻게 사용되나요?
- 문서에서 의미 검색 및 정보 검색.
- 검색과 생성을 기반으로 하는 지식베이스 지원.
- 생성 또는 추론 전에 AI 에이전트에 맥락 제공.
- 코드베이스, 파일 및 멀티모달 콘텐츠 검색.
검색 품질의 중요성
RAG 애플리케이션의 품질은 최종 텍스트에만 좌우되지 않습니다. 잘못된 데이터베이스를 선택하거나, 관련성이 낮은 문서를 검색하거나, 적절하지 않은 범위 필터를 적용하는 과정에서 오류가 발생할 수 있습니다. 따라서 관련 자료에서는 검색 작업, 검색된 데이터, 재순위화, 호출된 도구를 추적한 다음 검색부터 생성까지의 전체 경로를 평가할 것을 권고합니다.
필터링과 범위
메타데이터 필터를 유사도 검색 전에 적용하여 특정 테넌트, 카테고리, 상태 또는 범위 내로 결과를 제한할 수 있습니다. AWS는 이 접근 방식이 RAG와 문서 검색 같은 애플리케이션을 대상으로 하며, 특히 필요한 컬렉션이 인덱스의 작은 일부를 구성할 때 유용하다고 설명합니다.
더 넓은 워크플로 내의 RAG
RAG는 동일한 시스템의 다른 도구와 통합될 수 있습니다. GitHub에 게시된 자료에 따르면 에이전트는 MCP를 사용해 도구와 데이터에 접근하고, Skills를 따라 프로젝트별 지침을 적용하며, RAG를 활용해 보조 맥락을 가져올 수 있습니다. 자료는 이러한 구성 요소 중 하나가 다른 구성 요소를 대체한다는 증거를 제시하지 않습니다.
평가와 운영
- 전체 경로 평가: 모델 호출만이 아니라 검색, 생성 및 출력 검증을 테스트합니다.
- 구성 요소 추적: 버전을 인덱스, 임베딩 모델, 검색 설정, 프롬프트 및 운영 설정과 연결합니다.
- 테스트 다양화: 일반 질문, 이전 실패 사례, 모호한 사례, 증거가 부족한 사례를 포함합니다.
- 지표 조합: 명확한 규칙이 있을 때는 결정론적 검사를 사용하고, 판단을 하나의 규칙으로 축약하기 어려울 때는 사람의 검토 또는 의미론적 평가를 병행합니다.
추론할 수 있는 내용의 한계
제한적인 결과나 대규모 언어 모델의 판단만으로는 모든 상황에서 RAG 애플리케이션의 품질을 입증할 수 없습니다. 또한 어떤 검색 모델이나 인덱스가 적합한지는 데이터 유형, 필요한 검색 정확도, 하드웨어 제약 및 독립적인 테스트 결과에 따라 달라집니다. 제공된 자료에는 RAG 솔루션의 일반적인 순위나 포괄적인 비교가 포함되어 있지 않습니다.