RAG

RAG(Retrieval-Augmented Generation)는 응답을 생성하기 전, 외부의 지식 베이스를 참조하도록 하는 과정을 말합니다. LLM만으로 정확한 답변을 내는 것에 한계가 있는 경우가 많기 때문에, 최근에 주목받고 있는 개념입니다.

Reader-Retriever Model과도 연계되며, 주로 Retriever 부분에 RAG 개념이 사용됩니다.

RAG를 사용했을 때 장점은 다음과 같습니다.

• 대규모의 Fine-tuning을 거치지 않고도 AI 답변을 개선할 수 있어 비용 면에서 효율적입니다.

• 사용자에게 답변의 출처 또는 판단의 근거를 제시하여 신뢰도를 높일 수 있습니다.

• LLM이 학습하지 못한 최신 정보도 반영할 수 있습니다.

RAG도 잘못된 지식을 반환할 수 있기 때문에, 성능을 개선하는 작업이 필요합니다. 가장 일반적인 방법으로 히스토리나 사용자 피드백을 저장해 두고, 해당 데이터를 피드백으로 반영할 수 있습니다.

Reference

RAG란? - 검색 증강 생성 AI 설명 - AWSAmazon Web Services, Inc.

RAG(검색 증강 생성)란? - LLM 단점을 보완하는 기술모두의연구소

RAG_Techniques/all_rag_techniques/retrieval_with_feedback_loop.ipynb at main · NirDiamant/RAG_TechniquesGitHub