RAG(검색 증강 생성)

정의

AI 가 답하기 전에 우리 자료에서 관련 내용을 찾아 함께 보고 답하게 하는 방법.

자세한 설명

AI 가 답을 만들기 전에 우리 쪽 문서나 자료에서 관련 내용을 먼저 찾아보고, 그 내용을 근거로 답하게 만드는 방법입니다. 회사 규정이나 제품 설명서처럼 AI 가 원래 몰랐던 내용도 답에 반영할 수 있고, 어떤 자료를 보고 답했는지 함께 보여 줄 수 있어 환각을 줄이는 데 도움이 됩니다. 모델을 다시 학습시키는 파인튜닝보다 자료를 바꾸는 쪽이 간단해 자주 바뀌는 정보에 적합합니다. 연결해 둔 자료가 오래되면 답도 그대로 틀려지므로 자료를 최신으로 관리하는 일이 함께 필요합니다.

예를 들면

사내 규정 문서를 넣어 두고 '출장비 기준이 뭐야?'에 해당 조항을 찾아 답합니다.

관련 용어