RAG (자료를 찾아 붙여 답하게 하는 방법)
영어 RAG (retrieval-augmented generation) · 일본어 RAG（資料を探して付け足し、答えさせる方法） · 읽는 법 라그
RAG는 AI가 답하기 전에 회사 문서나 웹 같은 자료에서 관련 내용을 먼저 찾아 질문에 붙여 주는 방법입니다. 모델을 다시 학습시키지 않고도 최신 정보나 내 자료를 바탕으로 답하게 할 수 있습니다.
HowtoAI 글에서는 2024년 Copilot GPT 빌더의 「파일 업로드(RAG)」 기능이 지금의 Copilot 전자 필기장과 회사용 에이전트에서 어떤 모습으로 남아 있는지 비교할 때 나옵니다.
확인 2026-10-26출처 논문 「Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks」(Patrick Lewis 외, arXiv 2005.11401, 2020-05-22 제출): 미리 학습한 모델에 위키백과 검색을 붙여 답을 만드는 방법과 그 이름
1이 말, 이런 곳에서 만납니다
처음 보는 말이 낯선 것은 당연합니다. 대개 이런 자리에서 마주칩니다.
HowtoAI 글 「Copilot GPT 빌더는 어떻게 되었나」의 2024년과 지금 비교표
2024년의 「파일 업로드(RAG)」는 지금 개인용에서는 전자 필기장의 「참조」에 파일을 추가하는 기능으로, 회사용에서는 SharePoint 파일이나 첨부 파일을 에이전트의 지식으로 갖게 하는 기능으로 이어졌습니다.
HowtoAI 글 「Copilot GPT 빌더는 어떻게 되었나」의 당시 기사 확인표
파일을 올려 RAG에 쓸 수 있다는 2024년 설명은 당시 화면 설명으로는 맞았고, 지시문과 자료를 갖게 하는 생각은 지금도 남아 있다는 확인입니다.
가게 홈페이지의 AI 상담 창 (예)
영업시간이나 환불 규정을 물으면 가게가 올려 둔 안내 문서를 찾아 답하고, 답 아래에 참고한 문서 이름을 보여 주는 화면
2한 장면으로 이해하기
RAG는 오픈북 시험과 비슷합니다. 학생(AI)이 외운 것만으로 답하지 않고, 책상 위에 놓인 책에서 관련 쪽을 펼쳐 보고 답을 씁니다. 다만 펼친 쪽이 틀렸거나 낡은 판이면 답도 틀리고, 어떤 책을 책상에 올려 두느냐는 시험 보는 쪽이 정합니다.
외운 것이 아니라 펼쳐 본 자료로 답합니다.
3우리 회사도 해당될까요?
이런 경우 해당됩니다
- AI가 우리 가게나 회사의 문서를 바탕으로 답하게 하고 싶다
- Copilot 전자 필기장이나 에이전트에 파일을 올려 질문해 본 적이 있다
- 제작사가 사내 자료를 연결한 AI 상담 창을 만들자고 제안한다
이런 경우는 걱정을 덜어도 됩니다
- AI 모델 자체를 새로 학습시키는 이야기다(RAG는 모델을 바꾸지 않습니다)
- AI가 한 번에 읽을 수 있는 분량이 궁금하다(‘컨텍스트 윈도우’ 페이지를 보세요)
RAG의 답은 붙여 준 자료의 질에 따라 달라집니다. 자료가 오래되었거나 권한 설정이 잘못되면 틀린 답이나 보여서는 안 될 내용이 나올 수 있습니다.
4조금 더 자세히
RAG는 AI에게 오픈북 시험을 보게 하는 방법입니다. 질문이 들어오면 먼저 회사 문서나 웹 페이지 같은 자료에서 관련된 부분을 찾고, 그 내용을 질문에 덧붙여 AI에게 넘깁니다. AI는 원래 배운 지식만이 아니라 앞에 놓인 자료를 보고 답을 만듭니다. 모델을 다시 학습시키지 않아도 자료만 바꾸면 새 내용으로 답하게 할 수 있고, 어느 자료를 보고 답했는지 함께 보여 줄 수도 있습니다.
주의할 점 RAG를 써도 답이 늘 맞는 것은 아닙니다. 찾아온 자료가 오래되었거나 엉뚱한 부분이면 답도 틀릴 수 있으니, 출처가 나오면 원문을 열어 확인합니다. 사내 자료를 붙일 때는 볼 권한이 있는 사람의 질문에만 그 자료가 쓰이도록 설정해야 합니다. 올린 파일은 내용이 바뀌면 다시 올려 최신으로 유지합니다.
5그래서 무엇을 하면 되나요?
- 1AI에 올릴 문서는 최신판인지 먼저 확인하고, 내용이 바뀌면 예전 파일을 지우고 새 파일로 바꿔 올립니다.사장님
- 2AI의 답에 출처가 표시되면 원문을 한 번 열어 보고, 중요한 안내는 그대로 손님에게 전하기 전에 확인합니다.사장님
- 3사내 자료를 연결할 때는 직원별로 볼 수 있는 자료만 답에 쓰이도록 권한을 맞추고, 그 설정을 고객에게 설명합니다.제작사
제작사에 이렇게 물어보세요
“이 AI는 어떤 자료를 찾아서 답하나요? 그 자료는 어떻게 최신으로 유지되고, 볼 권한이 없는 사람에게는 쓰이지 않도록 설정되어 있나요?”
6자주 묻는 질문
Q. RAG를 쓰면 AI가 틀린 답을 하지 않나요?
줄어들 수는 있지만 없어지지는 않습니다. 찾아온 자료가 오래되었거나 질문과 맞지 않으면 답도 틀립니다. 답에 출처가 표시되면 원문을 열어 확인하는 것이 좋습니다.
Q. AI를 다시 학습시키는 것과 무엇이 다른가요?
RAG는 모델은 그대로 두고, 답할 때마다 필요한 자료를 찾아 붙여 줍니다. 그래서 자료만 바꾸면 새 내용을 반영할 수 있고, 모델을 다시 학습시키는 것보다 비용이 적게 든다고 AWS는 설명합니다.
7이 풀이의 근거
- 출처
AWS 설명 페이지 「What is RAG?」: 학습 데이터 밖의 자료를 찾아 질문에 붙이는 순서, 재학습보다 적은 비용, 최신 정보, 출처 표시, 권한별 접근 제한 (확인 2026-10-26)
Microsoft Learn 「RAG and Generative AI - Azure AI Search」(2026-08-04 갱신): 자기 자료에 근거해 답하게 하는 방식, 큰 문서를 잘게 나누기, 허가된 자료만 가져오는 접근 제어 (확인 2026-10-26)
- 확인한 날
- 2026-10-26 · 다음 확인 2027-01-26
- 풀이
- 양진석 · 따뜻한기술 대표
이 정의를 인용하려면
“RAG는 AI가 답하기 전에 회사 문서나 웹 같은 자료에서 관련 내용을 먼저 찾아 질문에 붙여 주는 방법입니다. 모델을 다시 학습시키지 않고도 최신 정보나 내 자료를 바탕으로 답하게 할 수 있습니다.” — 용어집 「RAG (자료를 찾아 붙여 답하게 하는 방법)」 (확인 2026-10-26), atatakaidigital.com/kr/glossary/rag