생성형 AI의 문제점과 RAG의 필요성

생성형 AI는 최근 지식 부족과 허위 정보 생성(hallucination) 문제로 신뢰성에 한계가 있습니다. 예를 들어, 특정 시점 이후의 주식 가격이나 최신 뉴스에 대한 질문에 정확히 답하지 못하거나, 근거 없는 정보를 생성할 수 있습니다. 이로 인해 사용자는 답변의 진위 여부를 직접 확인해야 하는 번거로움이 발생합니다.

 

📌 RAG가 뭐지?
"검색 → 증강 → 생성"의 3단계로 작동하는 AI의 '지식 보조기'입니다.
예를 들어, "한국 부자들이 투자하는 분야는?"라고 물어보면,
RAG는 실제 보고서를 찾아서 "2024년 한국 부자 보고서에 따르면..."처럼 출처를 명시하며 답변합니다.

 

🎯 왜 RAG가 필요할까?

1. "AI, 왜 거짓말해?"

• 일반 AI는 학습 데이터만 기억해 답변 → 할루시네이션(허위 정보 생성) 발생 가능
• RAG는 실시간 검색으로 최신 정보 반영 → "이 정보는 ○○ 보고서에 근거해 말해!"

2. "왜 내가 직접 확인해야 해?"

• RAG는 출처를 함께 알려줘 신뢰성 UP!
• 예: "이 답변은 2024년 한국 부자 보고서의 데이터를 기반으로 합니다."

🚀 RAG의 3단계 작동법
1. 🔍 검색: 사용자 질문을 키워드로 해석 → 신뢰할 수 있는 문서(DB, 보고서 등)에서 관련 정보 추출
예: "한국 부자 투자처" → 2024년 보고서 검색

2. ✨ 증강: 검색된 정보를 질문에 붙여 맥락 강화
예: "한국 부자 투자처" → "2024년 한국 부자 보고서에 따르면 금융자산 규모가 2,826조 원으로 증가했을 때..."

3. 📝 생성: 증강된 질문으로 AI가 답변 생성 → 출처를 함께 전달
예: "보고서에 따르면 주식 시장 반등이 주요 투자처로 꼽혔습니다."

 

 

🎯 RAG의 장점 요약
✅ "AI가 책상 위에 책을 펼쳐놓고 답변한다"
✅ "답변 끝에 출처 링크 달아줘"
✅ "할루시네이션 방지 → 사용자 신뢰도 UP!"

참고사항
https://lilys.ai/digest/2735334/910520?s=1&nid=910520