rag3 RAG 시스템에서의 Agent 개념과 구현 방법 기존 RAG 시스템은 사용자의 질문이 들어오면 관련 문서를 검색하고 그 내용을 기반으로 답변을 생성하는 방식으로 동작한다.하지만 복잡한 질문이 들어오거나 여러 단계의 작업이 필요한 경우에는 단순 Retrieval만으로 해결하기 어려운 상황이 발생할 수 있다.이러한 문제를 해결하기 위해 등장한 개념이 Agent이다.Agent란 무엇인가Agent는 LLM이 단순히 답변만 생성하는 것이 아니라, 상황에 따라 필요한 작업을 스스로 선택하고 실행할 수 있도록 만든 구조이다.즉 단순한 질문 응답 모델이 아니라 "어떤 작업을 수행해야 하는지 판단하는 AI 시스템"에 가깝다.예를 들어 사용자의 질문에 따라 문서를 검색할 수도 있고, 웹 검색을 수행할 수도 있으며, 계산 도구나 외부 API를 호출할 수도 있다.기존 RA.. 2026. 5. 10. LangChain 기반 RAG 시스템의 주요 구성 요소와 역할 RAG(Retrieval-Augmented Generation)는 외부 데이터를 검색(Retrieval)한 뒤, 그 결과를 기반으로 답변을 생성(Generation)하는 방식이다.기존 LLM은 학습된 정보만 활용하기 때문에 최신 정보나 특정 문서 내용을 정확하게 답변하지 못하는 경우가 있다.RAG는 필요한 정보를 외부 문서에서 검색한 뒤 그 내용을 바탕으로 답변을 생성하기 때문에 더 정확하고 신뢰도 높은 응답을 만들 수 있다.RAG 시스템의 전체 동작 흐름일반적인 RAG 시스템은 다음과 같은 순서로 동작한다.문서를 저장하고 벡터화한다.사용자의 질문을 임베딩한다.질문과 유사한 문서를 검색한다.검색된 문서를 LLM에 함께 전달한다.LLM이 최종 답변을 생성한다.1. Document LoaderDocument.. 2026. 5. 10. LLM의 할루시네이션이란? LLM의 할루시네이션(Hallucination)대규모 언어 모델(LLM)은 자연스러운 문장을 생성할 수 있지만, 사실과 다른 내용을 그럴듯하게 만들어내는 경우가 있다.이러한 현상을 할루시네이션(Hallucination)이라고 한다.즉 실제로 존재하지 않는 정보나 잘못된 내용을 마치 사실인 것처럼 생성하는 문제를 의미한다.1. 할루시네이션이 발생하는 이유LLM은 정답을 찾는 모델이 아니라 다음 단어를 예측하는 모델이다.이 과정에서 가장 그럴듯한 문장을 생성하는 데 집중하기 때문에 사실 여부와는 무관하게 문장을 만들어낼 수 있다.확률 기반으로 단어를 생성사실 여부를 검증하지 않음불완전한 학습 데이터 영향따라서 정보가 부족하거나 애매한 질문일수록 잘못된 내용을 생성할 가능성이 높아진다.2. 왜 문제가 되는가할.. 2026. 4. 26. 이전 1 다음