티스토리 뷰
AI에게 궁금한 것을 물어보면 대부분 바로 답변을 만들어 줍니다.
하지만 AI가 세상의 모든 정보를 알고 있는 것은 아닙니다.
특히 최근에 생긴 정보나 계속 바뀌는 정보는 AI가 정확하게 알기 어려울 수 있습니다.
예를 들어 AI에게 이렇게 질문했다고 생각해 보겠습니다.
“이번 주말에 서울에서 비가 와도 가기 좋은 데이트 장소를 추천해 줘.”
이 질문에 제대로 답하려면 생각보다 여러 가지 정보가 필요합니다.
이번 주말에 정말 비가 오는지 확인해야 합니다.
비가 온다면 실내에서 즐길 수 있는 장소를 찾아야 합니다.
찾은 장소가 주말에도 운영하는지도 확인해야 합니다.
예약이 필요한 장소인지도 알아봐야 할 수 있습니다.
AI가 이러한 정보를 확인하지 않고 자신이 알고 있는 장소를 바로 추천한다면 어떨까요?
추천받은 장소에 갔는데 이미 폐업했거나, 주말에는 운영하지 않을 수도 있습니다.
그래서 AI가 자신의 기억에만 의존하지 않고 필요한 정보를 직접 찾아본 뒤 답변하도록 만드는 방법이 필요합니다.
여기에서 등장하는 기술이 바로 RAG(Retrieval-Augmented Generation)입니다.
RAG를 아주 쉽게 설명하면 AI가 필요한 자료를 찾아보고 그 내용을 참고해서 답변하도록 만드는 기술입니다.
그런데 여기에서 한 가지 문제가 있습니다.
처음 검색한 자료만으로 충분한 답을 만들 수 없다면 어떻게 해야 할까요?
사람이라면 다시 찾아볼 것입니다.
그리고 바로 이러한 생각에서 Agentic RAG를 이해할 수 있습니다.
RAG는 자료를 찾고, Agentic RAG는 부족하면 다시 찾아봅니다
일반적인 RAG의 기본적인 흐름은 어렵지 않습니다.
사용자가 질문합니다.
AI가 질문과 관련된 자료를 찾습니다.
그리고 찾은 자료를 이용해서 답변합니다.
간단하게 표현하면 질문 → 검색 → 답변입니다.
그렇다면 Agentic RAG는 무엇이 다를까요?
가장 큰 차이는 검색한 다음 한 번 더 생각해 본다는 것입니다.
다시 여행 사례로 돌아가 보겠습니다.
사용자가 AI에게 질문합니다.
“이번 주말에 서울에서 비가 와도 가기 좋은 데이트 장소를 추천해 줘.”
AI가 먼저 이번 주말 날씨를 확인합니다.
검색 결과 비가 올 가능성이 높다는 정보를 발견했습니다.
그런데 여기서 바로 답변하지 않습니다.
AI가 생각합니다.
“비가 온다면 실내 장소를 찾아야겠네.”
그래서 실내에서 즐길 수 있는 장소를 검색합니다.
전시회와 미술관, 실내 체험 공간 등을 발견했습니다.
하지만 아직 끝이 아닙니다.
추천하려는 장소가 주말에 문을 닫는다면 좋은 추천이라고 할 수 없기 때문입니다.
그래서 다시 확인합니다.
“이 장소들이 주말에도 운영할까?”
운영시간을 찾아봅니다.
그 과정에서 한 장소가 이번 주말에는 휴관한다는 사실을 발견했습니다.
그러면 그 장소는 제외하고 다른 장소를 찾아봅니다.
필요하다면 입장료나 예약 여부도 추가로 확인합니다.
그리고 필요한 정보가 충분히 모였다고 판단하면 그제야 사용자에게 최종 장소를 추천합니다.
과정을 간단하게 정리하면 다음과 같습니다.
질문 → 날씨 확인 → 비가 오는지 판단 → 실내 장소 검색 → 운영 여부 확인 → 정보가 부족하면 다시 검색 → 최종 추천
이것이 Agentic RAG를 이해하는 가장 쉬운 방법 중 하나입니다.
단순히 검색을 여러 번 하는 것이 중요한 것이 아닙니다.
검색한 결과를 보고 다음에 무엇을 찾아야 할지 판단한다는 것이 중요합니다.
우리가 인터넷에서 검색하는 모습과 비슷합니다
사실 우리는 이미 일상생활에서 Agentic RAG와 비슷한 방식으로 정보를 찾고 있습니다.
친구와 주말에 놀러 갈 장소를 찾는 상황을 생각해 보겠습니다.
처음에는 “서울 데이트 장소”라고 검색할 수 있습니다.
그런데 검색하다 보니 이번 주말에 비가 온다는 사실을 알게 됩니다.
그러면 검색어를 바꿉니다.
“서울 실내 데이트 장소”
이번에는 괜찮은 전시회를 발견했습니다.
그래서 전시회 정보를 찾아봅니다.
그런데 예약이 필요한지 궁금해집니다.
다시 검색합니다.
예약 방법을 확인했는데 표가 모두 매진되어 있습니다.
그러면 다시 다른 장소를 찾습니다.
이 과정에서 우리는 계속 판단하고 있습니다.
“이 정보면 충분한가?”
“무엇을 더 알아봐야 하지?”
“이 장소는 조건에 맞는가?”
그리고 필요한 정보를 모두 확인하면 검색을 멈추고 어디에 갈지 결정합니다.
Agentic RAG 역시 이와 비슷한 흐름으로 이해할 수 있습니다.
AI가 처음 검색한 결과를 무조건 사용하지 않고,
찾아보고 → 생각하고 → 부족하면 다시 찾아보는 것입니다.
왜 굳이 다시 검색해야 할까요?
처음부터 검색을 한 번만 잘하면 되는 것 아니냐고 생각할 수도 있습니다.
물론 간단한 질문이라면 가능합니다.
예를 들어 “에펠탑은 어느 나라에 있어?”라는 질문이라면 필요한 정보가 매우 단순합니다.
관련 정보를 한 번 찾는 것만으로도 충분히 답할 수 있습니다.
하지만 우리가 AI에게 하는 질문은 점점 복잡해지고 있습니다.
“이번 주말에 비가 와도 갈 수 있고, 사람이 너무 많지 않으면서, 2만 원 이하로 즐길 수 있는 서울 데이트 장소를 추천해 줘.”
이제 조건이 여러 개가 되었습니다.
날씨를 확인해야 합니다.
실내 장소를 찾아야 합니다.
가격도 확인해야 합니다.
운영시간도 확인해야 합니다.
필요하다면 예약 가능 여부까지 확인해야 합니다.
처음 검색한 자료 하나에 이 모든 정보가 들어 있을 가능성은 높지 않습니다.
그래서 하나의 정보를 확인한 뒤 다음에 필요한 정보를 찾아가는 과정이 중요해집니다.
Agentic RAG가 유용한 이유도 여기에 있습니다.
일반적인 RAG가 AI에게 자료를 찾아볼 수 있는 능력을 더해 주었다면, Agentic RAG는 여기에서 한 단계 더 나아가
“지금 찾은 정보로 충분할까?”, “부족하다면 무엇을 더 찾아야 할까?”를 판단하면서 검색을 이어갈 수 있도록 만드는 방식입니다.
그래서 Agentic RAG를 어렵게 생각할 필요는 없습니다.
가장 중요한 차이는 하나입니다. RAG는 찾아보고 답합니다.
Agentic RAG는 찾아보고, 생각하고, 부족하면 다시 찾아봅니다.
이 차이만 기억해도 Agentic RAG의 기본적인 개념은 충분히 이해할 수 있습니다.
일반 RAG와 Agentic RAG는 무엇이 다를까요?
앞에서 Agentic RAG를 “찾아보고, 생각하고, 부족하면 다시 찾아보는 AI”라고 설명했습니다.
그렇다면 일반적인 RAG와는 정확히 무엇이 다를까요?
이번에도 어렵게 생각할 필요는 없습니다.
두 방식의 가장 큰 차이는 첫 번째 검색 이후의 행동에 있습니다.
예를 들어 친구와 주말에 서울에서 놀기로 했다고 생각해 보겠습니다.
AI에게 이렇게 질문합니다.
“이번 주말에 서울에서 비가 와도 갈 수 있는 데이트 장소를 추천해 줘.”
먼저 일반적인 RAG가 이 질문을 처리한다고 생각해 보겠습니다.
AI는 질문과 관련된 자료를 검색합니다.
그리고 서울에서 갈 만한 장소에 대한 정보를 가져옵니다.
미술관, 공원, 전시회, 카페 등 여러 장소에 대한 정보가 검색될 수 있습니다.
AI는 검색된 자료를 참고해서 사용자에게 장소를 추천합니다.
쉽게 표현하면 다음과 같습니다.
질문 → 관련 자료 찾기 → 답변
여기까지가 RAG의 기본적인 생각입니다.
그런데 문제가 하나 있습니다.
검색 결과에 야외 공원이 포함되어 있다면 어떨까요?
사용자는 분명히 “비가 와도 갈 수 있는 곳”을 요청했습니다.
또는 괜찮은 전시회를 찾았는데 하필 이번 주말에 휴관할 수도 있습니다.
즉, 관련 있어 보이는 자료를 찾았다고 해서 그것이 사용자의 모든 조건을 만족하는 것은 아닙니다.
Agentic RAG에서는 바로 이 부분에서 차이가 나타납니다.
처음 검색한 결과를 곧바로 답변으로 사용하는 것이 아니라 현재 정보로 사용자의 요청을 제대로 해결할 수 있는지 한 번 더 확인하는 과정을 만들 수 있습니다.
먼저 이번 주말의 날씨를 확인합니다.
비가 온다는 정보를 발견했습니다.
그러면 다음 질문이 생깁니다.
“그렇다면 실내에서 갈 수 있는 장소를 찾아야겠다.”
실내 장소를 검색합니다.
괜찮은 전시회를 하나 발견했습니다.
그런데 다시 확인합니다.
“이번 주말에도 운영할까?”
운영시간을 찾아봅니다.
정상적으로 운영한다는 사실을 확인했습니다.
이번에는 입장료를 확인합니다.
사용자가 저렴한 장소를 원했다면 가격 역시 중요한 조건이기 때문입니다.
만약 입장료가 너무 비싸다면 다른 장소를 다시 찾아볼 수도 있습니다.
즉, 처음부터 모든 정보를 완벽하게 알고 검색하는 것이 아니라 하나씩 확인하면서 다음 행동을 결정하는 것입니다.
전체적인 차이를 아주 간단하게 표현하면 이렇습니다.
일반 RAG
질문 → 자료 검색 → 답변
Agentic RAG
질문 → 자료 검색 → 이 정보면 충분한지 확인 → 부족하면 다른 정보 검색 → 다시 확인 → 충분하면 답변
여기에서 Agentic RAG의 핵심을 발견할 수 있습니다.
바로 중간에 판단하는 과정이 있다는 것입니다.
검색 결과가 마음에 들지 않으면 다른 방법을 시도할 수도 있습니다
우리가 인터넷에서 정보를 찾을 때도 첫 번째 검색 결과가 항상 마음에 드는 것은 아닙니다.
예를 들어 처음에 “서울 데이트 장소”라고 검색했다고 생각해 보겠습니다.
너무 많은 장소가 나옵니다.
그러면 검색어를 조금 바꿉니다.
“서울 실내 데이트 장소”
그래도 너무 많은 결과가 나온다면 조건을 하나 더 추가합니다.
“서울 저렴한 실내 데이트 장소”
이렇게 검색하면서 원하는 결과에 조금씩 가까워집니다.
Agentic RAG에서도 비슷한 방식의 흐름을 만들 수 있습니다.
처음 찾은 정보가 부족하다고 판단하면 다른 방식으로 다시 찾아보는 것입니다. 예를 들어 검색 결과가 너무 오래되었다면 최근 자료를 다시 찾을 수 있습니다. 원하는 내용이 없다면 검색할 내용을 조금 더 구체적으로 바꿀 수도 있습니다. 한 가지 자료만으로 확신하기 어렵다면 다른 자료를 추가로 확인할 수도 있습니다.
중요한 것은 AI가 무조건 같은 검색을 반복하는 것이 아닙니다.
'왜 원하는 답을 찾지 못했는지 확인하고, 다음에는 무엇을 찾아볼지 결정하는 것'입니다.
여러 조건이 있는 질문에서는 차이가 더 커집니다
Agentic RAG의 특징은 질문이 복잡해질수록 더욱 이해하기 쉽습니다.
이번에는 AI에게 이렇게 요청했다고 생각해 보겠습니다.
“이번 주말 서울에서 비가 와도 갈 수 있고, 1인당 2만 원 이하이며, 지하철역에서 가까운 데이트 장소를 추천해 줘.”
이제 확인해야 할 것이 많아졌습니다.
먼저 이번 주말 날씨를 확인해야 합니다.
비가 온다면 실내 장소를 찾아야 합니다.
각 장소의 가격도 확인해야 합니다.
위치도 확인해야 합니다.
주말 운영 여부도 확인해야 할 수 있습니다.
좋아 보이는 장소를 하나 발견했다고 해서 바로 추천할 수 없는 것입니다.
예를 들어 첫 번째 장소는 실내이지만 가격이 3만 원일 수 있습니다.
그러면 조건에서 탈락합니다.
두 번째 장소는 가격도 저렴하고 실내이지만 이번 주말에 휴관할 수 있습니다.
이 장소도 추천하기 어렵습니다.
세 번째 장소는 실내이고, 가격도 2만 원 이하이며, 주말에도 운영하고, 지하철역에서도 가깝습니다.
그제야 “사용자의 조건을 만족하는 장소를 찾았다.”라고 판단할 수 있습니다.
이 과정에서 AI는 단순히 정보를 가져오는 역할만 하는 것이 아닙니다.
찾은 정보가 사용자의 조건에 맞는지 확인하고, 부족한 정보가 무엇인지 판단하면서 다음 검색을 이어가는 역할을 하게 됩니다.
결국 차이는 ‘검색’보다 ‘판단’에 있습니다
처음 Agentic RAG라는 이름을 들으면 굉장히 복잡한 기술처럼 느껴질 수 있습니다.
하지만 일반 RAG와 비교하면 핵심은 생각보다 간단합니다.
일반적인 RAG의 핵심 질문은 “관련된 자료가 어디에 있을까?”에 가깝습니다.
Agentic RAG에서는 여기에 질문이 몇 가지 더 추가됩니다.
“찾은 자료로 충분할까?”
“아직 모르는 것이 무엇일까?”
“그렇다면 다음에는 무엇을 찾아야 할까?”
그리고 필요한 정보를 충분히 찾을 때까지 이러한 과정을 반복할 수 있습니다.
저는 그래서 Agentic RAG를 단순히 RAG보다 검색을 많이 하는 기술이라고 생각하기보다는, AI가 검색 과정에서 다음 행동을 판단할 수 있도록 확장한 RAG라고 이해하는 것이 좋다고 생각합니다. 우리가 여행 장소를 찾을 때 첫 번째 검색 결과만 보고 바로 결정하지 않는 것처럼 말입니다. 날씨를 보고, 장소를 찾아보고, 가격을 확인하고, 운영시간을 살펴보고, 조건에 맞지 않으면 다른 장소를 찾아봅니다.
그리고 모든 조건을 만족하는 장소를 찾았을 때 검색을 멈춥니다.
Agentic RAG 역시 이와 비슷합니다.
찾는다 → 확인한다 → 부족하면 다시 찾는다 → 충분하면 답한다.
이 간단한 흐름이 일반적인 RAG와 Agentic RAG를 구분하는 가장 중요한 차이입니다.
그렇다면 Agentic RAG는 언제 필요할까요?
지금까지 내용을 보면 Agentic RAG가 일반적인 RAG보다 더 발전된 기술처럼 느껴질 수 있습니다.
그렇다면 모든 AI 검색에 Agentic RAG를 사용하면 더 좋은 결과를 얻을 수 있을까요?
꼭 그렇지는 않습니다.
아주 간단한 질문이라면 굳이 여러 번 검색하고 판단할 필요가 없습니다.
예를 들어 AI에게 “대한민국의 수도는 어디야?”라고 질문했다고 생각해 보겠습니다.
답은 서울입니다.
이런 질문은 하나의 명확한 사실을 찾으면 끝납니다.
굳이 서울이 맞는지 다시 검색하고, 다른 자료를 비교하고, 또 다른 검색어를 만들어 조사할 필요가 없습니다.
하지만 질문이 조금만 복잡해지면 이야기가 달라집니다.
예를 들어 다음과 같은 질문은 어떨까요?
“이번 주말에 친구 3명이서 서울에서 놀 건데, 비가 와도 괜찮고, 한 사람당 3만 원 이하로 즐길 수 있으며, 저녁까지 시간을 보낼 수 있는 코스를 만들어 줘.”
이제 단순한 검색 한 번으로 답하기 어려워집니다.
먼저 이번 주말 날씨를 확인해야 합니다.
비가 온다면 실내에서 즐길 수 있는 장소를 찾아야 합니다.
친구 3명이 함께 가기 좋은지도 확인해야 합니다.
가격도 알아봐야 합니다.
한 곳만 추천하는 것이 아니라 하루 동안 이동할 수 있는 코스를 만들려면 장소 사이의 거리도 고려해야 합니다.
운영시간도 확인해야 합니다.
이렇게 여러 조건을 동시에 만족해야 하는 질문에서는 Agentic RAG와 같은 방식이 유용할 수 있습니다.
AI가 하나의 정보를 찾고 끝나는 것이 아니라 필요한 정보를 하나씩 확인하면서 최종 결과를 만들어 갈 수 있기 때문입니다.
여러 제품을 비교할 때도 활용할 수 있습니다
우리가 물건을 구매할 때도 비슷한 과정을 거칩니다.
예를 들어 노트북을 구매하려고 AI에게 이렇게 질문했다고 생각해 보겠습니다.
“대학생이 들고 다니기 좋고, 배터리가 오래가면서 영상 편집도 가능한 노트북을 추천해 줘.”
단순히 인기 있는 노트북 목록을 가져오는 것만으로는 좋은 답변을 만들기 어렵습니다.
먼저 어떤 제품들이 있는지 찾아야 합니다.
제품의 무게를 확인해야 합니다.
배터리 사용 시간도 확인해야 합니다.
영상 편집에 필요한 성능을 갖추고 있는지도 살펴봐야 합니다.
가격까지 조건에 들어간다면 확인해야 할 정보가 더 많아집니다.
첫 번째 제품은 성능이 좋지만 너무 무거울 수 있습니다.
두 번째 제품은 가볍지만 영상 편집 성능이 부족할 수 있습니다.
세 번째 제품은 모든 조건을 만족하지만 예산을 초과할 수도 있습니다.
그러면 AI는 다른 제품을 다시 찾아봐야 합니다.
즉, 제품 찾기 → 조건 확인 → 비교 → 조건에 맞지 않으면 다른 제품 찾기라는 과정이 필요합니다.
이 역시 Agentic RAG의 아이디어와 잘 어울리는 상황입니다.
자료 조사를 할 때는 더욱 유용할 수 있습니다
학교 과제를 작성하는 상황도 생각해 볼 수 있습니다.
AI에게 “SNS가 대학생의 소비 습관에 어떤 영향을 주는지 조사해 줘.”라고 요청했다고 생각해 보겠습니다.
이 질문은 검색 결과 하나만으로 좋은 답을 만들기 어렵습니다.
관련 연구 자료를 찾아야 합니다.
SNS 광고와 소비 행동의 관계도 살펴봐야 합니다.
실제 대학생을 대상으로 한 조사 결과가 있는지도 찾아볼 수 있습니다.
자료마다 주장하는 내용이 다르다면 여러 자료를 비교해야 합니다.
그리고 조사하다가 새로운 사실을 발견할 수도 있습니다.
예를 들어 SNS 전체보다 인플루언서 콘텐츠가 구매 결정에 더 큰 영향을 준다는 연구를 발견했다고 생각해 보겠습니다.
그러면 새로운 질문이 생깁니다.
“그렇다면 인플루언서 콘텐츠는 대학생의 구매 결정에 어떤 영향을 줄까?”
AI는 이 부분을 추가로 찾아볼 수 있습니다.
즉, 자료를 찾는 과정에서 새로운 질문이 생기고, 그 질문을 다시 조사하면서 처음보다 더 깊은 결과를 만들어 가는 것입니다.
사람이 과제를 위해 여러 논문과 자료를 찾아보는 과정과 상당히 비슷합니다.
최신 정보가 중요한 질문에서도 도움이 될 수 있습니다
정보가 계속 변하는 분야에서도 여러 자료를 확인하는 과정이 중요합니다.
예를 들어 “요즘 사람들이 가장 많이 사용하는 생성형 AI 서비스들은 어떤 특징이 있어?”라는 질문을 생각해 보겠습니다.
AI 서비스는 빠르게 변화합니다. 새로운 기능이 추가되기도 하고, 가격 정책이 바뀌기도 하며, 새로운 서비스가 등장하기도 합니다.
따라서 예전에 알고 있던 정보만으로 답하면 현재 상황과 맞지 않을 수 있습니다.
이럴 때는 최신 자료를 찾아보고, 각 서비스의 공식 정보도 확인하고, 필요하다면 여러 자료를 비교해야 합니다.
한 자료에서 충분한 정보를 찾지 못했다면 다른 자료를 추가로 확인할 수도 있습니다.
이처럼 최신성과 여러 근거가 동시에 중요한 질문에서도 Agentic RAG와 같은 검색 방식이 의미를 가질 수 있습니다.
간단한 질문보다 ‘조사가 필요한 질문’에 잘 어울립니다
여기까지 살펴보면 Agentic RAG가 어떤 상황에서 필요한지 하나의 공통점을 발견할 수 있습니다.
단순히 정답 하나를 찾는 질문보다 여러 정보를 조사해서 결론을 만들어야 하는 질문에 더 잘 어울린다는 것입니다.
예를 들어 “에펠탑은 어디에 있어?”라는 질문과 “프랑스 여행을 처음 가는데 100만 원의 예산으로 3박 4일 여행 계획을 만들어 줘.”라는 질문은 완전히 다릅니다.
첫 번째 질문은 하나의 정보를 찾으면 끝납니다.
하지만 두 번째 질문에서는 항공편, 숙박, 관광지, 이동 방법, 가격, 운영시간 등 여러 정보를 확인해야 합니다.
그리고 처음 세운 계획이 예산을 넘는다면 다시 수정해야 합니다.
이런 문제에서는 단순히 검색하는 능력보다 검색한 결과를 보고 다음 행동을 결정하는 능력이 중요해집니다.
저는 그래서 Agentic RAG가 필요한 상황을 아주 간단하게 구분하면 좋다고 생각합니다.
“한 번 찾아보면 알 수 있는가?”
그렇다면 일반적인 검색이나 RAG로도 충분할 수 있습니다.
반대로 “여러 정보를 찾아보고 비교하고, 부족하면 다시 조사해야 하는가?”
그렇다면 Agentic RAG가 더욱 유용할 수 있습니다.
결국 Agentic RAG의 목적은 AI가 무조건 더 많은 검색을 하도록 만드는 것이 아닙니다.
필요한 만큼 찾아보고, 충분하면 멈추도록 만드는 것입니다.
사람이 여행을 계획하거나 제품을 비교하거나 과제를 조사할 때처럼 말입니다.
AI가 단순히 정보를 가져오는 것을 넘어 필요한 정보를 하나씩 찾아가며 문제를 해결하도록 만드는 것.
이것이 Agentic RAG가 특히 복잡한 질문에서 주목받는 이유라고 볼 수 있습니다.
Agentic RAG에도 단점이 있을까요?
지금까지 살펴본 Agentic RAG는 상당히 똑똑한 검색 방법처럼 보입니다.
처음 찾은 정보가 부족하면 다시 찾아보고, 여러 자료를 비교하고, 필요한 정보가 충분한지 확인한 뒤 최종적으로 답변을 만들어 주기 때문입니다.
그렇다면 모든 AI 검색을 Agentic RAG 방식으로 만들면 더 좋은 결과를 얻을 수 있을까요?
꼭 그렇지는 않습니다.
Agentic RAG는 여러 번 검색하고 판단할 수 있다는 장점이 있지만, 바로 그 특징 때문에 생기는 단점도 있습니다.
가장 쉽게 생각할 수 있는 것이 시간입니다.
예를 들어 친구에게 “학교 앞에 맛있는 떡볶이집 어디 있어?”라고 물어봤다고 생각해 보겠습니다.
친구가 알고 있는 괜찮은 가게 하나를 바로 알려주면 몇 초 만에 대화가 끝납니다.
그런데 친구가 갑자기 “잠깐만.”이라고 말한 뒤 인터넷에서 떡볶이집을 검색합니다.
첫 번째 검색 결과를 확인합니다.
리뷰를 찾아봅니다.
가격을 비교합니다.
다른 떡볶이집도 검색합니다.
최근 후기까지 확인합니다.
그리고 10분 뒤에야
“여기가 제일 괜찮은 것 같아.”
라고 말한다면 어떨까요?
물론 더 꼼꼼한 답변을 받을 수는 있습니다.
하지만 우리가 원했던 것은 그렇게 복잡한 조사가 아니었을 수도 있습니다.
Agentic RAG도 비슷합니다.
여러 번 검색하면 답변이 느려질 수 있습니다
일반적인 RAG에서는 필요한 자료를 한 번 검색한 뒤 바로 답변을 만들 수 있습니다.
하지만 Agentic RAG에서는 검색 결과를 확인하고, 정보가 충분한지 판단하고, 부족하다면 다시 검색하고, 새로운 결과를 다시 확인할 수 있습니다.
예를 들어 여행 장소를 추천받는다고 생각해 보겠습니다.
AI가 먼저 장소를 찾습니다.
그다음 운영시간을 확인합니다.
가격을 확인합니다.
날씨를 확인합니다.
필요하다면 다른 장소까지 다시 찾아봅니다.
사용자 입장에서는 더 꼼꼼한 결과를 받을 수 있지만 그만큼 답변을 받기까지 시간이 더 필요할 수 있습니다.
특히 확인해야 할 조건이 많을수록 검색 과정이 길어질 수 있습니다.
그래서 모든 질문에서 무조건 많은 정보를 확인하는 것이 좋은 것은 아닙니다.
더 많은 검색은 더 많은 비용으로 이어질 수도 있습니다
AI가 한 번 답변을 만드는 것과 여러 번 검색하고 판단하는 것은 필요한 작업량이 다릅니다.
Agentic RAG에서는 AI가 검색 결과를 읽어야 합니다.
그리고 “이 정보로 충분할까?”를 판단해야 합니다.
부족하면 새로운 검색 방법을 생각하고 다시 자료를 찾아야 합니다.
새로운 자료를 읽은 뒤 다시 판단합니다.
이러한 과정이 반복되면 자연스럽게 AI가 수행해야 하는 작업도 많아집니다.
쉽게 생각하면 사람에게 일을 맡기는 것과 비슷합니다.
한 번 검색해서 알려달라고 하는 것과 “자료를 찾아보고, 다른 자료와 비교하고, 부족하면 다시 조사해서 최종 보고서를 만들어 줘.”
라고 요청하는 것은 필요한 작업량이 다릅니다.
AI 역시 마찬가지입니다.
검색과 판단이 반복될수록 더 많은 연산이나 외부 서비스 호출이 필요할 수 있고, AI 서비스를 운영하는 입장에서는 비용이 증가할 수 있습니다.
AI가 엉뚱한 방향으로 찾아갈 수도 있습니다
Agentic RAG에서 특히 중요한 부분입니다.
AI가 스스로 다음에 무엇을 검색할지 판단한다고 해서 그 판단이 항상 정확한 것은 아닙니다.
예를 들어 사용자가
“친구와 조용하게 이야기할 수 있는 카페를 추천해 줘.”라고 요청했다고 생각해 보겠습니다.
AI가 처음 검색하면서 “인기 있는 카페를 찾으면 되겠네.”라고 잘못 판단할 수도 있습니다.
그러면 유명한 카페를 검색합니다.
SNS에서 인기 있는 장소를 찾습니다.
방문자가 많은 카페를 비교합니다.
하지만 사용자가 원했던 것은 인기 있는 카페가 아니라 조용한 카페였습니다.
검색은 열심히 했지만 처음부터 방향을 잘못 잡은 것입니다.
Agentic RAG에서도 비슷한 문제가 발생할 수 있습니다.
처음 질문을 잘못 이해하면 잘못된 내용을 검색할 수 있습니다.
그리고 그 검색 결과를 바탕으로 다시 새로운 검색을 수행하면 점점 사용자가 원했던 방향에서 멀어질 수도 있습니다.
그래서 스스로 검색한다는 것이 곧 항상 정확하게 검색한다는 뜻은 아닙니다.
너무 많이 찾는 것도 문제가 될 수 있습니다
또 하나 재미있는 문제가 있습니다.
언제 검색을 멈춰야 할까요?
인터넷에는 거의 끝없이 많은 정보가 있습니다.
한 자료를 찾으면 또 다른 자료가 연결되어 있고, 그 자료를 읽으면 새로운 궁금증이 생길 수 있습니다.
여행 장소 하나를 찾는다고 생각해 보겠습니다.
장소를 찾았습니다.
운영시간을 확인했습니다.
가격도 확인했습니다.
여기까지만 해도 충분할 수 있습니다.
그런데 계속해서
주변 식당까지 찾아보고,
최근 모든 후기를 확인하고,
교통 상황을 조사하고,
날씨를 다시 확인하고,
근처 다른 장소까지 비교한다면
검색이 끝없이 이어질 수 있습니다.
그래서 Agentic RAG에서는 필요한 정보를 충분히 확보했을 때 검색을 멈추는 것도 중요합니다.
더 많이 찾는다고 항상 더 좋은 답변이 만들어지는 것은 아니기 때문입니다.
결국 중요한 것은 필요한 만큼 사용하는 것입니다
Agentic RAG의 장점과 단점을 함께 살펴보면 한 가지 중요한 사실을 알 수 있습니다.
복잡한 기술을 사용한다고 항상 더 좋은 AI가 되는 것은 아닙니다.
간단한 질문에는 간단한 방법이 더 좋을 수 있습니다.
예를 들어 “에펠탑은 어느 나라에 있어?”라는 질문에 AI가 여러 웹사이트를 검색하고 서로 비교할 필요는 없습니다.
반대로 “처음 유럽 여행을 가는데 예산과 이동 시간을 고려해서 7일 여행 계획을 만들어 줘.”라는 질문이라면 여러 정보를 확인하고 계획을 수정하는 과정이 도움이 될 수 있습니다.
결국 Agentic RAG를 잘 활용하려면 “이 질문은 한 번의 검색으로 충분한가?”를 생각해 보는 것이 중요합니다.
한 번의 검색으로 충분하다면 일반적인 RAG가 더 빠르고 효율적일 수 있습니다.
하지만 여러 자료를 찾아야 하고, 조건을 비교해야 하고, 처음 찾은 정보에 따라 다음에 무엇을 조사할지가 달라지는 문제라면 Agentic RAG의 장점이 더욱 커질 수 있습니다.
저는 그래서 Agentic RAG를 무조건 기존 RAG보다 좋은 기술이라고 생각하기보다는 조금 더 복잡한 조사가 필요할 때 꺼내 사용할 수 있는 방법이라고 이해하는 것이 좋다고 생각합니다.
필요한 정보를 찾고, 찾은 정보가 충분한지 확인하고, 부족하면 다시 찾아보고, 충분해졌다면 멈추는 것.
결국 좋은 Agentic RAG는 가장 많이 검색하는 AI가 아니라, 필요한 만큼 제대로 검색할 수 있는 AI라고 볼 수 있습니다.
Agentic RAG가 발전한다면? : ‘무엇을 검색할지’까지 AI가 생각하는 방향으로 발전합니다
지금까지 우리는 궁금한 것이 생기면 직접 검색하는 데 익숙했습니다.
지금까지 검색 도구의 역할은 대부분 정보를 보여주는 것이었습니다.
검색 결과를 보여주면 어떤 자료를 읽을지, 무엇을 추가로 검색할지, 어떤 정보를 믿을지는 사람이 직접 판단했습니다.
하지만 Agentic RAG의 아이디어가 발전하면 AI의 역할은 조금 달라질 수 있습니다.
단순히 자료를 찾아주는 것에서 한 단계 더 나아가 사용자의 목표를 해결하기 위해 필요한 정보를 찾아가는 역할을 할 수 있기 때문입니다.
예를 들어 AI에게 “다음 주말에 친구들과 부산으로 1박 2일 여행을 가려고 하는데 1인당 20만 원 안에서 계획을 만들어 줘.”
라고 요청했다고 생각해 보겠습니다.
AI는 단순히 부산 여행지를 검색해서 몇 개 보여주는 것으로 끝내지 않을 수 있습니다.
먼저 무엇을 알아봐야 하는지 생각합니다.
숙박비는 얼마나 필요한지, 어떤 관광지를 갈 수 있는지, 이동에는 얼마나 시간이 걸리는지, 예산 안에서 가능한지 등을 하나씩 확인합니다.
그런데 처음 만든 계획의 비용을 계산했더니 25만 원이 나왔다고 생각해 보겠습니다.
그러면 계획을 그대로 사용자에게 보여주는 대신 “예산을 초과했으니 다른 숙소를 찾아봐야겠다.”라고 판단할 수 있습니다.
조금 더 저렴한 숙소를 다시 찾습니다.
새로운 숙소를 선택했더니 이번에는 관광지와 너무 멀리 떨어져 있습니다.
그러면 다시 다른 숙소를 찾아볼 수 있습니다.
이렇게 찾아보고 → 확인하고 → 조건에 맞지 않으면 다시 찾아보는 과정을 반복하면서 사용자의 목표에 가까운 결과를 만들어 가는 것입니다. 기존 검색에서 중요한 것은 우리가 좋은 검색어를 입력하는 것이었습니다.
무엇을 알고 싶은지 사람이 생각하고 검색어를 직접 만들어야 했습니다.
하지만 실제 문제는 항상 하나의 검색어로 해결되지 않습니다.
예를 들어 “나에게 맞는 노트북을 추천해 줘.”라는 목표가 있다고 생각해 보겠습니다.
좋은 제품을 찾으려면 여러 가지를 알아야 합니다. 사용 목적은 무엇인지, 필요한 성능은 어느 정도인지, 예산은 얼마인지, 휴대성이 중요한지, 배터리는 얼마나 오래가야 하는지 등을 확인해야 합니다.
Agentic RAG에서는 사용자의 최종 목표를 바탕으로 어떤 정보를 먼저 찾아야 하는지 판단하는 과정을 만들 수 있습니다.
그리고 첫 번째 검색 결과에서 새로운 정보가 발견되면 다음 검색도 달라질 수 있습니다.
즉, 사람이 검색 과정을 하나하나 지정하기보다 AI가 목표를 기준으로 필요한 정보를 하나씩 찾아가는 방향입니다.
Agentic RAG가 특히 주목받는 이유 중 하나는 AI Agent와 잘 연결될 수 있기 때문입니다.
AI Agent는 사용자가 준 목표를 바탕으로 여러 작업을 수행하도록 만들어진 AI 시스템입니다.
예를 들어 사용자가 “이번 여행 계획을 만들어 줘.”라고 요청하면 AI Agent가 필요한 작업을 나누고, Agentic RAG를 이용해 필요한 정보를 찾고, 찾은 내용을 비교한 뒤, 최종 계획을 만들어 줄 수 있습니다.
여기에서 Agentic RAG는 AI Agent가 세상의 정보를 확인할 수 있도록 도와주는 역할을 할 수 있습니다.
AI Agent가 “다음에는 무엇을 해야 하지?”를 판단한다면, Agentic RAG는 “그 일을 하기 위해 어떤 정보를 더 찾아야 하지?”
라는 부분과 연결되는 것입니다.
그래서 앞으로 AI가 단순히 질문에 답하는 챗봇을 넘어 여러 단계의 업무를 수행하는 방향으로 발전할수록, 필요한 정보를 적절하게 찾아오는 능력 역시 중요해질 수 있습니다.
저는 Agentic RAG의 변화를 이 한 문장으로 생각하면 가장 이해하기 쉽다고 생각합니다.
“검색해 주는 AI에서, 조사해 주는 AI로.”
기존 RAG도 AI의 활용 범위를 크게 넓혀 주었습니다.
AI가 자신이 알고 있는 내용만으로 답하는 것이 아니라 외부 자료를 찾아 참고할 수 있게 되었기 때문입니다.
Agentic RAG는 여기에서 한 단계 더 나아갑니다.
처음 찾은 자료가 충분한지 확인하고, 부족하면 다른 자료를 찾아보고, 여러 조건을 비교하고, 필요한 정보를 충분히 확보하면 최종 답변을 만드는 것입니다.
사람이 인터넷에서 제대로 자료를 조사할 때 하는 행동과 조금씩 비슷해지는 것입니다.
마무리
처음 Agentic RAG라는 이름을 보면 굉장히 어려운 AI 기술처럼 느껴질 수 있습니다.
하지만 핵심만 보면 생각보다 간단합니다.
기존 RAG는 AI가 외부에서 필요한 정보를 찾아볼 수 있도록 만들어 주는 기술입니다.
Agentic RAG는 여기에 판단하는 과정을 추가한 것이라고 생각하면 이해하기 쉽습니다.
찾아봤는데 충분하다면 답합니다.
부족하다면 다시 찾아봅니다.
다른 자료가 필요하다면 다른 곳을 확인합니다.
여러 정보가 있다면 비교해 봅니다.
그리고 사용자의 질문에 답할 만큼 충분한 정보를 모았다고 판단하면 검색을 멈추고 최종 답변을 만듭니다.
즉, RAG는 ‘찾아보고 답하는 AI’라면, Agentic RAG는 ‘찾아보고, 생각하고, 부족하면 다시 찾아보는 AI’에 가깝습니다.
이 차이는 작아 보이지만 AI가 해결할 수 있는 문제의 범위를 크게 넓힐 수 있습니다.
하나의 정보만 필요한 간단한 질문이라면 기존 RAG만으로도 충분할 수 있습니다.
하지만 여행 계획을 만들거나, 여러 제품을 비교하거나, 학교 과제를 조사하거나, 여러 조건을 만족하는 정보를 찾아야 하는 것처럼 한 번의 검색만으로 해결하기 어려운 문제에서는 Agentic RAG와 같은 방식이 더욱 유용해질 수 있습니다.
결국 Agentic RAG의 핵심은 더 많이 검색하는 것이 아닙니다.
필요한 정보를 찾고, 지금 가진 정보가 충분한지 판단하고, 부족한 만큼 다시 찾아가는 것입니다.
우리가 인터넷에서 무언가를 제대로 조사할 때 하는 것처럼 말입니다.
앞으로 AI가 단순히 질문에 답하는 도구를 넘어 우리를 대신해 복잡한 작업을 수행하는 Agent로 발전한다면, 스스로 필요한 정보를 찾아가며 조사하는 능력은 더욱 중요해질 것입니다.
Agentic RAG는 바로 그 변화를 이해할 수 있는 중요한 기술 중 하나입니다.