LLM은 왜 DB를 직접 읽지 못할까? — RAG와 MCP로 ‘읽는 AI’에서 ‘일하는 AI’로

문제: 똑똑한 AI인데 왜 아무것도 못 할까?

LLM(GPT 등)은 자연스러운 답변을 생성하지만, 실제 서비스에 적용하려고 하면 다음과 같은 한계를 마주하게 된다.

• 최신 데이터를 모른다
• 내부 DB에 접근할 수 없다
• API를 직접 호출할 수 없다

예를 들어, 게임 데이터 분석 시스템을 만든다고 가정해보자.

“최근 7일간 이탈률이 높은 유저 유형을 분석해줘”

 

이 질문에 대해 LLM은 그럴듯한 답변을 생성할 수는 있지만,
실제 게임 로그 DB에 접근하지 못하기 때문에 정확한 분석은 불가능하다.

그렇다면! 이 문제는 어떻게 해결할 수 있을까?

2. 해결 방법 1: RAG — “정보를 가져와서 답하게 만들기”

이 문제를 해결하기 위해 등장한 방식이 바로 RAG(Retrieval-Augmented Generation)이다.

RAG는 LLM이 외부 데이터를 참고해서 답변하도록 만드는 구조이다.

 RAG 동작 흐름

1. 사용자가 질문을 입력한다
2. 질문을 벡터(숫자 표현)로 변환한다
   → 텍스트를 의미 기반 숫자로 변환하는 과정
3. 벡터 DB에서 의미가 비슷한 문서를 찾는다
   → 코사인 유사도 기반으로 검색
4. 가장 관련성 높은 문서 Top-k를 선택한다
5. 해당 문서를 LLM에 전달하여 답변을 생성한다

EX) 게임 데이터 예시

게임 로그 데이터가 다음과 같이 쌓여 있다고 가정해보자.

• “유저 A는 3일 연속 접속 후 이탈”
• “유저 B는 과금 후 1일 뒤 이탈”
• “유저 C는 특정 스테이지에서 반복 실패”

질문:

“이탈 패턴이 있는 유저 특징은?”

RAG 동작 과정

1. 질문을 벡터로 변환
2. 유사한 로그 데이터 검색
3. 관련 로그를 LLM에 전달
4. 답 생성

결과

“이탈 유저는 반복 실패, 과금 후 이탈, 특정 구간에서의 피로도가 주요 원인으로 보입니다.”

핵심

RAG는 LLM에게 “지식”을 제공한다.
즉, 학습되지 않은 정보도 실시간으로 참고할 수 있게 된다.

3. RAG의 한계 — “읽기만 가능하다”

하지만 여기서 끝이 아니다.

RAG는 정보를 읽어오는 것(Read)만 가능하다.

 

예를 들어:

“유저 123의 현재 상태를 조회해줘”

 

이 요청은 RAG로 해결할 수 없다.

• DB 조회 X
• API 호출 X
• 실시간 데이터 처리 X

즉, 행동(실행)이 필요한 작업은 불가능하다

4. 해결 방법 2: MCP — “행동하는 AI 만들기”

이 문제를 해결하기 위해 등장한 개념이 MCP(Model Context Protocol)이다.

MCP는 LLM이 외부 시스템을 실제로 “실행”할 수 있도록 만드는 구조이다.

핵심 개념

LLM ↔ 외부 도구(DB, API, 파일)를 연결하는 표준 인터페이스

MCP 동작 흐름

1. 사용자가 요청을 입력한다
2. LLM이 어떤 작업이 필요한지 판단한다
3. 외부 도구(API / DB)를 호출한다
4. 실행 결과를 받아온다
5. 결과를 기반으로 최종 답변을 생성한다

게임 데이터 예시

질문:

“유저 123의 최근 플레이 패턴 분석해줘”

MCP 동작 과정

1. LLM 판단 → “DB 조회 필요”
2. MCP 호출 → get_user_log(user_id=123)
3. DB에서 실제 데이터 조회
4. 결과 기반 분석 수행

결과

“해당 유저는 최근 3일간 접속 시간이 감소했고, 특정 스테이지에서 반복 실패 후 이탈했습니다.”

핵심

MCP는 LLM에게 "행동 능력"을 부여한다.

5. RAG vs MCP 비교

역할	정보 검색	행동 실행
데이터	정적 (문서, 로그)	동적 (DB, API)
목적	답변 보강	시스템 제어
비유	도서관 사서	실행하는 비서

 

핵심 차이

RAG는 “읽기”, MCP는 “행동”이다.

 

6. 함께 사용하는 보완 관계

RAG와 MCP는 경쟁 관계가 아니라 보완 관계이다.

EX) 유저 이탈 분석 시스템

질문:

“이 유저 왜 이탈했어?”

RAG 역할

• 과거 이탈 패턴 검색
• 유사 사례 분석

MCP 역할

• 해당 유저 실제 데이터 조회
• 실시간 상태 확인

최종 결과

“이 유저는 기존 이탈 패턴과 유사하게 특정 스테이지 실패 이후 이탈했으며, 최근 플레이 시간 감소가 주요 원인입니다.”

7. 결론

결국 RAG와 MCP는 단순한 기술이 아니라,
LLM을 실제 서비스에 적용하기 위한 핵심 구조이다.

• RAG → 지식을 제공
• MCP → 행동을 수행

이 두 가지가 결합될 때

AI는 단순한 챗봇이 아니라
실제 업무를 수행하는 시스템으로 확장된다.

한 줄 정리

“RAG는 AI에게 지식을 주고,
MCP는 AI에게 손과 발을 준다.”