신입의 첫 미션

"ChatGPT로 회사 내규 챗봇 만들어봐. 2주면 되지?"

팀장님의 첫 미션이다. ChatGPT API 연결하고, "회사 연차 정책이 뭐야?" 물어봤다.

틀렸다. 우리 회사는 입사 첫 날부터 월차가 발생한다. ChatGPT는 우리 회사 규정을 모른다.

---

LLM의 치명적 한계

질문	기대 답변	ChatGPT 답변	문제
"우리 회사 연차는?"	"입사일부터 월 1일"	"일반적으로 15일..."	우리 회사 모름
"작년 매출이 얼마야?"	"1,234억원"	"저는 그 정보가 없습니다"	최신 정보 없음
"김철수 팀장 연락처?"	"010-1234-5678"	"개인정보라 알 수 없습니다"	내부 정보 없음

ChatGPT는 2023년까지의 인터넷 정보만 안다. 우리 회사, 최신 뉴스, 비공개 문서는 절대 모른다.

---

그래서 RAG가 필요하다

RAG = Retrieval-Augmented Generation (검색 증강 생성)

LLM에게 우리 문서를 먼저 보여주고 답하게 하는 기술이다.

---

오늘 배울 것

2주 후, 팀장님께 완성된 챗봇을 보여줄 수 있을까? 시작해보자.