본문 바로가기
반응형

llm2

[사이드 프로젝트] #2. RAG 기반 '업무 지식' AI 챗봇 개발기 (3) - RAG 구축 삽질기 RAG(Retrieval-Augmented Generation) 개념을 배우고 예시 코드를 처음 적용했을 때는 정말 쉬워 보였습니다. "이거면 금방 끝나겠네!" 싶었죠.하지만 현실은 역시 만만치 않았습니다.❌ 첫 번째 문제: 부정확한 컨텍스트와 잘린 답변처음에는 간단한 설정으로 시작했습니다.# 초기 설정text_splitter = RecursiveCharacterTextSplitter( chunk_size=250, # 너무 작았음 chunk_overlap=100, separators=["\n## ", "\n### ", "\n\n", "\n", ". ", " ", ""], add_start_index=True,)def retrieve_context(query: str): .. 2025. 10. 29.
[사이드 프로젝트] #2. RAG 기반 '업무 지식' AI 챗봇 개발기 (2) - 챗봇 프로토타입 및 RAG 기본개념정리 10월 20일부터 23일까지 4일간, 사이드 프로젝트의 핵심 기능 중 하나인 ChatGPT 채팅 기능을 완성했습니다. 이번 글에서는 챗봇의 기본 기능을 구현한 과정과 다음 단계인 RAG를 위해 학습한 기술적인 내용들을 정리해 봅니다.1. 챗봇 기본 기능 구현이번 4일간의 작업으로 챗봇의 뼈대를 완성했습니다. 주요 작업 내용은 다음과 같습니다.대화 이어서 하기 (세션 관리)대화 내용 저장 (SQLite DB)이전 대화 목록 불러오기스트리밍 응답 처리Streamlit을 사용하니 챗봇 UI와 기본 로직을 4일 만에 완성할 수 있을 정도로 놀라운 생산성을 보여주었습니다.다만 Streamlit의 특징상 데이터 수정이나 변경이 발생하면 전체 파일을 다시 로드하는 방식이라, 불필요한 리소스 낭비를 막기 위한 적절한 .. 2025. 10. 24.
반응형