Ollama와 RAG를 활용한 PDF 기반 챗봇 개발이번 포스트에서는 Python으로 Ollama와 RAG(검색 증강 생성)를 결합하여 PDF 문서를 기반으로 한 챗봇을 만드는 방법을 소개하겠습니다.전반적인 프로세스는 아래와 같습니다.PDF 문서 로드텍스트를 청킹(chunking)벡터 데이터베이스에 저장사용자의 질문에 따라 관련 내용을 검색 후 답변진행하기 앞서 Ollama 의 설치가 필요하므로 설치가 되어있지 않은 분들은 아래 게시글을 참고해 주세요.https://god-logger.tistory.com/204 [로컬 LLM 설치 가이드] 내 PC에 나만의 LLM AI 설치하기본 포스팅은 개발 지식이 없으신 분들을 타겟하여 작성하였습니다. 참고 바랍니다.코딩 몰라도 괜찮아요!개발 지식이 없어도, 단계별..
Chatbox란?chatbox는 간단히 말해서 로컬 환경에서 AI 챗봇을 실행하고 대화할 수 있게 해주는 도구입니다. 복잡한 설정 없이도 쉽게 설치해서 사용할 수 있는 게 특징이죠. 특히 오픈소스 모델이나 로컬에서 돌리는 LLM(대규모 언어 모델)을 활용하고 싶을 때 유용하게 쓰입니다. 저 같은 경우는 주로 ollama라는 툴과 연동해서 로컬 LLM을 돌릴 때 chatbox를 사용합니다.이 조합이 정말 편리하더라고요. ChatBox는 브라우저기반의 실행도 가능하지만 클라이언트의 경우 윈도우,맥,우분투 등 어떤 환경에서도 가능합니다. Open-WebUI와의 비교 사실 처음엔 chatbox 대신 docker를 이용해 open-webui를 써봤습니다. open-webui는 UI가 정말 깔끔하고 보기 좋아서 첫..
