본문 바로가기

langchain

Langchain4j와 MongoDB Atlas를 사용하여 Java로 AI 챗봇 구축 1. Introduction최근 몇 년간, 대규모 언어 모델(LLM)을 활용하여 사용자의 질문에 답변하는 AI 챗봇의 인기가 급증했다. 이 튜토리얼에서는 Langchain4j와 MongoDB Atlas를 사용하여 AI 챗봇 웹 애플리케이션을 구축하는 방법을 알아본다.우리의 애플리케이션은 챗봇과 HTTP 엔드포인트를 통해 상호작용하며, 두 가지 주요 흐름을 가진다: 문서 로딩 흐름과 챗봇 흐름이다.이러한 시스템의 전체 아키텍처는 검색 증강 생성(Retrieval-Augmented Generation, RAG) 모델을 기반으로 한다. RAG는 LLM을 외부 지식 베이스와 연결하여 그 능력을 보강하는 기술이다.다음은 RAG 시스템의 일반적인 흐름을 도식화한 것이다.[사용자 질문] -> [질문을 벡터로 변환 (.. 더보기
RAG 기반 검색 시스템 구축 RAG 기반 검색 시스템 구축: Spring Boot, Elasticsearch, LangChain4j, Ollama 활용 0. 이 포스팅을 쓰게된 계기~최근 서비스에 업로드되는 방대한 콘텐츠 속에서 사용자가 원하는 정보를 더욱 쉽고 정확하게 찾아낼 수 있는 방법에 대해 깊이 고민했다. 당근 내가 개발중인 서비스에서 필요로 했기때문인데, 그 해답으로 Spring Boot의 강력한 백엔드 기능과 온디바이스 AI의 프라이버시 및 속도 이점, 그리고 RAG(Retrieval Augmented Generation) 기술의 정확도 높은 정보 검색 능력을 결합한 자연어 기반 콘텐츠 검색 시스템 구축 과정을 구축하기 위한 방향성을 잡았다. 이게 정답은 아니다. 내가 그린 아이디어로 서비스에 적용시켜보는게 목표고 차.. 더보기
Ollama/Llama3/Langchain4j, RAG :유해 콘텐츠 필터링 시스템 구축 서비스를 위한 AI 기반 유해 콘텐츠 필터링 시스템 구축 방안: Ollama/Llama3 및 Langchain4j RAG 활용 내가 리딩중인 서비스에 적용해 보려고 작성한것이나, 다른 많은 개발자 들에게 도움이 되기를 바라는 마음으로 열심히 적어 보려고한다. 좋은 피드백을 주시면 더 좋은 포스팅으로 업데이트해 나가도록 하겠습니다. 1. 서론서비스와 AI 기반 유해 콘텐츠 필터링 기능 도입의 필요성내가리딩 중인 서비스는 지역 기반 소셜 네트워크로서, 사용자가 직접 정보를 찾지 않아도 주변의 중요한 정보나 소식을 자동으로 얻고, 지역 주민 간의 소통을 활성화하며, 로컬 비즈니스 생태계를 조성하여 지역 경제 활성화에 기여하는 가치를 추구한다. 이러한 서비스의 핵심 가치를 지키고 사용자 경험을 향상시키기 위해서.. 더보기