ChatFoodie

푸디 AI는 KoAlpaca-polyglot-5.8B의 베이스 모델 을 LoRA 방식으로 파인튜닝하여 만든 Local LLM 기반의 음식 추천 챗봇입니다. SNS 대화 데이터(AI hub)와 Wikipedia의 음식 정보를 바탕으로 GPT를 사용한 self-instruct 학습을 진행했으며, 최종적으로 8,000개의 학습 데이터를 통해 모델을 완성했습니다.

저는 프로젝트 리더로서 팀을 구성하고, AI 모델 연구와 파인튜닝 작업을 주도했습니다. 특히 한국어 자료가 부족한 시점에서 LLM 파인튜닝과 관련된 다양한 오픈소스 프로젝트(text-generation-webui, fastchat, nanoGPT, llama.cpp 등)을 연구하고 적용하는 과정에서 많은 기술적 성장을 이루었습니다. 이 경험을 통해 새로운 기술을 학습하는 자신감을 얻게 되었습니다.

프로젝트에서는 Spring Boot 기반의 서버 개발과 AI 응답 처리 시스템을 설계하고 구현하였습니다. 팀원들의 코드에 대한 코드 리뷰를 진행하며 코드 품질을 유지하고, 프로젝트의 모든 코드가 원활하게 통합되도록 병합 작업을 주도했습니다.

현재 chatfoodie.net 도메인을 통해 배포되고 있으며, 구글과 네이버 검색엔진에 등록되어있습니다.

2023년 부산대학교 정보컴퓨터공학부 졸업과제

🔧 사용 기술

🗄️️ ERD

System Structure

🔗 둘러보기

• 서비스 전체 코드
• AI 챗봇 웹소켓 API 서버
• 챗봇 학습 데이터 세트 8,000개
• 챗봇 LoRA 모델
• 푸디 AI QLoRA 파인튜닝 예제
• 코랩을 사용한 챗봇 websocket api 배포 예제

👥 팀원