요약
- 원제(블로그 표기) "Google ML Bootcamp 회고: Gemma-2B로 금융 자문 챗봇 만들기" — 파일명 금지 문자(:)만 치환. 게시일 2024-10-28 · slug
google-ml-bootcamp · 카테고리 "AI · 머신러닝 공부 / 부트캠프 · LLM" · 한국어·영어 병기 - 2024년 6월~10월 5개월간 Google Developers Group 주최 Google Machine Learning Bootcamp에 참여한 회고. 초반 중고차 가격 예측 대회(Scikit-learn·XGBoost·LightGBM, Grid Search·Bayesian Optimization)에서 기본기를 다졌다.
- 마지막 Gemma Sprint에서 gemma-2-2b-it 기반 사용자 프로필 맞춤 금융 자문 챗봇을 만들었다. Kaggle T4 환경의 OOM을 4-bit NF4 양자화(가중치 메모리 약 75% 절감)와 LoRA(r=64, alpha=16, 학습 파라미터 약 0.05%)로 넘겼다.
- SFTTrainer로 3 epoch 학습 후 LoRA 가중치를 병합해 독립 모델로 마무리했다.
- 배운 점: 모델 크기보다 데이터·프롬프트 설계가 결과를 좌우했고, 개인 GPU 환경에서는 LoRA가 현실적인 선택이었다.
등장하는 것
- Google ML Bootcamp 2024 — 글의 주제인 부트캠프(수료)
- financial_advisor — Gemma Sprint 결과물(금융 자문 챗봇)
- Google — Gemma 모델·주최 커뮤니티(Google Developers Group)
- Kaggle — 학습 환경(Kaggle Notebook, T4)
연결
- Writing · Credentials · Projects
- 원자 노트: 모델 크기보다 데이터·프롬프트 설계가 결과를 좌우한다 — 개인 GPU에서는 LoRA가 현실적 선택이다 · Q — Google ML Bootcamp의 금융 챗봇이 financial_advisor와 같은 프로젝트인가
- 개념: 4-bit 양자화 (NF4) · Gemma-2B · LightGBM · LoRA·PEFT · XGBoost · i18n 다국어 · 기술 블로그 운영 · 파인튜닝 (SFT) · 프롬프트 설계 · 하이퍼파라미터 튜닝