...
2시간 이내에 다룰 수 있는 범위는 다 다뤄 보는게 목표. 설명이랑 실습이 자연스럽게 연계되어야 함. 시간 관계를 고려해서 실습 데모는 영상으로 미리 만들어서 재생하는 것으로 시간 맞춤.
아젠다 - 2시간
- RAG가 필요한 이유
- RAG의 장점으로는 답변을 생성하는 과정에서 외부 정보 활용이 가능하다는 점(확장성),
- 사용자에게 더 맞춤화된 답변을 제공할 수 있다는 점(유연성 및 확장성),
- 그리고 검증 가능한 출처를 기반으로 답변을 제공해 할루시네이션을 최소화할 수 있는 점(정확성) 등이 있습니다.
- RAG 구성하는 방법
- 단계별 실전 데모
- 데이터 수집 및 색인화
- 샘플 데이터 수집
- 색인화
- 테스트 - API 테스트하기
- 심화 과정 - 데이터에 따라서 접근 방법: https://github.com/HyounsooKim/azure-openai-samples-kr/blob/main/quick_start/09_LLM_rag_demo.ipynb
- 외부 사이트로부터 검색 방법 - Bing Search API 활용
- 데이터가 있을 때 색인화 방법
- PDF로부터 색인화 방법
- Prompt Flow를 활용한 Function Calling 기능
- LLMOps
- 서비스 만들기
- 대량 테스트
- 심화 과정 - DevOps
- 도커 생성
- 도커 배포
- 원모어 씽
- 청킹 전략!
- 살아있는 정보를 기반으로 실시간 업데이트는 어떻게?
- 데이터 수집 및 색인화
...