1 day: 120분 + 30분
소개 5분
대상: 컴퓨터 쓸 줄 아는 분들 누구든 가능
Azure OpenAI 트랜드 업데이트 내용 설명 30분
RAG 심플 버전
프롬프트 엔지니어링 설명 40분
Playground를 이용법 설명 5분
- 모델 배포 5분 (모델 이름 안 헷갈리게 실습에서는 동일한 본래 이름 그대로 유지)
- OpenAI 컨텐츠 필터링 기능 해제 신청. (해커톤을 위해서) https://customervoice.microsoft.com/Pages/ResponsePage.aspx?id=v4j5cvGGr0GRqy180BHbR7en2Ais5pxKtso_Pz4b1_xURE01NDY1OUhBRzQ3MkQxMUhZSE1ZUlJKTiQlQCN0PWcu 10분
One more things. - Azure OpenAI on your data
간단한 검색 증강 생성 서비스 구축. 금방 따라 만들어 데모 시연 - 이것만으로도 의미 있음.
더 나은 검색을 위해서는?
색인 정보 추가.
실전 실습
1. Examples - OpenAI API 30분
2. 간단한 시험. https://github.com/microsoft/azure-openai-in-a-day-workshop/blob/main/exercises/exercises.md 20분
3. 자유 테스트: 해커톤 아이디어 기반으로 자유 질문.
2 day: 120분 + 30분
환경 세팅
개발 사이드
VS Code 기반의 개발 언어 위주
- CodeSpace(web, IDE remote) → Git 가입 필수라서 고민, Loacl VC Code (Docker를 또 깔아야할 수...), or Jypyter 환경이 좋으면 그냥 그거...
requirements.txt 코드 수정 필요한 부분 faiss → faiss-cpu==1.7.4
.env 파일 생성
모델 이름 매핑
실행. requirements.txt
임베딩
벡터 DB 저장 및 활용 (Cognitive Search)
microsoft/guidance: LLM을 안전하게 똑똑하게 사용할 수 있는 추가 프롬프트를 사전에 미리 생성하고 질의를 받을 수 있음.
비동기식 개발, DLQ 처리
참고 URL