1 day: 120분 + 30분
소개 5분
대상: 컴퓨터 쓸 줄 아는 분들 누구든 가능
Azure OpenAI 트랜드 업데이트 내용 설명 30분
RAG 심플 버전
프롬프트 엔지니어링 설명 40분
Playground를 이용법 설명 5분
- 모델 배포 5분 (모델 이름 안 헷갈리게 실습에서는 동일한 본래 이름 그대로 유지)
- OpenAI 컨텐츠 필터링 기능 해제 신청. (해커톤을 위해서) https://customervoice.microsoft.com/Pages/ResponsePage.aspx?id=v4j5cvGGr0GRqy180BHbR7en2Ais5pxKtso_Pz4b1_xURE01NDY1OUhBRzQ3MkQxMUhZSE1ZUlJKTiQlQCN0PWcu 10분
One more things. - Azure OpenAI on your data
간단한 검색 증강 생성 서비스 구축. 금방 따라 만들어 데모 시연 - 이것만으로도 의미 있음.
더 나은 검색을 위해서는?
색인 정보 추가.
실전 실습
1. Examples - OpenAI API 30분
2. 간단한 시험. https://github.com/microsoft/azure-openai-in-a-day-workshop/blob/main/exercises/exercises.md 20분
3. 자유 테스트: 해커톤 아이디어 기반으로 자유 질문.
2 day: 120분 + 30분
환경 세팅
나는 Visual Studio Code를 이미 사용중이고, 내 컴퓨터에 Docker 가 설치되어 있어서, 가상 환경을 띄움. 이건 repo 변경 필요. 모델 이슈가 너무 큼.
- Cognitive Search 연동 실제 데모 - 한글로 준비
- CodeSpace
- Local VS Code
- Git 다운로드
- 코드 몇개 추려서 진행
- 수정해야 하는 부분 확인해줌. - github repo 개선 필요
- embedding api 활용 방법
- 샘플 예제 더 찾아봐야.....
설명 Deck 만들기.
Get started with Docker apps in Visual Studio Code | Microsoft Learn
Azure OpenAI Service embeddings tutorial - Azure OpenAI | Microsoft Learn
테스트1
VS 작업 폴더 생성 후 폴더 오픈
repo clone (그냥 바로 클론이 나을듯... )
그리고 워크스페이스 열어
개발 사이드
VS Code 기반의 개발 언어 위주
- CodeSpace(web, IDE remote) → Git 가입 필수라서 고민, Loacl VC Code (Docker를 또 깔아야할 수...), or Jypyter 환경이 좋으면 그냥 그거...
requirements.txt 코드 수정 필요한 부분 faiss → faiss-cpu==1.7.4
.env 파일 생성
모델 이름 매핑
실행. requirements.txt
임베딩
벡터 DB 저장 및 활용 (Cognitive Search)
microsoft/guidance: LLM을 안전하게 똑똑하게 사용할 수 있는 추가 프롬프트를 사전에 미리 생성하고 질의를 받을 수 있음.
비동기식 개발, DLQ 처리
참고 URL