한국 고객들이 잘 활용할 수 있도록 영상을 제작하고, 활용 방법 설명
환경구축
- RAG 구조를 위한 데이터 구축 (Wikipedia 샘플 활용)
- Azure OpenAI Studio 리소스 생성 및 테스트
- Blob Storage 리소스 생성
- Azure AI Search 구성
- Add your data로 구성 테스트
- CodeSpace를 이용한 Prompt Flow 환경 구축
- CodeSpace 소개
- Prompt Flow 사전 세팅(5분 정도 소요됨)
- Prompt Flow 소개, AI Studio 소개
- Azure OpenAI 연결
샘플 설명
- Web Classification
시나리오 기반 설명
- 수집중
3개의 패키지 추가 필요, 0.2.4 부터 VectorDB가 안나옴.
requirements.txt
pip install keyrings.alt pip install bs4 pip install promptflow-vectordb==0.2.3
search_result_filtering
from promptflow import tool # The inputs section will change based on the arguments of the tool function, after you save the code # Adding type to arguments and return value will help the system show the types properly # Please update the function name/signature per need @tool def my_python_tool(search_result: dict): # print(search_result[0]['original_entity']['text']) # 검색된 여러개의 문서에서 original_entity의 text 부분만 배열로 만들어서 반환 return [entity['original_entity']['text'] for entity in search_result]
generate_answer
system: Summary result for question in Korean. Never use your knowledge and only use the text displayed in ```. If the question asks for a comparison, display it as a table. user: question: {{question}} search_results: ``` {% for item in search_results %} {{item}} {% endfor %} ```
RAG 시나리오 고민중.
- PF 설정
- PF 기반으로 Embedding API 만들기
- 배치를 통해 임베딩 데이터 생성
- 검색엔진에 임베딩 데이터 인덱싱
- 인덱싱 정보를 활용한 검색 API 생성 활용
- 검색 데이터 추가하여 검색 정보 확인