https://github.com/mckaywrigley/chatbot-ui
시작하면 이런 화면으로 시작합니다. Macbook 로컬에 설치하여 실행함.
해당 Repo는 다음과 같이 Azure 또는 openai의 ChatGPT와 구글 검색 엔진을 결합하여 사용할 수 있습니다.
설치는 문서를 그대로 따라하면 사용이 가능하며, Azure를 사용할 경우, .env.local 파일에 다음과 같은 값을 세팅하여 사용해야 합니다.
# Chatbot UI
OPENAI_API_TYPE=azure
OPENAI_API_HOST=https://{xxxx}.openai.azure.com
DEFAULT_MODEL=gpt-35-turbo
OPENAI_API_VERSION=2023-03-15-preview
NEXT_PUBLIC_DEFAULT_SYSTEM_PROMPT=You are ChatGPT, a large language model trained by OpenAI. Follow the user instructions carefully. Respond using markdown.
OPENAI_API_KEY={xxxx}
AZURE_DEPLOYMENT_ID={xxxx}
# Google
GOOGLE_API_KEY={xxxx}
GOOGLE_CSE_ID={xxxx}
구글 검색 엔진을 플러그인으로 확장하여 사용할 경우, pages/api/google.ts 파일에서 azure를 활용할 때의 url과 headers 정보가 누락되어 있기 때문에 정상적으로 동작하지 않는 문제가 아래처럼 있습니다.
https://github.com/mckaywrigley/chatbot-ui/issues/766
이는 /utils/server/index.ts 파일의 azure 분기 코드를 참고해서 수정하면 동작하도록 할 수 있습니다.
다만, 구글 검색 결과가 한글 정보일 때에는 Token 길이와 관련해서 제한 범위를 넘어서는 경우가 발생하는 것으로 추정됩니다.
이를 감안해서 사용하거나 수정하여 사용할 필요가 있습니다.
첫 느낌
Playground를 별도의 웹 UI에서 실행 가능한데 센스있게 최신 정보는 검색을 해 주네!
좋아요!
- 구글 검색 엔진을 플러그인처럼 사용 가능. 요런거 개꿀!
- 작업 내역이 브라우저상에 캐싱. 저장할 수도 있음.
간단히 설치해서 기능적인 부분만 테스트 하면서 체크해 보았으므로, 정확한 정보가 다 기재된 것은 아닐 수 있습니다. 참고해 주세요.