원문
번역
There's so much text in today's world, pretty much none of us have enough time to read all the things we wish we had time to. So, one of the most exciting applications I've seen of large language models is to use it to summarize text, and this is something that I'm seeing multiple teams build into multiple software applications. You can do this in the chatGPT web interface. I do this all the time to summarize articles so I can just kind of read the content of many more articles than I previously could, and if you want to do this more programmatically you'll see how to in this lesson. So with that, let's dig into the code to see how you could use this yourself to summarize text. So, let's start off with the same starter code as you saw before of import OpenAI, load the API key, and here's that get completion helper function. I'm going to use as the running example the task of summarizing this product review. Got this panda plush toy for my daughter's birthday, who loves it and takes it everywhere, and so on and so on. If you're building an e-commerce website, and there's just a large volume of reviews, having a tool to summarize the lengthy reviews could give you a way to very quickly glance over more reviews to get a better sense of what all your customers are thinking. So, here's a prompt for generating a summary. Your task is to generate a short summary of a product review from e-commerce website, summarize review below, and so on, in at most 30 words. And so, this is soft and cute, panda plush toy loved by daughter, bit small for the price, arrived early. Not bad, it's a pretty good summary. And as you saw in the previous video, you can also play with things like controlling the character count or the number of sentences to affect the length of this summary.
오늘날 세상에는 너무 많은 텍스트가 있기 때문에 시간이 있었으면 하는 모든 것을 읽을 시간이 충분한 사람은 거의 없습니다. 따라서 대규모 언어 모델에서 본 가장 흥미로운 애플리케이션 중 하나는 이를 사용하여 텍스트를 요약하는 것입니다. 이는 여러 팀이 여러 소프트웨어 애플리케이션으로 빌드하는 것을 보고 있습니다. chatGPT 웹 인터페이스에서 이 작업을 수행할 수 있습니다. 나는 이전에 할 수 있었던 것보다 더 많은 기사의 내용을 읽을 수 있도록 기사를 요약하기 위해 항상 이 작업을 수행합니다. 이 작업을 더 프로그래밍 방식으로 수행하려는 경우 이 강의에서 방법을 확인할 수 있습니다. 이제 코드를 자세히 살펴보고 이를 직접 사용하여 텍스트를 요약하는 방법을 알아보겠습니다. 따라서 이전에 OpenAI 가져오기에서 본 것과 동일한 시작 코드로 시작하고 API 키를 로드하면 완료 도우미 기능을 얻을 수 있습니다. 이 제품 리뷰를 요약하는 작업을 실행 예로 사용하겠습니다. 딸아이의 생일에 판다 봉제 인형을 사서 좋아하고 어디든 가지고 다니는 딸아이 등등. 전자상거래 웹사이트를 구축 중이고 리뷰 양이 많은 경우 긴 리뷰를 요약하는 도구를 사용하면 더 많은 리뷰를 빠르게 훑어보고 모든 고객이 무엇을 더 잘 이해할 수 있는지 확인할 수 있습니다. 생각하고 있습니다. 요약을 생성하라는 메시지가 표시됩니다. 귀하의 작업은 전자상거래 웹사이트에서 제품 리뷰에 대한 짧은 요약을 생성하고 아래에 리뷰를 요약하는 등 최대 30단어로 작성하는 것입니다. 그래서 딸아이가 좋아하는 푹신푹신하고 귀여운 판다인형인데 가격대비 조금 작아서 일찍 도착했습니다. 나쁘지 않습니다. 꽤 좋은 요약입니다. 그리고 이전 동영상에서 본 것처럼 이 요약의 길이에 영향을 미치기 위해 글자 수 또는 문장 수를 제어하는 것과 같은 기능을 가지고 놀 수도 있습니다.
Now, sometimes when creating a summary, if you have a very specific purpose in mind for the summary, for example, if you want to give feedback to the shipping department, you can also modify the prompt to reflect that, so that they can generate a summary that is more applicable to one particular group in your business. So, for example, if I add to give feedback to the shipping department, let's say I change this to, start to focus on any aspects that mention shipping and delivery of the product. And if I run this, then, again you get a summary, but instead of starting off with Soft and Cute Panda Plush Toy, it now focuses on the fact that it arrived a day earlier than expected. And then it still has, you know, other details then. Or as another example, if we aren't trying to give feedback to their shipping department, but let's say we want to give feedback to the pricing department. So the pricing department is responsible to determine the price of the product, and I'm going to tell it to focus on any aspects that are relevant to the price and perceived value. Then, this generates a different summary that it says, maybe the price may be too high for a size. Now in the summaries that I've generated for the shipping department or the pricing department, it focus a bit more on information relevant to those specific departments. And in fact, feel free to pause the video now and maybe ask it to generate information for the product department responsible for the customer experience of the product, or for something else that you think might be interesting to an e-commerce site.
이제 요약을 만들 때 요약에 대해 매우 구체적인 목적을 염두에 두고 있는 경우(예: 배송 부서에 피드백을 제공하려는 경우) 이를 반영하도록 프롬프트를 수정하여 요약을 생성할 수 있습니다. 비즈니스의 특정 그룹에 더 적합한 요약입니다. 예를 들어 배송 부서에 피드백을 제공하기 위해 추가하는 경우 이를 변경하고 제품의 배송 및 배송을 언급하는 모든 측면에 집중하기 시작한다고 가정해 보겠습니다. 그리고 이것을 실행하면 다시 요약이 표시되지만 부드럽고 귀여운 팬더 플러시 장난감으로 시작하는 대신 이제 예상보다 하루 일찍 도착했다는 사실에 초점을 맞춥니다. 그리고 여전히 다른 세부정보가 있습니다. 또는 다른 예로 배송 부서에 피드백을 제공하려는 것이 아니라 가격 책정 부서에 피드백을 제공하고 싶다고 가정해 보겠습니다. 따라서 가격 책정 부서는 제품의 가격을 결정하는 역할을 담당하며 가격 및 인지된 가치와 관련된 모든 측면에 집중하라고 말할 것입니다. 그런 다음 크기에 비해 가격이 너무 높을 수 있다는 다른 요약을 생성합니다. 이제 배송 부서 또는 가격 책정 부서에 대해 생성한 요약에서 특정 부서와 관련된 정보에 좀 더 초점을 맞춥니다. 실제로 지금 동영상을 일시중지하고 제품의 고객 경험을 담당하는 제품 부서 또는 전자상거래 사이트에서 흥미로울 수 있다고 생각하는 다른 것에 대한 정보를 생성하도록 요청할 수 있습니다.
But in these summaries, even though it generated the information relevant to shipping, it had some other information too, which you could decide may or may not be helpful. So, depending on how you want to summarize it, you can also ask it to extract information rather than summarize it. So here's a prompt that says you're tasked to extract relevant information to give feedback to the shipping department. And now it just says, product arrived a day earlier than expected without all of the other information, which was also helpful in a general summary, but less specific to the shipping department if all it wants to know is what happened with the shipping. Lastly, let me just share with you a concrete example for how to use this in a workflow to help summarize multiple reviews to make them easier to read. So, here are a few reviews. This is kind of long, but you know, here's the second review for a standing lamp, need a lamp on the bedroom. Here's a third review for an electric toothbrush. My dental hygienist recommended kind of a long review about the electric toothbrush. This is a review for a blender when they said, so said 17p system on seasonal sale, and so on and so on. This is actually a lot of text. If you want, feel free to pause the video and read through all this text. But what if you want to know what these reviewers wrote without having to stop and read all this in detail?
하지만 이 요약에는 배송과 관련된 정보를 생성했지만 도움이 될 수도 있고 도움이 되지 않을 수도 있는 다른 정보도 포함되어 있습니다. 따라서 요약하려는 방식에 따라 요약하는 대신 정보를 추출하도록 요청할 수도 있습니다. 배송 부서에 피드백을 제공하기 위해 관련 정보를 추출해야 한다는 메시지가 표시됩니다. 그리고 이제는 다른 모든 정보 없이 제품이 예상보다 하루 일찍 도착했다고만 표시됩니다. 이는 일반적인 요약에도 도움이 되었지만 배송 부서에서 알고 싶은 것이 배송에서 일어난 일이라면 덜 구체적이었습니다. 마지막으로 여러 리뷰를 읽기 쉽도록 요약하는 데 도움이 되도록 워크플로에서 이를 사용하는 방법에 대한 구체적인 예를 공유하겠습니다. 그래서 여기 몇 가지 리뷰가 있습니다. 다소 길지만, 스탠딩 램프에 대한 두 번째 리뷰는 침실에 램프가 필요하다는 것입니다. 전동 칫솔에 대한 세 번째 리뷰입니다. 제 치과 위생사는 전동 칫솔에 대해 긴 리뷰를 추천했습니다. 이것은 블렌더에 대한 리뷰입니다. 즉, 시즌 세일 중인 17p 시스템 등이 있습니다. 이것은 실제로 많은 텍스트입니다. 원하는 경우 언제든지 동영상을 일시중지하고 이 텍스트를 모두 읽어보세요. 하지만 이 모든 리뷰어를 멈추고 자세히 읽을 필요 없이 리뷰어가 쓴 내용을 알고 싶다면 어떻게 해야 할까요?
So, I'm going to set review one to be just the product review that we had up there. And I'm going to put all of these reviews into a list. And now, if I implement or loop over the reviews, so, here's my prompt. And here I've asked it to summarize it in at most 20 words. Then let's have it get the response and print it out. And let's run that. And it prints out the first review is that panda toy review, summary review of the lamp, summary review of the toothbrush, and then the blender. And so, if you have a website where you have hundreds of reviews, you can imagine how you might use this to build a dashboard to take huge numbers of reviews, generate short summaries of them so that you or someone else can browse the reviews much more quickly. And then, if they wish, maybe click in to see the original longer review. And this can help you efficiently get a better sense of what all of your customers are thinking. Right? So, that's it for summarizing. And I hope that you can picture, if you have any applications with many pieces of text, how you can use prompts like these to summarize them to help people quickly get a sense of what's in the text, the many pieces of text, and perhaps optionally dig in more if they wish. In the next video, we'll look at another capability of large language models, which is to make inferences using text. For example, what if you had, again, product reviews and you wanted to very quickly get a sense of which product reviews have a positive or a negative sentiment? Let's take a look at how to do that in the next video.
그래서 리뷰 하나를 우리가 거기에 있었던 제품 리뷰로 설정하겠습니다. 그리고 저는 이 모든 리뷰를 목록에 넣을 것입니다. 이제 리뷰를 구현하거나 반복하면 다음과 같은 메시지가 표시됩니다. 그리고 여기에서는 최대 20단어로 요약하도록 요청했습니다. 그런 다음 응답을 받아 출력하도록 합시다. 그리고 그것을 실행합시다. 그리고 첫 번째 리뷰는 그 팬더 장난감 리뷰, 램프 요약 리뷰, 칫솔 요약 리뷰, 믹서기 리뷰입니다. 따라서 수백 개의 리뷰가 있는 웹사이트가 있는 경우 이를 사용하여 엄청난 수의 리뷰를 가져오는 대시보드를 구축하고 자신이나 다른 사람이 리뷰를 많이 탐색할 수 있도록 짧은 요약을 생성하는 방법을 상상할 수 있습니다. 더 빠르게. 그런 다음 원하는 경우 클릭하여 더 긴 원본 리뷰를 볼 수 있습니다. 이를 통해 모든 고객의 생각을 효율적으로 더 잘 이해할 수 있습니다. 오른쪽? 자, 요약하자면 이 정도입니다. 그리고 많은 텍스트가 포함된 애플리케이션이 있는 경우 이러한 프롬프트를 사용하여 사람들이 텍스트 내용, 많은 텍스트 및 아마도 원하는 경우 선택적으로 더 자세히 살펴보세요. 다음 동영상에서는 텍스트를 사용하여 추론하는 대규모 언어 모델의 또 다른 기능을 살펴보겠습니다. 예를 들어 제품 리뷰가 있고 어떤 제품 리뷰가 긍정적이거나 부정적인 감정을 가지고 있는지 매우 빠르게 파악하고 싶다면 어떻게 해야 할까요? 다음 동영상에서 그 방법을 살펴보겠습니다.