이번 영상에서는 OpenAI의 ChatGPT 모델을 Azure에서 사용하여 기업용 앱 환경에서 조직의 비공개 내부 데이터와 상호 작용할 수 있는 방법을 살펴봅니다. 이 과정에서 ChatGPT 프롬프트를 분해하여 작동 원리를 자세히 살펴보게 됩니다. ChatGPT는 채팅 상호 작용에 최적화된 새로운 모델이며, 대화형 스타일 이외에도 다른 작업에도 사용할 수 있습니다. Azure OpenAI 서비스와 Azure Cognitive Search를 결합하여 기업용 응용 프로그램에서 사용자 정의 데이터에 대한 ChatGPT 모델을 사용할 수 있습니다. 이를 통해 사용자는 데이터를 효과적으로 활용하여 질문에 답하거나 내용을 생성하는 등의 작업을 수행할 수 있습니다. ChatGPT는 대화에서 사용자와 “어시스턴트”로 이루어진 턴을 나타내기 위해 특정 규칙과 구문을 사용합니다. Azure Cognitive Search의 검색 단계를 통해 가장 관련성이 높은 정보를 찾아 Language 모델에 제공하여 데이터와 상호작용할 수 있도록 합니다. 이를 통해 대화형 데이터 상호 작용의 세부 사항을 완전히 제어할 수 있습니다. 비즈니스 관점에서 매우 중요한 것은 채팅 세션 상태가 완전히 응용 프로그램 내에서 유지되며, 기업이 이를 제어할 수 있다는 것입니다.