Microsoft의 AI 슈퍼컴퓨터가 어떻게 1억명 이상의 사용자를 수용하는 ChatGPT를 호스팅하는지, 그리고 이 인프라가 어떻게 어떤 규모에서든 Azure에서 작업 부하를 처리하는데 도움이 될 수 있는지에 대한 이야기를 전합니다. 이 인프라는 ChatGPT와 같은 대규모 언어 모델을 실행하기 위해 구축된 AI 슈퍼컴퓨터를 중심으로 한 것입니다. 이 모든 세부사항을 깊이 이해하기 위해, Azure CTO Mark Russinovich가 도움을 주었습니다. 이 대화에서는 AI와 대규모 언어 모델의 기술적 변화, 그리고 이러한 변화가 애플리케이션과 데이터와 상호작용하는 새로운 방식을 어떻게 정의하는지에 대해 논의하였습니다. 또한 Azure의 AI 인프라에서 일어난 중요한 혁신과 진전에 대해서도 이야기하였습니다. 마지막으로 Azure에서 운영되는 대규모 언어 모델들, 그리고 그들이 처리하는 어려움에 대해 이야기하였습니다.
─
원문 URL : https://www.youtube.com/watch?v=Rk3nTUfRZmo
원문 제목 : What runs ChatGPT? Inside Microsoft’s AI supercomputer | Featuring Mark Russinovich
