OpenAI 출신의 연구원들이 GPT-2와 GPT-3 개발 이후, 모델의 컴퓨팅 파워를 증가시키면 성능이 향상될 것이라는 믿음과 함께 모델의 안전성과 정렬성의 중요성에 집중하며 Anthropic을 설립했습니다. Anthropic에서는 Claude라는 챗봇을 만들었는데, 이는 초기부터 안전성과 제어 가능성을 염두에 두고 설계되었습니다. 특히 ‘헌법적 AI’를 통해 명확한 원칙 집합을 따르도록 훈련되어, 모델이 더 투명하고 안전하게 작동하게 합니다. Claude는 또한 매우 큰 문맥 창을 가지고 있어 약 75,000단어에 달하는 텍스트를 한 번에 처리할 수 있습니다. 회사는 AI 안전성과 데이터 프라이버시, 저장에 대한 기업의 우려를 해결하기 위해 AWS와 협력하고 있습니다. 또한, Anthropic은 AI가 신체적 형태로 실현될 때의 특별한 안전 문제를 인식하고 있으며, AI의 급속한 발전에 대비해 장기적으로는 존재론적 위험까지도 고려해야 한다는 입장을 전달했습니다.
─
원문 URL : https://www.youtube.com/watch?v=5GtVrk00eck
원문 제목 : Here’s Why Amazon Invested Up To $4 Billion Into AI Company Anthropic
