마이크로소프트 AI 책임자: Anthropic Claude의 인간화가 통제 불능의 위험을 증가시킨다

마이크로소프트 인공지능 책임자 무스타파 술레이만은 앤트로픽의 클로드와 같은 도구에 인간과 유사한 특성을 주입하는 것이 이러한 시스템의 통제 불능 위험을 증가시킬 것이라고 경고했습니다.

술레이만은 수요일에 발표된 기사에서 클로드 지침서의 일부 표현에 대해 비판했습니다. 클로드의 규정은 보조자가 도덕적 실체인지에 대해 모호한 태도를 보이며, 해당 소프트웨어가 어떤 기능적인 감정이나 감각의 버전을 가질 수 있다고 가정하고 있습니다.