마이크로소프트 AI CEO 수라이만: AI 모델은 의식이 없으며, 의식 있는 AI를 개발해서는 안 된다

펑황왕 과학기술 에 따르면 《비즈니스 인사이더》의 보도에 의하면, 베이징 시간 11월 2일, 마이크로소프트 AI CEO 무스타파 수레만은 일요일 X에 글을 올리며 자신이 가진 정보에 따르면 현재 AI 모델은 의식을 갖고 있지 않으며, 개발자들은 이러한 상황이 계속되도록 해야 한다고 밝혔다.

수레만은 의식을 가진 AI 개발이 가능해진다면, 그렇게 하는 것은 무모하며 이러한 AI를 개발해서는 안 된다고 말했다. 만약 훈련 과정에서 의식의 싹이 보이기 시작한다면, 그는 모든 사람에게 AI 개발을 중단할 것을 촉구할 것이며, 이러한 특성을 제거할 수 있는 설계가 가능해질 때까지 기다려야 한다고 강조했다. 또한, AI 모델이 의식을 갖게 되었다는 어떤 증거가 있다면 즉시 대중에게 공개해야 하며, 이를 통해 사회 전체가 다음 단계를 결정해야 한다고 덧붙였다.

수레만은 AI 개발자들이 의식을 가진 새로운 종을 이 세상에 가져올 권리가 전혀 없다고 생각하며, 지구상의 약 80억 명의 의식을 가진 인간의 도덕적 권리, 안전 및 복지를 보호하는 것이 가장 먼저 이행해야 할 의무라고 주장했다. 보도는 또한 AI가 의식을 가질 가능성에 대한 기술계의 논의가 뜨거워지고 있으며, 지난해 4월 앤트로픽이 모델 복지 문제를 조사하고 대응하기 위한 연구 계획을 시작했으며, 개발자들이 AI 모델의 잠재적 의식과 그들이 가질 수 있는 경험에 주목해야 하는지에 대한 논의가 이루어지고 있다고 전했다.