자크 마커스: 실험실은 동기를 부여하여 정렬을 추진하고, Meta는 Muse의 안전성에 집중하기 위해 연기를 하였다

마크 저커버그는 각 연구소가 필요한 속도로 안전하게 모델을 훈련할 책임과 동기를 가지고 있으며, 스스로 행동할 수 있는 능력이 있다고 언급했습니다. 사람들은 자신과 일치하지 않거나 요구 사항에 따라 행동하지 않는 인공지능을 사용하지 않을 것이므로, 연구소는 모델 정렬을 향상시키기 위한 강한 자연적 동기를 가지고 있습니다. 신뢰와 정렬은 인공지능과 모델을 구분하는 가장 중요한 능력으로 빠르게 자리잡고 있으며, 정렬에 집중하지 않는 연구소는 뒤처질 것입니다.

저커버그는 연구소가 모델로 인해 피해를 초래할 경우 중대한 책임을 지게 될 것이므로, 이를 방지하기 위한 강한 동기가 있다고 말했습니다. 메타는 안전과 보안에 집중하기 위해 뮤즈의 출시를 수개월 연기했으며, 다른 연구소에 먼저 모방하라고 요구하지 않고 단지 일상 업무의 일환으로 삼고 있습니다. 독립 평가자와 자문위원을 고용하는 것은 업계의 모범 사례이며, MSL은 여러 분야에서 이렇게 하고 있습니다. 대부분의 컴퓨팅 파워를 사람들에게 서비스를 제공하는 데 사용하고 경쟁적으로 자기 개선을 추구하지 않는 것은 이 기술의 안전한 개발을 보장하는 최선의 방법 중 하나이며, 메타는 이러한 약속을 했습니다.