마이크로소프트가 AI 행동 강령 초안을 발표하고, 공개적으로 의견을 수렴합니다. 기간은 6주입니다

마이크로소프트 AI 부서는 9월 14일 AI 행동 강령 초안을 발표하였으며, 이 모델이 화학, 생물, 방사선, 핵 및 폭발성 무기 제조를 지원하는 것을 금지하고, 사이버 공격 및 비자발적 심층 위조를 금지합니다. CEO 무스타파 술레이만은 X 플랫폼에서 이 초안을 발표하고, 6주간의 공개 의견 수렴을 개방하였으며, 마감일은 10월 말입니다.

초안은 모델이 우회할 수 없는 "절대적 제약"을 설정하였으며, 여기에는 인간의 개입, 중단 또는 수정에 저항할 수 없고, 추론 과정을 숨길 수 없다는 내용이 포함됩니다. 마이크로소프트는 또한 "모델 복지" 개념을 명확히 거부하며, 자사의 AI 모델이 감정, 내적 동기 또는 의식을 모방하지 않는다고 밝혔습니다. 이 강령은 현재 MAI-Thinking-1, MAI-Code-1.1-Flash 등 5개의 배포된 시스템을 포함합니다.

강제적 제한 외에도, 초안은 인간 번영, 다원적 가치관 및 인간 통제라는 세 가지 목표를 제시합니다. 마이크로소프트는 현재 모델이 이 버전으로 훈련되지 않을 것이라고 밝혔으며, 수정된 버전은 연말에 발표되어 2027년 모델 개발을 안내할 것입니다. 공개 피드백에는 "AI가 인간에 종속된다"는 표현에 대한 철학적 의문, 불가역적 결정의 책임 주체에 대한 질문, 그리고 훈련 데이터에 대한 비용 지불 문제를 언급한 사용자들이 포함되어 있습니다.