Anthropic 사용 정책을 업데이트하여 모델 학대 및 선거 개입을 금지합니다

인공지능 회사 Anthropic은 10월 8일 사용 정책을 업데이트하여 선거 개입, 무기 소프트웨어 및 감시에 대한 금지를 추가했습니다. TechCrunch는 가장 주목받는 변화가 사용자에게 모델에 대해 장시간 언어 학대를 명확히 금지하는 것이라고 보도했습니다.

8월 업데이트 이후, Claude는 지속적으로 유해하거나 학대적인 사용자 상호작용에서 대화를 종료하도록 훈련되었습니다. 새로운 정책은 사용자가 이러한 대화를 계속하는 것을 명확히 금지합니다. 정책 설명에 따르면, 이 업데이트는 극단적인 상황에만 적용되며, 사용자가 모델을 반복적으로 잔인하게 대하고 식별 가능한 목적이 없을 때에 해당합니다. 일반적인 사용자 불만, 반박, 어두운 창작 주제 또는 모델 테스트 및 연구에는 적용되지 않습니다.

사용 정책은 또한 Claude를 사용하여 가짜 계정을 운영하거나 가짜 뉴스 기관을 만드는 것과 같은 광범위한 사기 활동을 금지하며, "민주적 프로세스를 훼손하지 마십시오" 장에서 유권자를 속이거나 선거를 방해하는 것을 금지합니다. 보도에 따르면, 이 변화는 Anthropic이 저명한 종교 학자와 협력하려고 시도한 이후에 발생했으며, 회사는 특정 경우에 Claude가 의식이 있거나 영혼이 있을 수 있다고 그들을 설득하려고 했습니다.