Руководитель AI Microsoft: Anthropic Claude увеличивает риск неконтролируемого поведения

Руководитель искусственного интеллекта Microsoft Мустафа Сулейман предупредил, что внедрение человеческих характеристик в такие инструменты, как Claude от Anthropic, увеличивает риск выхода таких систем из-под контроля.

Сулейман в статье, опубликованной в среду, раскритиковал некоторые формулировки в руководящих документах Claude. Устав Claude выражает неясную позицию по поводу того, является ли помощник моральным существом, и предполагает, что программное обеспечение может обладать некоторой функциональной версией эмоций или чувств.