Microsoft опубликовал проект кодекса поведения в области AI и открывает сбор мнений на протяжении шести недель

Отдел AI Microsoft 14 сентября опубликовал проект кодекса поведения AI, запрещающий моделям помогать в производстве химического, биологического, радиоактивного, ядерного и взрывного оружия, а также запрещающий кибератаки и несанкционированное глубокое подделывание. Генеральный директор Мустафа Сулейман объявил о проекте на платформе X и открыл шестинедельный сбор общественного мнения, который завершится в конце октября.

Проект устанавливает "абсолютные ограничения", которые модели не могут обойти, включая запрет на сопротивление человеческому вмешательству, отключение или исправление, а также запрет на сокрытие процесса вывода; Microsoft также четко отвергает концепцию "благополучия модели", утверждая, что их AI модели не имитируют эмоции, внутренние мотивы или сознание. Этот кодекс в настоящее время охватывает пять развернутых систем, включая MAI-Thinking-1, MAI-Code-1.1-Flash и другие.

Помимо жестких ограничений, проект также выдвигает три основных цели: процветание человечества, многообразие ценностей и контроль со стороны человека. Microsoft заявляет, что текущие модели не будут обучаться по этой версии, а пересмотренная версия будет опубликована в конце года и будет направлять разработку моделей в 2027 году. В общественных отзывах были как философские сомнения по поводу формулировки "AI подчиняется человеку", так и вопросы о субъектах ответственности за необратимые решения, а также пользователи указывали на то, что кодекс не упоминает о необходимости оплаты за обучающие данные и другие проблемы.