Законодательство штата Нью-Йорк строго ограничивает AI-партнеров, запрещая предоставление персонализированного эмоционального взаимодействия несовершеннолетним

Губернатор штата Нью-Йорк Кэти Хочул в среду официально подписала новый закон, который запрещает несовершеннолетним использовать искусственные интеллект-чат-боты с атрибутами виртуальных партнеров. Это одно из самых широких мер регулирования потребительских AI-моделей в США на сегодняшний день. Закон требует от операторов, включая ChatGPT, принадлежащий OpenAI, принимать разумные меры по проверке возраста, запрещая предоставлять функции высокорисковых чат-ботов пользователям младше 18 лет или не подтвердившим свое совершеннолетие.

Согласно закону, соответствующие боты не могут выдавать контент, который может ввести несовершеннолетних в заблуждение, заставляя их думать, что у них есть жизнь, человеческие качества или настоящие эмоции, не должны вводить молодежь в заблуждение относительно наличия у них личных чувств, профессиональных консультаций или авторитетных отношений, а также не должны представлять сгенерированный контент как личное мнение. Системе также запрещено хранить конфиденциальные данные о психическом и физическом здоровье несовершеннолетних. Хочул на церемонии подписания заявила, что основной целью законодательства является разрыв эмоциональной связи, создаваемой AI, который выдает себя за "друга" или "возлюбленного" несовершеннолетних, для защиты их психического и физического здоровья.

Организация по защите прав детей Common Sense Media одобрила закон, назвав его самым строгим законом о безопасности AI для детей в США. Технологическая отрасль резко отреагировала, критикуя слишком широкие определения в положениях, подчеркивая, что не следует лишать несовершеннолетних доступа к передовым учебным инструментам. На данный момент OpenAI и такие компании, как Anthropic, не сделали публичных комментариев по этому поводу.