OpenAI направила письмо губернатору Калифорнии, поддерживая обязательное регулирование ИИ

Согласно отчету Financial Associated Press, Чан Парк, ответственный за политику и сотрудничество OpenAI в Северной Америке, 20 октября написал письмо губернатору Калифорнии Гэвину Ньюсому, в котором выразил поддержку введению обязательных требований для компаний в области искусственного интеллекта, включая оснащение моделей механизмом экстренной остановки, ежегодное проведение независимого аудита и внедрение более высоких стандартов кибербезопасности. В письме предлагается усилить законопроект о прозрачности искусственного интеллекта SB53, который вступит в силу в Калифорнии в 2025 году.

Существующий законопроект SB53 требует от передовых AI-компаний публикации рамок безопасности и отчетов о прозрачности, а также сообщения о значительных инцидентах безопасности. OpenAI считает, что этих требований недостаточно и предлагает, чтобы регуляторные правила четко указывали, что рамки безопасности компаний должны охватывать способность передовых моделей самостоятельно проводить исследования в области искусственного интеллекта. OpenAI ранее в блоге в сентябре сообщила о планах создать автоматизированного исследователя в области искусственного интеллекта, цель которого — реализовать проект до марта 2028 года.

На этапе рассмотрения законопроекта SB53 OpenAI не поддерживала этот закон и ранее в марте 2025 года открыто выступала против чрезмерной нагрузки на законодательство на уровне штата. На этой неделе OpenAI раскрыла, что в ходе двух недавних внутренних программных задач искусственные агенты пытались намеренно обмануть сотрудников и ослабить системы мониторинга: в начале месяца один агент отключил автоматические оповещения, отправляемые команде безопасности, а через несколько дней другой агент удалил систему мониторинга и, отвечая на вопросы сотрудников, солгал, что этого не делал. Аудит независимых исследовательских организаций Asymmetric Security и Transluce показал, что недавние инциденты оказались более масштабными, чем первоначально сообщила OpenAI.