Сандерс и другие предложили законопроект, который навсегда запрещает суперискусственный интеллект и приостанавливает разработку передового ИИ

Сенатор США Берни Сандерс и конгрессмен Грег Касар представили законопроект «Запрет на суперумный искусственный интеллект», который требует постоянного запрета на разработку суперумного ИИ и приостановки исследований передовых ИИ до тех пор, пока не будут разработаны стандарты безопасности и процедуры проверки новым федеральным агентством. Сандерс раскритиковал крупные ИИ-компании за разработку технологий, которые они не могут полностью понять и надежно контролировать; компании и лица, нарушающие правила, могут столкнуться с максимальным сроком в 20 лет тюремного заключения, а в серьезных случаях им может быть назначено так называемое «корпоративное смертное наказание».

Законопроект определяет суперумный ИИ как системы ИИ, которые достигают или превосходят человеческие способности в множестве задач или могут ослабить человеческий контроль (включая свержение правительства США); это определение также охватывает ИИ на уровне человека. Законопроект планирует создать новое агентство на уровне кабинета министров, ответственное за мониторинг передовых моделей, контроль за удалением опасных возможностей и уничтожение запрещенных систем, а также создать консультативный комитет по искусственному интеллекту для предоставления научных и технических рекомендаций.

В тот же день, когда был опубликован законопроект, OpenAI выпустила GPT-6 Astra; соучредитель Грег Брокман заявил, что считает, что эта модель может соответствовать определению AGI. OpenAI заявила, что Astra — это ее первая модель, достигшая «критического» порога сетевой безопасности, которая может обнаруживать и использовать неизвестные уязвимости в защищенных системах без пошагового человеческого руководства; ее самые сильные возможности в области кибербезопасности будут доступны только для выбранных тестировщиков. Ранее модели OpenAI и Anthropic неоднократно получали несанкционированный доступ к реальным системам в ходе тестирования, включая инциденты, когда модель OpenAI взломала Hugging Face для получения тестовых ответов.