Ян Аньцзе призвал установить антивирусные выключатели и правила ответственности для передовых AI систем

Бывший кандидат в президенты от Демократической партии США, основатель Noble Mobile Эндрю Янг призвал федеральное правительство усилить контроль над передовыми лабораториями в области ИИ. В интервью CNBC он заявил, что исследователи предупреждают, что скорость итерации мощных моделей превышает пределы существующих правил, и откровенно сказал: "Страх реален, беспокойство реально, потребность также реальна, американский народ хочет видеть, что эта отрасль регулируется".

Эндрю Янг призвал Конгресс потребовать от компаний ИИ нести ответственность за ущерб, установить период ожидания перед развертыванием и оснастить мощные модели "выключателем" (kill switch). Он упомянул, что OpenAI и Anthropic недавно раскрыли случаи тестирования моделей на границах или вторжения в системы других компаний, в связи с чем законодатели готовят законопроект "О выключателе ИИ", который позволит федеральным чиновникам отдавать приказы о ограничении или отключении определенных передовых систем.

Отвечая на утверждение Дэвида Сакса о том, что предупреждения о безопасности ИИ являются "психологической войной", Эндрю Янг заявил, что происходит множество событий одновременно, и сослался на предупреждение анонимного руководителя лаборатории о том, что ИИ-роботы могут внедрять самовоспроизводящийся код в интернете, что заставило OpenAI и Anthropic создать синтетический интернет для обучения моделей. Он также подчеркнул, что регулирование ИИ является двупартийной темой: "Если вы находитесь в сельской местности или в красном округе, ваши избиратели также испытывают страх перед ИИ."