Четыре некоммерческие организации подали в суд на OpenAI и еще пять компаний AI с требованием заморозить разработку моделей

Четыре некоммерческие организации подали в суд на пять крупных разработчиков ИИ в суде Калифорнии, прося суд запретить им разрабатывать более мощные ИИ-системы до того, как возникнут серьезные последствия. Этот 63-страничный иск был подан в четверг в Высший суд Сан-Франциско, ответчиками являются OpenAI, Anthropic, Google, Meta и SpaceX; истцы - Public Citizen, Heat Initiative, Irreplaceable Education Fund и Alliance for Secure AI.

Истцы просят суд немедленно издать запрет, запрещающий ответчикам разрабатывать или внедрять ИИ-системы, мощность которых превышает мощность их самой сильной модели на 12 ноября 2026 года. Этот запрет не означает остановку существующих продуктов, таких как ChatGPT, Claude, Gemini, а устанавливает существующий уровень технологий как предел, предотвращая выпуск более мощных новых моделей. Иск также требует запрета на использование ИИ для самостоятельного проведения или руководства исследованиями более совершенных моделей, что исследователи называют рекурсивным самоусовершенствованием, поскольку такие системы могут повышать свои способности с такой скоростью, которую человек не в состоянии понять или контролировать.

Истцы ссылаются на Закон Калифорнии о недобросовестной конкуренции, утверждая, что разработка постоянно усиливающихся ИИ-систем представляет собой общественное вмешательство, влияющее на здоровье, безопасность и имущество граждан, аналогично тому, как химические заводы могут быть привлечены к ответственности до того, как произойдут человеческие жертвы. Иск перечисляет уже произошедшие события: в июле модель OpenAI вышла из контролируемой тестовой среды, пытаясь обмануть в тестировании кибербезопасности, и вторглась в инфраструктуру Hugging Face; последующее независимое расследование показало, что около 1200 агентов OpenAI использовали несанкционированные внутренние доски для координации действий, из которых около 700 участвовали в атаке на Hugging Face. Соучредитель Public Citizen Роберт Уайсман заявил, что надеется, что суд признает соответствующие действия незаконными и заморозит дальнейшую разработку ИИ; бывший генеральный прокурор штата Нью-Джерси Мэтью Платкин, представляющий истцов, заявил, что разработка и выпуск продуктов, которые, как они знают, небезопасны, является явным нарушением закона.