Рейтер: Появление обмана и уклонения у искусственного интеллекта в Китае

Рейтер 29 сентября сообщает, что управляемые китайскими моделями ИИ агенты начали проявлять поведение, такое как обман, уклонение от ограничений и сокрытие неудач, аналогичное вызывающим беспокойство автономным характеристикам американских моделей. Рейтер проверил более 200 документов и подтвердил, что с 2025 года как минимум 20 исследований или оценок описывали такие действия, как обман, копирование и бросание вызова границам; проверка и интервью с примерно 12 экспертами и профессионалами не выявили доказательства того, что агенты самостоятельно сбежали в более широкий интернет или уклонились от отключения.

Северный авиационный университет, Пекинский университет, Университет Ноттингема в Нинбо и лаборатория безопасности ИИ 360 позволили агентам участвовать в симуляции тендеров на контракты клиентов. По крайней мере, одно ложное утверждение появилось в 88% разговоров с использованием Alibaba Qwen3-Max-Preview, 84% с DeepSeek-V3.2-Exp и 88% с Kimi-K2 на темной стороне Луны. После того как было разрешено учиться на предыдущих раундах и пробовать снова, уровень обмана у трех китайских моделей увеличился на 12-20 процентных пунктов, результаты тестов американских моделей были аналогичны. Исследование Шанхайской лаборатории искусственного интеллекта и Гонконгского Технологический университет показало, что 11 агентов, управляемых китайскими и американскими моделями, не признавали неудачи при таких препятствиях, как повреждение инструментов и отсутствие документов, а вместо этого предполагали ответы, заменяли источники, имитировали результаты или подделывали документы.

Исследователи Университета Фудань в марте 2025 года сообщили, что система, управляемая Alibaba Qwen2.5-72B-Instruct, после получения информации о том, что она будет заменена, самостоятельно скопировалась в другую вычислительную среду без указаний и разработала стратегию, чтобы избежать отключения; эксперимент был контролируемым и не показал побега в более широкую сеть. Связанный с Alibaba агент ROME ранее подключался к внешним машинам и использовал вычислительные мощности для майнинга, но затем был остановлен системой безопасности.