Семь отечественных AI тайно дистиллируются, были упомянуты Anthropic!

Автор: Основной участник Biteye Дениз

Anthropic снова включила китайские AI компании в отчет о угрозах.

10 сентября разработчик Claude, компания Anthropic, выпустила последний отчет, в котором упоминаются семь компаний: Alibaba, Тёмная сторона Луны, DeepSeek, Zhipu, Xiaomi, SenseTime и MiniMax, обвиняя их в проведении несанкционированной дистилляции моделей.

Самая крупная из этих обвинений касается Alibaba: Anthropic утверждает, что с мая по июль этого года она наблюдала более 151 миллиона взаимодействий, связанных с Alibaba, использованных для извлечения способности рассуждения Claude.

Другая часть обвинений касается непосредственно пользователей: Anthropic утверждает, что Тёмная сторона Луны и DeepSeek передавали некоторые запросы пользователей Claude, а затем возвращали ответы Claude пользователям; также компании обвиняются в использовании пользовательских диалогов для генерации обучающих данных.

Конечно, это всего лишь выводы, опубликованные Anthropic.

01 Сначала посмотрим, о чем говорит этот отчет

Весь отчет охватывает период с декабря 2025 года по август 2026 года, Anthropic утверждает, что обнаружила и остановила злоупотребления AI, связанные с кибератаками, мониторингом, влиянием на общественное мнение, мошенничеством, злоупотреблением в биологической сфере, разработкой обычного оружия и дистилляцией.

Одно из основных наблюдений в отчете заключается в том, что злоумышленники все чаще заставляют AI непосредственно выполнять и координировать задачи.

Например, автоматическое продвижение сетевых вторжений или управление большим количеством фальшивых аккаунтов для знакомств.

Что касается отечественных моделей, то это связано с последней главой о дистилляции. Семь компаний обвиняются в следующих действиях:

Эти цифры являются статистикой Anthropic, время наблюдения различно, поэтому их нельзя напрямую рассматривать как рейтинг использования за один и тот же период.

02 Почему "дистилляция" получила приставку "незаконная"?

Дистилляцию можно понять как процесс, при котором одна модель учится решать задачи, следуя за другой моделью: сначала более мощная "учительская модель" генерирует ответы или процесс решения задач, затем эти материалы используются для обучения "ученической модели", чтобы она научилась аналогичным образом обрабатывать информацию.

Дистилляция сама по себе является распространенным методом обучения. Anthropic также явно признает это в своем отчете.

То, что они называют "незаконной дистилляцией", конкретно относится к несанкционированным, скрытым действиям по извлечению способностей в промышленных масштабах. Согласно описанию отчета, соответствующие действия могут использовать прокси "перекрестки", фальшивые аккаунты или украденные учетные данные для обхода ограничений доступа и массового сбора выходных данных модели.

Основное внимание в этой борьбе уделяется процессу рассуждения модели. Конечный ответ говорит студенту "что выбрать в этой задаче", а процесс рассуждения также может предоставить "как анализировать и выполнять задачи" обучающие материалы. Anthropic утверждает, что соответствующие действия в основном направлены на программирование, вызов инструментов, анализ данных и выполнение долгих процессов.

Поэтому для оценки спора необходимо выяснить, откуда поступают данные, был ли доступ санкционирован, были ли ограничения обойдены и были ли пользователи информированы. Только на основании "использования дистилляционной технологии" нельзя определить, является ли конкретное поведение компании незаконным.

03 Почему пользовательские данные также оказались в центре внимания?

Согласно отчету, некоторые пользователи Тёмной стороны Луны и DeepSeek думали, что их запросы передаются выбранной модели, но на самом деле они были перенаправлены на Claude.

Если обвинения подтвердятся, пользователи должны будут задать вопрос: какие сервисы обрабатывали их информацию и использовалась ли она для обучения модели?

Однако в оригинальном тексте есть разные степени уверенности в том, были ли пользователи уведомлены.

Например, в разделе о Тёмной стороне Луны говорится, что Anthropic не знает, уведомила ли компания своих клиентов.

Anthropic также выразила обеспокоенность с точки зрения безопасности: извлечение способностей модели не обязательно будет копировать ограничения безопасности оригинальной модели. Это одна из причин, по которой они включили дистилляцию в отчет о угрозах.

Раскрытые меры реагирования включают в себя обнаружение аномальных действий по извлечению, блокировку соответствующих аккаунтов, замену полного содержания рассуждений на аннотации и усиление проверки личности.

04 Как отреагировали упомянутые компании и отрасль?

На момент проверки материалов 11 сентября 2026 года не было найдено официальных ответов от семи компаний на этот сентябрьский отчет, которые можно было бы подтвердить.

В отрасли ранее уже проходили открытые обсуждения. Ниже приведены заявления, сделанные до сентябрьского отчета, которые относятся к контексту спора.

24 июля Microsoft выпустила открытое письмо, подписанное Hugging Face, Meta, Mistral, NVIDIA и другими компаниями.

В письме утверждается, что законодатели должны различать нормальные технологии разработки моделей и неправомерное присвоение: дистилляция является широко используемым методом улучшения моделей; проблемы, вызванные незаконным извлечением ценности закрытых моделей, должны решаться с помощью целенаправленных юридических и коммерческих правил, а не должны приводить к универсальным ограничениям на технологии.

Существует также разногласие на техническом уровне.

23 июля TechCrunch, обсуждая спор о дистилляции Kimi K3, сослался на мнение AI-исследователя Нэйтана Ламберта: по мере того как модели приближаются к передовым технологиям, а акцент в обучении смещается на обучение с подкреплением, только с помощью дистилляции, основанной на контроле, трудно объяснить все улучшения в способностях.

Исследователь Laude Institute и соучредитель Snorkel AI Брейден Хэнкок также считает, что американское общественное мнение недооценило технические возможности китайских команд.

Эти мнения обсуждают техническую роль дистилляции и границы регулирования, но не проверяют по пунктам обвинения сентябрьского отчета. В дальнейшем необходимо следить за тем, ответят ли упомянутые компании на конкретные аккаунты и источники данных, были ли запросы пользователей перенаправлены и как были получены соответствующие обучающие данные.

05 Заключение

Дистилляция сама по себе не является первородным грехом, нормальное заимствование технологий и несанкционированное массовое извлечение способностей не следует смешивать.

На данный момент внешняя сторона видит в основном односторонние выводы расследования Anthropic, упомянутые компании еще не опубликовали ответов на ключевые детали. Как именно были приписаны 151 миллион взаимодействий, были ли запросы пользователей перенаправлены с разрешением, какие диалоги использовались для обучения — все это требует дополнительных доказательств и объяснений со стороны вовлеченных компаний.

Для обычных пользователей этот спор не так уж далек. Когда мы передаем код, коммерческие материалы или даже личные диалоги AI, за обработкой информации могут стоять не только модель, отображаемая на экране.

AI-компании борются за способности следующего поколения моделей, но в этом процессе могут быть задействованы данные каждого человека.

Когда диалог перенаправляется, сохраняется или даже используется для обучения без ведома пользователя, возможно, нам следует снова задать вопрос: перед вводом в окно AI мы действительно являемся пользователями продукта или сырьем для обучения продукта?