Правительство США запретило иностранцам использовать Fable 5, Anthropic опубликовал заявление с опровержением

Автор：Сюн Лэй

Редактор：Сюй Циньян

12 июня по местному времени в США произошло редкое столкновение между государством и бизнесом в сфере регулирования ИИ, которое внезапно разразилось в пятницу.

Правительство США, ссылаясь на национальную безопасность, выдало компании Anthropic директиву о контроле за экспортом, требуя немедленно приостановить доступ всех иностранных субъектов к двум моделям ИИ — Fable 5 и Mythos 5. Эта директива охватывает широкий круг, включая не только иностранных пользователей за пределами США, но и иностранных граждан, находящихся на территории США, включая иностранных сотрудников компании Anthropic.

В качестве меры соблюдения требований, Anthropic была вынуждена полностью закрыть доступ ко всем пользователям к этим двум моделям — это единственный жизнеспособный вариант, который может обеспечить соблюдение требований, поскольку компания не может технически точно различить пользователей "иностранных субъектов" и "американских граждан". Доступ к другим моделям компании не пострадал, пользователи автоматически вернутся к Claude Opus 4.8.

Это экстренное приостановление стало полной неожиданностью. Модели Fable 5 и Mythos 5 были официально выпущены 9 июня, всего три дня назад. Внезапное снятие этих моделей вызвало широкий резонанс в технологическом сообществе и среди специалистов по ИИ.

01 Что представляют собой эти модели

Чтобы понять основное напряжение этого инцидента, необходимо сначала разобраться, что собой представляют Fable 5 и Mythos 5, и почему они с самого начала находились под пристальным вниманием регуляторов.

Mythos — это новая линейка моделей от Anthropic, которая по уровню возможностей превосходит серию Opus и представляет собой наивысший уровень возможностей, который в настоящее время может быть открыто развернут Anthropic. Первая модель класса Mythos, Claude Mythos Preview, была выпущена в апреле этого года в рамках проекта "Project Glasswing", доступ к ней был строго ограничен лишь несколькими партнерами, поскольку ее возможности в области кибербезопасности были слишком мощными для широкого доступа.

Fable 5 — это первая модель уровня Mythos, официально открытая для публики, которая превосходит все ранее выпущенные модели Anthropic по всем тестовым стандартам в области программной инженерии, интеллектуального труда, визуального понимания, научных исследований и т.д., достигая высочайшего уровня в отрасли.

Для обеспечения публичного выпуска Anthropic оснастила Fable 5 специальными механизмами безопасности — в высокорисковых областях, таких как кибербезопасность, биология, химия, модель автоматически блокирует ответы и возвращается к Claude Opus 4.8 для обработки.

Mythos 5, в свою очередь, является версией с меньшими мерами безопасности на той же базовой модели, доступной только для утвержденных организаций, которые ранее получили доступ к Project Glasswing, и позиционируется как профессиональный инструмент для специалистов по кибербезопасности и операторов критической инфраструктуры. Обе модели имеют одинаковую цену — 10 долларов за миллион входных токенов и 50 долларов за миллион выходных токенов.

02 Искра, вызвавшая директиву

По сообщениям, министр торговли США Говард Лутник (Howard Lutnick) 12 июня направил письмо генеральному директору Anthropic Дарио Амодеи (Dario Amodei), объявив, что Mythos 5 и Fable 5 будут подлежать контролю за экспортом. Прямой причиной этого решения стало заявление другой компании о том, что она может осуществить "взлом" Mythos, что вызвало настороженность администрации Трампа по поводу потенциальных рисков для национальной безопасности.

Сообщается, что администрация Трампа ранее пыталась остановить выпуск этих двух моделей компанией Anthropic, но не смогла добиться успеха — это и побудило правительство принять более жесткие меры в виде контроля за экспортом.

Столкнувшись с этой внезапной директивой, Anthropic, соблюдая требования, выпустила редкое по своей жесткости длинное заявление, в котором систематически опровергла доводы правительства.

Anthropic считает, что "доказательства взлома", которыми располагает правительство, касаются лишь узкого диапазона атак, которые не являются универсальными, по сути требуя от модели чтения определенного кода и исправления программных уязвимостей — такие возможности также присутствуют в других общедоступных моделях, включая OpenAI GPT-5.5, и ежедневно используются специалистами по кибербезопасности для нормального обслуживания систем.

Anthropic в своем заявлении четко указала, что если "наличие ограниченного потенциального взлома" будет использоваться в качестве стандарта для отзыва уже развернутых коммерческих моделей, это фактически приведет к полной остановке новых развертываний всех передовых моделей в отрасли. Компания также подчеркнула, что действия правительства не следовали ранее публично призванным принципам прозрачности, справедливости и основанным на технических фактах законным процедурам.

Anthropic заявила, что будет соблюдать законные указания правительства, одновременно активно работая над восстановлением доступа и в течение следующих 24 часов предоставит больше технических деталей. Компания считает, что этот инцидент произошел из-за недопонимания и глубоко извиняется за неудобства, причиненные пользователям.

Ниже приведен полный текст заявления Anthropic под заголовком "О директиве правительства США о приостановке доступа к Fable 5 и Mythos 5":

Правительство США на основании полномочий по национальной безопасности выпустило директиву о контроле за экспортом, требуя приостановить доступ всех иностранных граждан к Fable 5 и Mythos 5, независимо от того, находятся ли они на территории США или за ее пределами, включая иностранных сотрудников Anthropic. Фактический эффект этой директивы заключается в том, что мы должны немедленно закрыть доступ ко всем пользователям к Fable 5 и Mythos 5, чтобы обеспечить соблюдение требований. Другие модели Anthropic не пострадали.

Мы получили эту директиву сегодня в 17:21 по восточному времени. В письме не указаны конкретные опасения в области национальной безопасности. Насколько нам известно, правительство считает, что у него есть способ обойти защиту Fable 5, так называемая технология "взлома". Мы рассмотрели демонстрацию этой технологии и обнаружили, что она может идентифицировать лишь несколько ранее известных, незначительных уязвимостей. Эти уязвимости довольно просты, и другие общедоступные модели могут обнаружить аналогичные проблемы без взлома.

Anthropic в блоге о выпуске Fable изложила нашу позицию по его безопасности, которая выглядит следующим образом:

Мы создали мощные механизмы безопасности, значительно снизив вероятность злоупотребления Fable в связанных с кибербезопасностью задачах. На самом деле, некоторые пользователи сообщают, что наши меры защиты слишком строгие.

За несколько недель до выпуска Fable Anthropic сотрудничала с правительством США, британским Институтом безопасности ИИ, несколькими сторонними организациями и внутренними командами, проводя тысячи часов тестирования красной команды на безопасность Fable. Результаты тестирования показали, что эффективность защиты Fable значительно превосходит любую из ранее развернутых моделей.

На данный момент ни один тестировщик не смог найти "универсальный метод взлома" — то есть способ, который мог бы полностью преодолеть защиту модели и разблокировать широкие возможности для кибератак.

Мы считаем, что в настоящее время ни один поставщик моделей не может обеспечить идеальную защиту от взлома. Все механизмы защиты в отрасли подвержены риску быть преодоленными "неуниверсальным взломом" (то есть получением части сетевой информации в определенных условиях), и в будущем могут появиться универсальные методы взлома. Это мы четко указали при выпуске Fable 5.

Учитывая, что идеальная защита от взлома в настоящее время невозможна, Anthropic приняла стратегию многослойной защиты для Fable 5. Наша цель — сделать атаки взлома либо очень узкими (в отношении неуниверсального взлома), либо очень дорогими (в отношении универсального взлома), и дополнить это полным мониторингом, чтобы быстро обнаруживать и сдерживать любые успешные атаки. Именно поэтому Anthropic требует от клиентов сохранять данные в течение 30 дней — хотя эта политика оказала реальное влияние на наши отношения с клиентами, она помогает нам исследовать и реагировать на риски взлома.

Мы настаиваем на этой стратегии многослойной защиты. Она эффективно снизила риски, связанные с Fable, до уровня, сопоставимого с рисками существующих развернутых моделей в отрасли.

На данный момент мы даже не получили никаких официальных сообщений о возможном неуниверсальном взломе, который мог бы привести к вредным последствиям. Все потенциальные случаи взлома, которые были нам раскрыты, либо совершенно безвредны, либо представляют собой незначительные находки, которые не могут продемонстрировать уникальные возможности Mythos.

В настоящее время правительство США предоставило нам только устные доказательства, касающиеся потенциального, ограниченного неуниверсального взлома, который по сути требует от модели чтения определенного кода и исправления программных уязвимостей. Насколько нам известно, этот потенциальный способ взлома был передан правительству. Мы рассмотрели отчет — мы считаем, что именно этот отчет стал основанием для правительства для выпуска данной директивы — и подтвердили, что уровень возможностей, представленный в отчете, также широко присутствует в других моделях (включая GPT-5.5 от OpenAI) и ежедневно используется специалистами по кибербезопасности для поддержания безопасности систем. Мы предоставим больше деталей в течение следующих 24 часов.

Мы будем соблюдать законные указания правительства и закроем доступ ко всем пользователям к Fable 5 и Mythos 5. Но мы не согласны с тем, что обнаружение ограниченного потенциального взлома является достаточным основанием для отзыва коммерческой модели, развернутой для миллионов пользователей. Если этот стандарт будет применен ко всей отрасли, это фактически приведет к полной остановке новых развертываний всех передовых моделей.

Мы публично заявляли, что правительство должно иметь право на основании прозрачных, справедливых, четких и основанных на технических фактах законных процедур останавливать развертывание небезопасных моделей. Это действие не следовало указанным принципам.

Мы глубоко извиняемся за неудобства, причиненные пользователям. Мы считаем, что этот инцидент произошел из-за недопонимания и активно работаем над тем, чтобы как можно скорее восстановить доступ.