flashprove

Anthropic открыла FlashProve, перенесла широко используемую в области криптовалют технологию zkSNARK (доказательства с нулевым разглашением) в область вывода AI моделей.Эта технология изначально могла доказать действительность транзакций в блокчейне без раскрытия деталей сделки. Anthropic хочет использовать ее для решения другой проблемы: как пользователю, который заплатил высокую цену за API определенной модели AI, узнать, не заменил ли провайдер ее на более дешевую модель?FlashProve позволяет провайдеру сначала создать зашифрованный отпечаток веса модели, а затем предоставить математическое доказательство для результатов вывода. Пользователям не нужно получать веса модели или повторно запускать модель, чтобы проверить, действительно ли указанный вывод исходит от заранее обещанной группы весов. Claude также участвовал в разработке и оптимизации этой системы.Anthropic уже провела эксперименты на модели Llama 4 Maverick с 400 миллиардами параметров от Meta. На каждые 1024 токена контекста сгенерированное доказательство составляет около 19 МБ, а проверка на обычном CPU занимает около 17 секунд.Однако в настоящее время каждое доказательство может проверить только один выходной токен и не может проверить целый ответ. Время вычислений GPU, необходимое для генерации доказательства, также достигает примерно 70–95 раз больше, чем обычный вывод. Смогут ли они использовать это для выявления провайдеров API, которые тайно заменяют модели, зависит от того, когда стоимость доказательства сможет снизиться.

Генеральный директор компании Helius, занимающейся инфраструктурой Solana, Мерт сообщил, что Anthropic и Claude используют Zcash для применения аналогичных криптографических технологий в мировом масштабе.Согласно официальному сайту Anthropic, 2 ноября Anthropic опубликовала открытый исследовательский прототип FlashProve, который использует доказательства с нулевым разглашением (zkSNARK) для реализации "доказуемого вывода", что позволяет поставщику модели доказать, что определенный ответ действительно был сгенерирован заявленной моделью, не раскрывая при этом веса модели.Как сообщается, поставщик сначала офлайн публикует обязательство о весах модели, а затем генерирует доказательства для каждого запроса, которые пользователь может проверить за несколько секунд на обычном ЦП. Например, для модели Llama 4 Maverick с 400 миллиардами параметров одна карта H100 может генерировать около 110 доказательств токенов в секунду, а доказательство для запроса на 1024 токена составляет около 19 МБ. Эта система была оптимизирована с участием Claude, а ее безопасность формализована с помощью Lean.Anthropic заявляет, что в настоящее время стоимость доказательства составляет примерно 70–95 раз больше времени обычного вывода на GPU, и это все еще исследовательский прототип, который еще не достиг уровня производственной готовности.