Anthropic применяет технологию нулевых знаний к AI-выводам, чтобы предотвратить замену модели
Anthropic открыла FlashProve, перенесла широко используемую в области криптовалют технологию zkSNARK (доказательства с нулевым разглашением) в область вывода AI моделей.Эта технология изначально могла доказать действительность транзакций в блокчейне без раскрытия деталей сделки. Anthropic хочет использовать ее для решения другой проблемы: как пользователю, который заплатил высокую цену за API определенной модели AI, узнать, не заменил ли провайдер ее на более дешевую модель?FlashProve позволяет провайдеру сначала создать зашифрованный отпечаток веса модели, а затем предоставить математическое доказательство для результатов вывода. Пользователям не нужно получать веса модели или повторно запускать модель, чтобы проверить, действительно ли указанный вывод исходит от заранее обещанной группы весов. Claude также участвовал в разработке и оптимизации этой системы.Anthropic уже провела эксперименты на модели Llama 4 Maverick с 400 миллиардами параметров от Meta. На каждые 1024 токена контекста сгенерированное доказательство составляет около 19 МБ, а проверка на обычном CPU занимает около 17 секунд.Однако в настоящее время каждое доказательство может проверить только один выходной токен и не может проверить целый ответ. Время вычислений GPU, необходимое для генерации доказательства, также достигает примерно 70–95 раз больше, чем обычный вывод. Смогут ли они использовать это для выявления провайдеров API, которые тайно заменяют модели, зависит от того, когда стоимость доказательства сможет снизиться.
