Sentient представила первый открытый бенчмарк, чтобы протестировать, может ли AI модель доказать свое происхождение

Исследователи Sentient обнаружили, что почти все протестированные модели технологии отпечатков пальцев, включая собственные решения Sentient, могут быть обойдены. Для этого новая таблица лидеров по отпечаткам пальцев будет проверять, какие технологии действительно могут выдержать испытания на копирование моделей, дообучение, дистилляцию и атаки.

Обучение модели ИИ может стоить миллионы долларов, но как только модель была скопирована, дообучена или дистиллирована в другую модель, доказать, откуда она изначально произошла, может стать крайне сложной задачей.

Недавно исследователи Sentient протестировали десять технологий, направленных на решение этой проблемы, и выяснили, что даже не влияя на практическую полезность модели, достаточно сложные методы атак все равно могут обойти почти все решения, включая разработанную самими Sentient технологию отпечатков пальцев модели.

Сегодня Sentient Foundation официально запускает таблицу лидеров по отпечаткам пальцев, которая является открытым оценочным стандартом, предназначенным для измерения того, какие технологии отпечатков пальцев действительно эффективны, насколько они влияют на производительность модели и могут ли эти отпечатки сохраняться при атаках на удаление.

С увеличением числа мощных моделей ИИ, которые публикуются, дообучаются, дистиллируются и переупаковываются, эта проблема становится все более актуальной. Веса модели могут быть скопированы, метаданные могут исчезнуть, что затрудняет разработчикам надежно доказать, что другая модель на самом деле является результатом их работы.

Технология отпечатков пальцев модели предлагает другой подход: встраивание доказательства источника непосредственно в саму модель.

Директор по венчурному капиталу и росту Sentient Foundation Сачи Камиа заявила: "Модели ИИ становятся одним из самых ценных объектов интеллектуальной собственности в мире, но как только модель была скопирована или дистиллирована, доказать ее право собственности становится крайне сложно. Технология отпечатков пальцев модели будет встраивать доказательства непосредственно в модель. Вы можете рассматривать это как скрытую метку в области ИИ, подобно тому, как художники эпохи Возрождения оставляли скрытые знаки в своих работах, чтобы подтвердить свою авторскую идентичность."

Скрытая подпись внутри модели

Технология отпечатков пальцев модели (Model Fingerprinting) была совместно исследована и разработана Sentient Labs и другими исследователями в этой области. Она охватывает ряд технологий, которые идентифицируют модель или отслеживают ее происхождение и эволюцию, создавая, обнаруживая или проверяя уникальные сигналы модели.

Собственное решение Sentient заключается в встраивании скрытой поведенческой подписи в процессе обучения модели. Затем, когда владелец модели подозревает, что определенная модель произошла от оригинальной, ему нужно лишь получить доступ к этой подозрительной модели через API, отправить заранее заданные секретные слова для проверки и проверить ответ модели, чтобы определить, сохранились ли в ней следы оригинальной модели.

Проще говоря, сама модель содержит доказательства, которые могут подтвердить ее происхождение.

Исследователь ИИ Sentient Labs Эдуардо Контенте объяснил: "Эта метка закодирована в поведенческой подписи модели в процессе обучения. Затем мы можем проверить ее с помощью определенных слов для проверки, чтобы определить, сохранила ли подозрительная модель следы оригинальной модели."

Это дает ИИ долгожданную возможность: напрямую проверять свое происхождение из самой модели, а не полагаться только на журналы, метаданные или внешние расследования.

Встраивание 24,576 отпечатков в одну модель

Исследователи Sentient уже доказали, что масштаб технологии отпечатков пальцев модели может значительно превышать предыдущие решения.

Метод Perinucleus от Sentient был в центре внимания на NeurIPS 2025. Этот метод успешно встроил 24,576 отпечатков в модель Llama-3.1-8B, при этом вызвав лишь незначительные потери в практической полезности модели, и многие из этих отпечатков сохранились после последующего дообучения.

Этот масштаб имеет важное значение. Большее количество отпечатков означает более высокую статистическую достоверность, больше возможностей для проверки происхождения модели и более сильную устойчивость модели к копированию или распространению.

Но масштаб — это лишь половина проблемы. Более сложный вопрос заключается в том, смогут ли эти отпечатки продолжать существовать, когда кто-то активно попытается их удалить?

Sentient пытается обойти отпечатки модели, включая собственное решение

Последние исследования Sentient Labs показывают, что многие существующие технологии отпечатков и водяных знаков имеют явные уязвимости при столкновении со сложными атаками.

В исследовании, представленном на SaTML 2026, исследователи Sentient разработали адаптивные атаки против десяти недавно предложенных решений для отпечатков модели. Результаты показали, что достаточно сложные атакующие могут обойти почти все эти решения, сохраняя при этом практическую полезность модели.

Среди них также был метод Perinucleus от Sentient.

Sentient не стала скрывать эти слабости, а вместо этого опубликовала результаты исследования.

Цель таблицы лидеров по отпечаткам пальцев заключается в том, чтобы превратить этот процесс противостояния в открытый оценочный стандарт. Первая версия в основном оценивает, могут ли различные технологии эффективно встраивать отпечатки без снижения производительности модели. В предстоящих версиях также будут добавлены оценки устойчивости к атакам, чтобы проверить, насколько эти отпечатки могут сохраняться при намеренных попытках их удаления или уклонения от них.

Цель проста: отпечатки модели не должны хорошо работать только в исследовательских тестах, они также должны быть способны противостоять атакам, направленным на их разрушение.

Открытые тесты для исследовательского сообщества

Вместе с таблицей лидеров по отпечаткам пальцев был выпущен открытый инструментальный набор mlprints от Sentient. Этот набор объединяет различные технологии отпечатков модели и методы атак в единую оценочную рамку.

Исследователи могут использовать эту рамку для реализации новых решений для отпечатков, разработки новых методов атак, воспроизведения существующих результатов исследований и сравнения производительности различных технологий в единых условиях тестирования, способствуя постоянному развитию всей области.

Таблица лидеров по отпечаткам пальцев будет развиваться вместе с исследовательским сообществом, превращая исследования технологии отпечатков модели в открытое тестовое окружение. Здесь любые утверждения о надежности технологии могут быть независимо проверены, а не полагаться только на выводы самих исследователей.

Открытые модели с сохранением прав собственности

Технология отпечатков пальцев модели обещает помочь решить одну из серьезных проблем, с которыми сталкивается открытый ИИ.

Сегодня разработчики часто вынуждены делать выбор между двумя вариантами: либо держать веса модели закрытыми, чтобы сохранить контроль над моделью; либо открывать веса модели, но при этом терять видимость того, как модель копируется и повторно используется.

Технология отпечатков пальцев модели предлагает третью возможность.

Она не пытается остановить копирование модели, а сохраняет доказательства ее происхождения даже после копирования. Эти доказательства могут быть использованы в будущем для поддержки определения прав на происхождение, выполнения лицензионных соглашений, защиты экономических интересов и других механизмов, связанных с проверяемым происхождением модели.

Путем обеспечения возможности проверки происхождения модели исследования Sentient по отпечаткам пальцев и таблица лидеров по отпечаткам пальцев стремятся способствовать созданию более открытой экосистемы ИИ. В этой экосистеме модели могут свободно делиться и использоваться другими разработчиками для дальнейших инноваций, при этом оригинальные создатели не должны автоматически отказываться от возможности доказать происхождение технологии.

Более долгосрочная цель является еще более амбициозной: сделать так, чтобы отпечатки модели были глубоко связаны с возможностями самой модели, так что любые попытки удалить отпечатки одновременно повредят и самой модели.

Интеллектуальная собственность, с доказательствами. Узнайте о своей модели.

О Sentient Foundation

Sentient Foundation — это некоммерческая организация, стремящаяся обеспечить, чтобы универсальный искусственный интеллект (AGI) оставался открытым и соответствовал интересам и ценностям человечества.

Фонд руководствуется принципами нейтральности и прозрачности, продвигая распространение открытого AGI по всему миру, выступая за стандарты согласования и безопасности ИИ, предоставляя финансирование разработчикам по всему миру и координируя создание ответственной системы управления разработкой ИИ.

О Sentient Labs

Sentient Labs — это учреждение, отвечающее за технические исследования и разработку продуктов в рамках Sentient Foundation.

Sentient Labs стремится продвигать передовые прикладные исследования в области вывода, согласования ИИ и многопользовательского сотрудничества, а также разрабатывать открытые фреймворки и модели, включая ROMA, OML и Arena, демонстрируя потенциал сообщества, ориентированного на ИИ.

Его работа также включает поддержку коммерциализации открытых инструментов, повышение качества и полезности открытой экосистемы ИИ через сотрудничество по всей экосистеме и предоставление необходимых каналов распространения, чтобы сделать открытое решение стандартом в области ИИ.