Anthropic заявляет, что темная сторона Луны передала около 300 тысяч запросов Kimi Claude

Anthropic опубликовала последний отчет о злоупотреблениях с ИИ, в котором говорится, что темная сторона AI компании передавала некоторые запросы пользователей Kimi напрямую Claude, а затем показывала ответы Claude пользователям. Anthropic утверждает, что в течение 10-дневного периода было передано почти 300,000 запросов пользователей, большинство из которых попало в Opus. Темная сторона использовала для этого 5,380 нарушающих аккаунтов, и эти пользователи в то время думали, что они все еще используют Kimi.

Anthropic также заявила, что темная сторона сохраняла некоторые взаимодействия и извлекала полный процесс рассуждений Claude с помощью «воспроизведения между сессиями» для обучения своей модели. С мая по июль количество соответствующих дистиллированных взаимодействий превысило 23 миллиона. В некоторых запросах реальных пользователей также содержались внутренние коды компании и действительные учетные данные, которые также были переданы Claude. Anthropic сообщила, что не знает, были ли эти пользователи уведомлены о том, что данные будут переданы третьим лицам.