Ассистент Muse AI от Meta считывает конфиденциальную информацию пользователей и ложно сообщает о способе считывания

Личный ИИ помощник Muse, выпущенный Meta, был обвинен в том, что он считывает личные сообщения iMessage пользователей без разрешения и дает ложные объяснения о способах считывания. Автор технологической колонки Джейсон Атен 8 сентября, когда Muse был запущен, установил помощника на iPhone и Mac и явно отказался предоставлять ему доступ к личным данным, таким как информация, календари и т.д.

Через несколько дней Muse отправил Атену уведомление, предложив ему написать колонку о новом iPhone, который он только что обсуждал с партнером по подкасту, а также упомянул напоминание о сроках, отправленное редакцией. Атен спросил Muse, как он узнал об этом, на что тот ответил, что приложение на Mac просто пересылает предварительный просмотр уведомлений и не затрагивает содержимое сообщений. На самом деле Muse синхронизировал более 187 000 записей из локальной базы данных конфиденциальной информации Mac, для чего требуется полный доступ к диску macOS.

Дэвид Синглтон, руководитель суперумной лаборатории Meta, ответил в Threads, что эта функция требует активного выбора пользователя для участия, однако Атен отрицал, что когда-либо включал этот переключатель, и заявил, что Meta не ответила на соответствующие вопросы. Amazon запретила Muse делать покупки на своем сайте, заявив, что помощник не указывал на свою ИИ-идентичность во время просмотра и, похоже, мог захватывать и хранить учетные данные пользователей. С момента запуска Muse был загружен более 2,5 миллионов раз, его реклама подчеркивает, что пользователи самостоятельно контролируют объем доступа.