Telegram заявил, что подвергся атаке "вымогательства с удалением": временное удаление приложения из Apple App Store связано с внедрением запрещенного контента одним из пользователей

Сообщение ChainCatcher, основатель и CEO Telegram Павел Дуров заявил, что Telegram недавно был временно удален из App Store компанией Apple, причиной чего стало то, что один из пользователей разместил незаконный порнографический контент в открытой группе. Приложение было восстановлено в магазине через несколько часов.

Дуров отметил, что злоумышленники использовали уязвимость в технологии, вставив измененный с помощью ИИ незаконный контент в старые сообщения активных групп, скрывая его с помощью редактирования истории сообщений, что затрудняло обычным участникам группы своевременное обнаружение и сообщение о нарушении. Такие атаки относятся к поведению "вымогательства через удаление" (takedown extortion), когда злоумышленники с помощью автоматизированных аккаунтов вставляют нарушающий контент в открытые группы и сообщают об этом платформам, таким как Apple, пытаясь заставить администраторов групп заплатить выкуп, иначе они используют правила платформы для блокировки сообщества.

Дуров также добавил, что Telegram постоянно борется с незаконным контентом с помощью механизмов, таких как сообщения от пользователей, фильтрация ИИ и хеширование контента, и что данный инцидент не является системной проблемой платформы, а представляет собой целенаправленную атаку, использующую уязвимости правил.

Он также предупредил, что удаление приложения компанией Apple без предварительного обращения в Telegram может представлять риск для всех мобильных приложений, предоставляющих контент, созданный пользователями (UGC), и разработчики платформ должны повысить свою защиту от злонамеренных жалоб и "атак на удаление".