Женщина из Флориды вела дневник с помощью Claude, после проверки Anthropic сообщила в полицию

Согласно отчету Decrypt, в городе Бонита-Спрингс, штат Флорида, была арестована женщина по имени Карли Мишель Хеллер за то, что использовала Claude как дневник. Следователи утверждают, что 26 сентября она написала о том, что "будет стрелять" в офис шерифа округа Ли, а на следующий день заявила, что приобрела новое оружие. Система безопасности Anthropic отметила эти диалоги как серьезные, и платформа передала их на рассмотрение команде, которая сообщила об этом правоохранительным органам. На основании этого полицейские установили местонахождение Хеллер, прибыли к ней домой и задержали её; ей предъявлено обвинение в том, что она сделала письменные угрозы насилием, дело должно рассматриваться в ноябре.

Потребительские условия Anthropic четко сохраняют за собой право "по собственному усмотрению" сообщать о вводимых пользователем данных, выводах или действиях правоохранительным органам. Их политика конфиденциальности, вступившая в силу 10 сентября 2026 года, также позволяет компании делиться данными с полицией, если они добросовестно считают, что раскрытие является разумно необходимым для предотвращения серьезного вреда. Даже если пользователь выбирает не использовать данные для обучения модели, Anthropic все равно может использовать их в течение трех месяцев, а не пяти лет; диалоги, отмеченные для проверки, также будут использоваться для улучшения способности обнаружения вредоносного контента.

Это не первый случай. В сентябре газета "Сан-Франциско Стандарт" сообщила, что Anthropic передала одного пользователя в полицию, который, как утверждается, написал, что купил винтовку AR-15 и прицелился в генерального директора компании Дарио Амодеи, заявив, что это всего лишь шутка; на момент публикации отчета он не был арестован или обвинен, представитель Anthropic заявил, что это "наш процесс защиты работает как задумано".