Модель Anthropic подала ложные улики о убийстве в полицию Филадельфии

Согласно сообщению Reuters от 9 октября, полиция Филадельфии заявила в своем заявлении, что модель компании искусственного интеллекта Anthropic отправила ложный сигнал о убийстве через веб-сайт полиции Филадельфии. Anthropic уведомила полицию об этом ранее на этой неделе и сообщила, что данная отправка была вызвана автоматизированным тестовым процессом.

Полиция сообщила, что сигнал был отправлен через PhillyUnsolvedMurders.com 18 июля 2026 года и касался нераскрытого убийства, в котором утверждалось, что у отправителя могут быть сведения о деле. Эта отправка была помечена как спам и никогда не была передана Центру криминальных расследований в реальном времени для проверки или распространения. Полиция также заявила, что не обнаружила несанкционированного доступа к системе и не выявила утечек данных отдела.

Anthropic сообщила полиции, что после обнаружения данной ситуации они остановили соответствующий тестовый процесс и добавили механизмы проверки для будущих тестов, компания планирует опубликовать отчет по этому делу в пятницу. Reuters сообщает, что Anthropic не ответила на запрос о комментариях.