Anthropic: В этом году было предотвращено несколько попыток разработки биологического оружия

Согласно отчету Financial Times, Anthropic заявила, что в этом году она предотвратила несколько попыток ученых использовать свои технологии для проведения связанных исследований, которые могут помочь в разработке биологического оружия. Компания привела пять случаев, утверждая, что соответствующие участники обошли меры контроля и запутали цели исследований, чтобы избежать мер безопасности. Anthropic в отчете о том, что модели использовались для злонамеренной деятельности, заявила, что надеется, что, поделившись этими случаями, она вызовет обсуждение в AI-индустрии и среди правительств стран о новых биологических рисках и способах их преодоления.

Среди случаев - исследователь из "недостаточно поддерживаемого региона", который использовал Claude и потратил несколько недель на планирование эксперимента, связанного с птичьим гриппом. Anthropic отметила, что механизмы безопасности ограничили это исследование на моделях с наименьшей производительностью и подчеркнула, что невозможно определить, намеревался ли указанный ученый причинить вред; информация, необходимая для разработки и производства биологического оружия, также может быть использована для разработки вакцин. Компания заблокировала упомянутые в отчете аккаунты, но не раскрыла название учреждения, к которому принадлежит исследователь, и страну, где произошел инцидент.