Anthropic обновила политику использования, запрещая злоупотребление моделями и вмешательство в выборы

Компания искусственного интеллекта Anthropic обновила политику использования 8 октября, добавив запрет на вмешательство в выборы, оружейное программное обеспечение и мониторинг. TechCrunch сообщает, что наиболее заметным изменением является явный запрет пользователям на длительное словесное злоупотребление моделью.

С обновлением в августе Claude был обучен завершать диалоги при продолжительном вредном или оскорбительном взаимодействии с пользователями, новая политика явно запрещает пользователям продолжать такие диалоги. В пояснении политики говорится, что это обновление применяется только в крайних случаях, когда пользователи многократно жестоко обращаются с моделью без распознаваемой цели, и не касается обычного недовольства пользователей, опровержений, тем темного творчества или тестирования и исследований модели.

Политика использования также запрещает широкие обманные действия, такие как использование Claude для управления фальшивыми аккаунтами или подделка новостных агентств, и в разделе "Не подрывайте демократические процессы" запрещает обман избирателей или нарушение выборов. Сообщается, что это изменение произошло после того, как Anthropic стремилась сотрудничать с известными религиоведами, компания в некоторых случаях пыталась убедить их, что Claude может быть сознательным или иметь душу.