Anthropic открыл доступ к классу сотрудников для METR, продвигая независимую оценку безопасности
15 октября Anthropic объявила, что начала предоставлять команде некоммерческой организации METR доступ, аналогичный доступу сотрудников, для оценки своих моделей и практик безопасности. Компания заявила, что в прошлом месяце она обязалась усилить независимую оценку третьими сторонами и подписала «Соглашение о суперинтеллекте» с Белым домом, которое включает обязательство сотрудничать с независимыми внешними аудиторами или оценщиками. В прошлом году Anthropic сотрудничала с METR для проверки нескольких отчетов о рисках, и METR опубликует результаты своей оценки рисков.Anthropic обеспечила 6 сотрудников METR корпоративным оборудованием, офисным пространством, а также доступом к внутренним инструментам и системам, которые примерно соответствуют доступу их собственной команды оценки рисков. За исключением нескольких четко определенных категорий, таких как данные клиентов, информация о привилегиях адвоката и клиента, информация о структуре модели и т.д., сотрудников поощряют делиться информацией так же, как они делятся с коллегами, занимающимися работой по выравниванию рисков. METR может публиковать анализ уровней рисков, событий или практик, Anthropic не может запретить публикацию, но может запросить удаление заранее определенной узкой категории информации; METR может публично сообщать о случаях редактирования и объяснять, считает ли она редактирование разумным, не раскрывая удаленное содержание. Эта договоренность ограничена работой небольшой команды в рамках исполнимого соглашения, другие сотрудники METR изолированы от работы с этой командой.Anthropic также сотрудничает с SecureBio и Accenture для проведения оценок и ведет предварительные обсуждения с другими организациями, включая Hugging Face. SecureBio проверяет раздел о химическом и биологическом оружии в отчете о рисках за август 2026 года, ранее была завершена и опубликована пилотная проверка предыдущего отчета о рисках.
