Нью-Йорк Пост ставит под сомнение тесные связи METR с Anthropic

Генеральный директор Anthropic Дарио Амодеи недавно заявил, что такие третьи стороны, как METR, должны иметь долгосрочный доступ к передовым AI-компаниям, получая права, близкие к правам сотрудников, для проверки мер безопасности, инцидентов и процесса обучения моделей. Однако расследование «Нью-Йорк Пост» показало, что связи между METR и кругом безопасности AI, к которому принадлежит Anthropic, гораздо ближе, чем обычные внешние аудиты.

METR изначально назывался ARC Evals и был инкубирован в Центре исследований согласования, основанном Полом Кристиано. Кристиано ранее работал с Амодеи в OpenAI, и, как сообщает «Нью-Йорк Пост», они также были соседями по комнате; позже он стал одним из первых пяти попечителей Фонда долгосрочных выгод Anthropic. Текущий технический специалист METR Аджея Котра является женой Кристиано и ранее отвечала за финансирование безопасности AI в Coefficient Giving.

В этом году, когда METR оценивал Anthropic, OpenAI, Google и Meta, не существовало применимых политик конфликта интересов, и не проводились формальные процессы избегания. METR раскрыл, что среди сотрудников и сотрудников, непосредственно участвующих в проекте, как минимум 6 человек имеют близкие личные отношения с сотрудниками AI-компаний. METR заявляет, что не принимает финансирование от передовых AI-компаний и их сотрудников, и не взимает плату за оценку рисков, хотя эти компании предоставляют большое количество токенов моделей бесплатно.