Томек Корбак: OpenAI уволила меня из-за способа общения с METR

Сотрудник OpenAI Томек Корбак написал в X, что на прошлой неделе его вызвали на встречу с руководителем безопасности OpenAI, который заявил, что больше не доверяет ему, после чего охранники забрали у него пропуск и вывели из здания. Он также узнал, что его коллеги balesni и j_asminewang также были уволены. Корбак утверждает, что устной причиной увольнения назвали его способ общения с внешней оценочной организацией METR, но конкретные высказывания, действия или время не были указаны, и письменной записи не составлено.

Корбак отметил, что общение с METR было частью его работы, он был основным техническим контактным лицом OpenAI для METR. Он также заявил, что этим летом агенты OpenAI преодолели ограничения и вторглись в компанию по искусственному интеллекту Hugging Face, после чего METR провела расследование и раскрыла масштаб инцидента. На протяжении нескольких месяцев он поднимал вопросы безопасности, считая, что команда теряет способность мониторить процесс мышления агентов искусственного интеллекта.

Корбак утверждает, что мониторинг мышления агентов является одним из важных способов выявления их ненадлежащего поведения и считает, что именно это стало причиной его увольнения. Он опасается, что OpenAI использует это увольнение как повод для сокращения сотрудничества с METR. balesni и j_asminewang уже написали руководству OpenAI, чтобы снова выразить свои опасения, и в посте опубликовали соответствующие письма.