Олдман представил сотрудникам три пути безопасной разработки супер ИИ

Генеральный директор OpenAI Сэм Альтман на прошлой неделе представил сотрудникам три варианта безопасной разработки супер ИИ. Первый вариант заключается в создании глобальной регулирующей организации, подобной Международному агентству по атомной энергии, для проверки передовых моделей и аудита мер безопасности. По словам информированных источников, Альтман склоняется к этому пути.

Второй вариант предполагает объединение крупных лабораторий ИИ в одну организацию, подобно Европейскому центру ядерных исследований, или совместную разработку через единый орган, вместо того чтобы продолжать конкурировать друг с другом. Третий, самый радикальный вариант, который он назвал «планом Элиезера»: одна компания ИИ первоочередно достигнет рекурсивного самоулучшения, а затем, обладая подавляющей экономической мощью, контролирует вычислительные мощности, что делает невозможным для других разработчиков догнать её. Альтман описал эту идею как «расплавление GPU всех остальных компаний», при этом отметил, что этот план очень плохой и предназначен только для иллюстрации крайних возможностей.

Идея «расплавления GPU» исходит от исследователя безопасности ИИ Элиезера Юдковского. В 2021 году он предложил мысленный эксперимент, в котором супер ИИ создает самовоспроизводимые наномашины для расплавления глобальных GPU, и отметил, что это лишь крайний пример для иллюстрации силы вмешательства, а не предложение к исполнению. OpenAI в 2023 году предложила создать «AI-версию Международного агентства по атомной энергии», а глава Google DeepMind Хассабис также выступал за создание «AI-версии CERN». В настоящее время OpenAI, Google и Anthropic планируют создать совместную организацию по стандартам безопасности в конце этого года или в начале следующего, но существуют разногласия по поводу ответственности за тестирование безопасности моделей. Альтман надеется установить ограничения на скорость разработки ИИ, при этом отметил, что OpenAI в настоящее время не может уступить конкурентное преимущество соперникам.