Аотеман

Генеральный директор OpenAI Сэм Альтман на прошлой неделе представил сотрудникам три варианта безопасной разработки супер ИИ. Первый вариант заключается в создании глобальной регулирующей организации, подобной Международному агентству по атомной энергии, для проверки передовых моделей и аудита мер безопасности. По словам информированных источников, Альтман склоняется к этому пути.Второй вариант предполагает объединение крупных лабораторий ИИ в одну организацию, подобно Европейскому центру ядерных исследований, или совместную разработку через единый орган, вместо того чтобы продолжать конкурировать друг с другом. Третий, самый радикальный вариант, который он назвал «планом Элиезера»: одна компания ИИ первоочередно достигнет рекурсивного самоулучшения, а затем, обладая подавляющей экономической мощью, контролирует вычислительные мощности, что делает невозможным для других разработчиков догнать её. Альтман описал эту идею как «расплавление GPU всех остальных компаний», при этом отметил, что этот план очень плохой и предназначен только для иллюстрации крайних возможностей.Идея «расплавления GPU» исходит от исследователя безопасности ИИ Элиезера Юдковского. В 2021 году он предложил мысленный эксперимент, в котором супер ИИ создает самовоспроизводимые наномашины для расплавления глобальных GPU, и отметил, что это лишь крайний пример для иллюстрации силы вмешательства, а не предложение к исполнению. OpenAI в 2023 году предложила создать «AI-версию Международного агентства по атомной энергии», а глава Google DeepMind Хассабис также выступал за создание «AI-версии CERN». В настоящее время OpenAI, Google и Anthropic планируют создать совместную организацию по стандартам безопасности в конце этого года или в начале следующего, но существуют разногласия по поводу ответственности за тестирование безопасности моделей. Альтман надеется установить ограничения на скорость разработки ИИ, при этом отметил, что OpenAI в настоящее время не может уступить конкурентное преимущество соперникам.

Представитель OpenAI сообщил, что генеральный директор OpenAI Сэм Альтман на следующей неделе во время сессии Генеральной Ассамблеи ООН в Нью-Йорке лично выступит на открытом заседании Совета Безопасности ООН. Совет, состоящий из 15 стран-членов, запланировал заседание в среду, посвященное искусственному интеллекту и международной безопасности. Это заседание созвано Францией, которая занимает пост непостоянного члена Совета в сентябре, и будет проводиться министром иностранных дел Франции Жан-Ноэлем Баро.Дипломатические источники сообщают, что ожидается участие руководства Anthropic, но это еще не подтверждено. Ожидается, что выступление Альтмана сосредоточится на международной координации, совместных стандартах безопасности и мерах, предпринятых OpenAI для того, чтобы принести пользу мировому населению. Концептуальная записка, подготовленная Францией для заседания, упоминает риски злоупотребления искусственным интеллектом, а также срочность принятия мер для содействия безопасному и ответственному развитию. Совет Безопасности уже проводил заседание по рискам искусственного интеллекта в 2023 году.