Виталик: сохраняет открытость к замедлению или приостановке AI, можно договориться о приостановке в случае крайней необходимости

Сообщение ChainCatcher, Виталик на платформе X заявил, что у AI 2040 и его критиков существуют несовместимые мировоззрения относительно скорости и важности прогресса в области ИИ. AI 2040 считает, что если не будут приняты решительные меры для полного предотвращения, то к 2040 году в различных сценариях появится какая-то форма суперинтеллекта; критики считают, что AI 2040 недооценивает способность человечества к координации и угрожает свободе, но не рассматривают ASI как риск централизации власти.

Он считает, что если бы он был уверен, что текущая форма ИИ — это просто обычная технология, он бы ближе подошел к лагерю критиков; если бы он был уверен, что суперинтеллект по умолчанию появится в 2030 году, он бы ближе подошел к лагерю AI 2040. В то же время, из-за большой неопределенности, он продолжает оставаться открытым к замедлению или приостановке и чувствует дискомфорт по поводу позиции некоторых крупных компаний ИИ и интеллектуалов, утверждающих, что "открытый код вреден, идеальный результат — это контроль глобального доминирования за нашей стороной".

Виталик заявил, что он поддерживает платформу d/acc по важной причине: формальная верификация, криптография, безопасное и открытое оборудование, устойчивость к пандемиям, оборонительная биотехнология, безопасность продуктов и основных ресурсов, общественные системы восприятия и физическая безопасность без централизации власти — все эти направления стоит продвигать в рамках обеих мировоззренческих систем. Он также отметил, что план 2040 года стал более поддерживать открытый код и включает концепцию "взаимного обеспечения уничтожения вычислительных мощностей", что является улучшением по сравнению с тем, чтобы позволить немногим участникам избирательно лишать прав тех, кого они определяют.

На вопрос о том, существует ли способ избежать компромисса по поводу замедления или приостановки, Виталик считает, что можно заранее установить условия срабатывания и, когда будут выполнены достаточные условия в определенный временной промежуток, оставаться более открытым к замедлению или приостановке.

Он также отметил, что если бы он был Элон Маском или Заком, он бы значительно преобразовал Twitter в платформу, помогающую выявлять и способствовать таким крупным взаимовыгодным соглашениям, чтобы больше людей могли участвовать в обсуждении, но он считает, что это может быть наивно. В настоящее время он не видит никакого не наивного плана по переходу к ASI, поэтому склонен проявлять определенную терпимость к тем, кто пытается это сделать.