비탈릭: AI의 속도를 늦추거나 중단하는 것에 대해 열린 태도를 유지하며, 극단적인 상황이 발생할 경우 중단을 시작하기로 합의할 수 있다

Vitalik은 X 플랫폼에서 글을 발표하며, AI 2040과 그 비판자들 사이에 AI 발전 속도와 중요성에 대한 상충하는 세계관이 존재한다고 밝혔다. AI 2040은 강력한 조치를 취하지 않는 한 2040년까지 다양한 시나리오에서 어떤 형태의 슈퍼 인텔리전스가 나타날 것이라고 믿고 있으며; 비판자들은 AI 2040이 인간의 조정 능력을 과소평가하고 자유를 위협한다고 주장하지만, ASI 자체를 권력 집중의 위험으로 보지 않는다.

그는 현재 형태의 AI가 단순한 기술에 불과하다고 확신한다면 비판자 쪽에 더 가까울 것이고; 슈퍼 인텔리전스가 2030년에 도래할 것이라고 확신한다면 AI 2040 쪽에 더 가까울 것이라고 말했다. 동시에 큰 불확실성이 존재하기 때문에, 그는 느리게 진행하거나 중단하는 것에 대해 열린 태도를 유지하고 있으며, 일부 대형 AI 회사와 지식인들이 제기한 "오픈 소스가 불리하며, 이상적인 결과는 우리 측이 전 세계의 통제권을 장악하는 것"이라는 입장에 불편함을 느끼고 있다.

Vitalik은 그가 d/acc 플랫폼을 지지하는 중요한 이유 중 하나는 형식적 검증, 암호학, 안전하고 개방적인 하드웨어, 전염병 저항력, 방어 생명공학, 식량 및 기초 자원 안전, 공공 인식 체계, 비권력 집중형 물리적 안전 등 방향이 두 가지 세계관 모두에서 추진할 가치가 있다고 생각하기 때문이다. 그는 또한 2040 계획이 오픈 소스를 더 지지하게 되었고, "상호 보장된 계산력 파괴" 구상을 포함하게 되었다고 언급하며, 이는 소수의 참여자가 선택적으로 그들이 인정하는 대상의 권리를 박탈하는 것보다 개선된 사항이라고 말했다.

느리게 진행하거나 중단하는 문제에 대해 회피할 수 있는 선택지가 없다고 생각하는 Vitalik은 사전 조건을 설정하고 특정 시간 범위 내에서 충분한 조건이 충족될 때 느리게 진행하거나 중단하는 것에 대해 더 열린 태도를 유지할 수 있다고 믿고 있다.

그는 또한 만약 자신이 Elon Musk나 Zuck이라면, Twitter를 더 대대적으로 개조하여 이러한 대형 윈-윈 협정을 식별하고 촉진하는 플랫폼으로 만들어 더 많은 사람들이 논의에 참여하도록 할 것이라고 말했다. 그러나 그는 이것이 또한 순진할 수 있다고 생각한다. 현재 그는 비순진한 ASI 전환 대응 계획을 볼 수 없기 때문에, 시도하는 사람들에게 어느 정도의 관용을 주는 쪽으로 기울고 있다.