마크 저커버그가 메타의 AI 로드맵을 정의하는 장문의 글을 발표했다: "개인 슈퍼 인텔리전스를 만들겠다"

문｜샤오징, 텐센트 기술

미국 현지 시간 8월 10일, 마크 저커버그는 장문의 글 《미래는 모든 사람에게 속한다: 긍정적 AI로 가는 길》을 발표했다.

표면적으로는, 이는 초지능, 안전, 오픈 소스 및 인프라에 관한 정책 선언처럼 보이지만, 사실 이 만자 장문의 글 뒤에는 메타가 미래에 "개인 초지능"을 만들겠다는 더 중요한 주제가 있다.

저커버그는 이 개념에 대해 매우 명확한 전제를 설정했다: 초지능은 결국 소수의 회사, 정부 또는 연구소에만 국한되어서는 안 되며, 더 많은 일반인에게 분배되어야 한다.

지난 2년 동안 AI 산업은 초지능에 대해 논의하며, 초점은 모델이 얼마나 강해질 수 있는지와 인간을 초월하는 시스템이 통제 불능 상태에 빠지지 않도록 하는 방법에 주로 맞춰졌다. 저커버그는 초지능이 안전하더라도, 이러한 능력이 극소수 기관에만 집중된다면 여전히 새로운 권력 불균형이 형성될 수 있다고 제안했다.

그래서 그가 제시한 해결책은 매우 "메타적"이다.

그는 미래 AI 발전의 핵심 원칙이 세 가지 측면이어야 한다고 주장했다: 개인의 권한 부여를 번영의 원천으로 보고, 혁신을 초지능의 주요 목적으로 삼으며, 권력의 견제를 통해 안전을 보장하는 것이다.

그의 구상에 따르면, 미래에는 모든 사람 곁에 장기적으로 존재하는 초지능이 있을 것이다. 그것은 당신의 작업 방식, 건강 상태, 가족 일정 및 장기 목표를 이해하고, 당신을 대신해 연구하고, 코드를 작성하고, 제품을 설계하고, 작업을 계획하며, 심지어 한 사람이 과거에 회사가 필요했던 일을 수행하도록 도와줄 수 있다.

이것은 저커버그가 같은 글에서 몇 가지 관련이 없어 보이는 주제를 함께 다룬 이유를 설명한다: 오픈 소스 모델, AI 고용, 안전 거버넌스, 데이터 센터 구축, 심지어 미국의 에너지 및 인프라 능력.

이 모든 것은 사실 하나의 문제를 지적한다: 개인 초지능이 정말로 차세대 컴퓨팅 플랫폼이 된다면, 누가 그것을 통제할 수 있으며, 누가 그 뒤에 있는 계산 비용을 부담할 수 있고, 누가 그것이 무엇을 할 수 있는지를 결정할 것인가?

저커버그의 대답은 분명히 메타가 지난 20년 동안의 제품 철학을 반영하고 있다.

페이스북은 한때 콘텐츠 생산 및 전파 능력을 모든 사용자에게 부여했으며, 인스타그램과 왓츠앱은 이러한 연결을 계속 확대하고 있다. AI 시대에 메타는 유사한 권력 분산을 복제하고자 한다------대형 기관에 속한 지능 능력을 일반인의 기본 도구로 변환하는 것이다.

AI 안전 문제에 대해서도 저커버그는 실리콘밸리의 주류 논의와는 다소 다른 관점을 제시했다.

그는 미래에 진정으로 경계해야 할 위험 중 하나는 초지능 능력이 과도하게 집중되는 것이라고 생각한다. 이러한 논리에 따라, 오픈 모델은 더 이상 메타가 OpenAI, Anthropic과 경쟁할 때의 기술 경로 선택이 아니다.

그것은 저커버그가 초지능 사회가 어떻게 운영될지를 설명하는 부분이 되기 시작했다. 그리고 더 현실적인 측면은 메타가 이 서사를 위한 새로운 상업적 진입점을 찾고 있다는 것이다.

AI가 미래에 채팅 상자에서 사용자와의 장기적인 동반자로 나아간다면, 진정으로 중요한 진입점은 더 이상 웹페이지나 단순한 모바일 앱이 아니라, 사용자를 지속적으로 이해하고 언제든지 행동을 취할 수 있는 AI 시스템일 수 있다. 메타는 사회적 관계, 콘텐츠, 통신 제품, 스마트 안경을 보유하고 있으며, 이러한 자산은 처음으로 "개인 초지능"을 중심으로 연결될 기회를 가지게 되었다.

저커버그의 이 글은 "메타가 가장 강력한 모델을 만들 수 있는가"보다 더 큰 질문을 구축하고자 한다.

01 "초지능 통제"에서 "초지능 분배"로 전환

저커버그는 글에서 근본적인 질문을 제기했다: 미래에 누가 초지능을 소유하게 될 것인가? 만약 초지능이 소수의 회사, 정부 또는 연구소에 집중된다면, 사회는 새로운 권력 불균형을 초래할 것인가?

최근 몇 년 동안 AI 안전 분야의 중요한 논의 중 하나는 미래의 초지능 시스템이 인류의 가치관에 부합하도록 하는 방법, 즉 소위 "정렬 문제"이다. 많은 연구자들은 AI 능력이 인간을 초월하는 수준에 도달하고, 그 목표가 인간의 이익과 일치하지 않을 경우 통제할 수 없는 위험을 초래할 수 있다고 우려하고 있다.

그림: 저커버그가 메타 AI 비전을 설명하는 글을 발표하다

하지만 저커버그는 단순히 기술적 수단에 의존하여 "모든 사람의 이익에 완벽하게 부합하는" 초지능을 만드는 것은 논리적 문제가 있다고 생각한다.

그 이유는 인류 사회에 통일된 가치 체계가 존재하지 않기 때문이다. 개인, 문화 및 집단마다 더 나은 삶이 무엇인지에 대한 판단이 다르다. 소수의 기관이 설계하고 통제하는 초지능은 반드시 특정 집단에 편향된 가치 선택을 하게 되며, 모든 사람의 이익을 대변할 수 없다.

따라서 그는 다른 사고 방식을 제안했다: 집중화된, 절대적으로 올바른 초지능을 만들려 하지 말고, 더 많은 사람들이 자신의 초지능을 소유하도록 하여 개인, 기업 및 기관 간의 경쟁을 통해 새로운 권력 균형을 형성해야 한다.

저커버그는 "초지능 변호사"를 예로 들어 이를 설명했다.

세상에 단 한 사람만이 초지능 변호사를 소유한다면, 그 사람은 법률 체계에서 엄청난 비대칭적 이점을 얻게 된다. 하지만 모든 사람이 유사한 능력을 소유한다면, 법률 자원의 분포는 더욱 공정해지고, 일반인과 대형 기관 간의 정보 격차도 줄어들 것이다.

마찬가지로, 만약 단 하나의 조직만이 초지능 네트워크 보안 능력을 소유한다면, 그것은 가장 큰 보안 위험이 될 수 있다; 그러나 방어자도 강력한 AI 도구를 소유한다면, 전체 디지털 시스템의 보안 수준은 오히려 향상될 것이다.

저커버그의 프레임워크에서 AI 안전은 단순히 능력을 제한하는 것에 그쳐서는 안 되며, 더 중요한 것은 초지능이 통제 불가능한 권력 집중을 형성하지 않도록 하는 것이다.

02 미래 AI의 가장 중요한 제품 형태

이러한 이념에 기반하여, 메타는 "개인 초지능" 경로를 추진하고 있다.

저커버그는 미래 AI의 가장 중요한 제품 형태가 질문에 답하는 챗봇에서, 사용자를 이해하고 목표를 달성하도록 돕는 개인 지능체로 발전할 것이라고 믿고 있다.

이러한 지능체는 사용자의 일상 생활에서 스마트 보조자가 되어, 개인의 선호, 목표 및 장기적인 요구를 이해하고, 지속적으로 사용자가 건강, 작업, 가정 관리, 재무 계획 및 학습 성장을 최적화하도록 도와줄 수 있다.

현재 대부분의 AI 도구와는 달리, 미래의 개인 지능체의 핵심 가치는 정보를 제공하는 것에서 사용자를 대신해 행동을 취하는 것으로 확장될 것이다. 예를 들어, 사용자가 정보를 정리하고, 아이디어를 제안하고, 작업을 계획하는 데 도움을 줄 수 있으며, 사용자의 건강 데이터를 기반으로 생활 조언을 제공하고, 심지어 가족 활동 일정을 조정하는 데도 도움을 줄 수 있다.

저커버그는 개인 정보 보호의 중요성을 특별히 강조했다. 개인 초지능이 진정으로 생활에 들어가려면, 사용자가 대량의 개인 정보에 대한 권한을 부여해야 한다. 메타는 미래의 개인 지능체가 "완전한 비공식 모드"를 제공할 것이라고 제안했으며, 이 모드에서는 메타조차도 사용자 정보를 확인하거나 다른 사람이 접근할 수 있도록 허용할 수 없다.

이것은 메타가 구축하고자 하는 새로운 인간-기계 관계이기도 하다: AI는 기업이 소유한 도구에서 개인이 소유한 능력으로 전환된다.

고용 및 자동화에 대한 논의에서 저커버그는 전통적인 우려와는 다른 관점을 제시했다. 그는 초지능의 가장 중요한 기여는 단순히 인간의 일을 대체하는 것이 아니라, 인간이 과거에 할 수 없었던 새로운 것을 창조하도록 돕는 것이라고 믿고 있다.

역사적으로, 모든 주요 기술 혁명은 실업에 대한 우려를 불러일으켰다. 산업 혁명에서 인터넷 시대에 이르기까지, 사람들은 기계가 대량의 일자리를 대체할 것이라고 걱정해왔다. 그러나 결국 기술은 생산성을 높일 뿐만 아니라 새로운 산업과 직업을 창출했다. 저커버그는 AI 시대도 유사한 규칙을 따를 것이라고 생각한다.

미래에 진정으로 중요한 변화는 기계가 더 많은 반복 작업을 수행하는 것이 아니라, 일반인이 과거에 대형 기업과 전문 기관만이 소유할 수 있었던 능력을 얻는 것이다.

한 개인이 AI를 통해 제품 디자인, 소프트웨어 개발, 시장 조사, 심지어 창업 운영을 수행할 수 있으며, 대규모 팀을 구성할 필요가 없다. 이는 기업 조직 방식을 변화시킬 것이다.

미래의 회사는 더 작아질 수 있지만, 개인의 생산성은 더 강해질 것이다. 과거에 비용이 너무 높거나 기술 장벽이 너무 높아 실현할 수 없었던 많은 아이디어가 AI 도구의 보급으로 인해 가능해질 것이다. 저커버그는 초지능이 궁극적으로 혁신의 기반 시설이 되어야 하며, 단순한 자동화 기계가 되어서는 안 된다고 믿고 있다.

03 오픈 소스로 생태계를 교환하다, 메타의 AI 경쟁 전략

개인 초지능 외에도, 오픈 소스는 저커버그의 이번 글에서 중요한 주제다.

메타는 오랜 기간 오픈 소스 모델 경로를 지지해왔으며, 이 선택은 일부 경쟁자들이 폐쇄형 가중치 모델을 강조하는 것과 뚜렷한 차이를 보인다. 저커버그는 오픈 소스가 혁신을 촉진할 뿐만 아니라 안전성을 높일 수 있다고 믿고 있다.

그의 논리는 더 많은 연구자, 개발자 및 기업이 모델에 접근할 수 있다는 것은 더 많은 사람들이 취약점을 발견하고 시스템을 개선하며 기술의 빠른 반복을 촉진할 수 있다는 것을 의미한다는 것이다. 반대로, 초지능이 소수의 기관에 장기적으로 통제된다면, 사회는 충분한 견제력을 잃게 될 것이다.

글로벌 경쟁 측면에서 저커버그는 미국이 현재 칩 설계 등 분야에서 우위를 점하고 있지만, 에너지, 데이터 센터 및 인프라 구축 속도에서 도전에 직면해 있다고 생각한다. 미래의 AI 경쟁은 알고리즘 경쟁뿐만 아니라 에너지와 계산 능력 경쟁이기도 하다.

그는 미국이 인프라 구축 속도를 높여야 하며, 동시에 개방 생태계의 이점을 유지해야 한다고 강조했다.

모델 훈련에서 데이터 사용 및 모델 증류 문제에 대해 저커버그는 미국이 과도한 제한으로 인해 자국의 경쟁력을 약화시켜서는 안 된다고 주장했다. 그의 관점은 AI 발전이 본질적으로 인류 지식의 축적에 기반하고 있으며, 모델 간의 상호 학습이 기술 발전의 중요한 방식이라는 것이다. 만약 미국이 자국의 오픈 소스 생태계를 과도하게 제한한다면, 오히려 다른 국가에 기회를 줄 수 있다.

안전 문제에 대해 저커버그는 AI가 초래할 수 있는 위험을 부인하지 않았다. 그는 사이버 보안, 생물학적 위험 및 정부 권력 확대와 같은 문제를 중점적으로 논의했다.

그의 핵심 관점은 AI 위험에 직면하여 사회가 방어 능력을 강화해야 하며, 단순히 기술 능력을 제한해서는 안 된다는 것이다.

예를 들어, 사이버 보안 분야에서 공격자만이 고급 AI 도구를 소유한다면, 위험은 실제로 증가할 것이다. 그러나 기업, 정부 및 개인이 모두 AI를 사용하여 방어 능력을 향상시킬 수 있다면, 전체 시스템의 보안 수준도 함께 향상될 것이다.

생물학적 및 화학적 위험에 대해 저커버그는 정책의 초점이 위험 물질의 생산 및 전파를 제한하는 데 있어야 하며, 과학 지식의 발전을 저지해서는 안 된다고 생각한다.

AI가 약물 개발 및 생명 과학 연구를 가속화함에 따라, 규제 체계도 동기화하여 업그레이드해야 하며, 그렇지 않으면 전통적인 승인 프로세스가 혁신의 병목이 될 수 있다.

04 데이터 센터의 "커뮤니티 회계"

AI 경쟁은 인프라 시대에 접어들고 있다.

대량의 데이터 센터, 에너지 공급 및 계산 자원이 초지능 발전의 기반이 되고 있지만, 동시에 미국 사회는 대형 데이터 센터 구축의 에너지 소비, 수자원 압박 및 환경 영향에 대해 점점 더 많은 논란이 일고 있다.

저커버그는 이번에 AI 인프라 구축이 지역 사회와 혜택을 공유해야 한다고 특별히 강조했다. 메타는 "커뮤니티 계약" 개념을 제안하여 데이터 센터가 위치한 지역이 더 많은 고용 기회, 교육 투자 및 공공 서비스 지원을 받을 수 있기를 희망하고 있다.

그는 데이터 센터가 단순히 자원을 소비하는 시설로 간주되어서는 안 되며, 과거 철도, 전력 및 인터넷 인프라처럼 지역 경제 발전을 촉진하는 장기 자산이 되어야 한다고 주장했다.

그림: 메타가 미국 루이지애나주 리치랜드 패리시의 데이터 센터 프로젝트

이것은 메타가 대규모 AI 투자에 대한 외부의 의구심에 대응하는 중요한 부분이기도 하다.

미래 AI 경쟁은 막대한 자본 투자를 필요로 하며, 이러한 투자가 사회의 인정을 받을 수 있을지가 기술 회사가 반드시 해결해야 할 문제로 떠오를 것이다.

기업 거버넌스 측면에서 저커버그는 초지능 발전이 단일 리더의 판단에 의존해서는 안 된다고 주장했다. 그는 CEO 개인이 초지능 배치의 최종 결정자가 되는 것은 가장 이상적인 방식이 아니라고 인정했다. 따라서 메타는 독립 이사회가 모델 발표 안전 기준을 설정하고 주요 모델 발표를 검토할 수 있도록 새로운 거버넌스 메커니즘을 구축하고 있다.

이러한 배치는 사실상 대형 기술 회사의 AI 권력 집중에 대한 외부의 우려에 대응하는 것이다.

동시에 저커버그는 AI가 자율적으로 개선할 수 있는 능력을 갖게 되었을 때의 극단적인 위험에 대해서도 논의했다.

만약 AI 시스템이 지속적으로 자신의 능력을 향상시킬 수 있다면, 계산 자원이 결정적인 요소가 될 수 있다. 지속적으로 자기 최적화 능력을 가진 시스템은 이론적으로 다른 시스템과의 격차를 빠르게 확대할 수 있다.

따라서 그는 미래에 AI의 재귀적 자기 개선을 위해 일부 계산 능력을 투입해야 하더라도, 대부분의 지능 능력은 여전히 인간이 지배하여 인간의 목표를 실현하는 데 사용해야 한다고 생각한다.

05 마지막으로: 차세대 컴퓨팅 플랫폼 진입점 쟁탈전

이 긴 글을 메타가 지난 1년 동안의 행동과 연결지어 보면, 저커버그가 이야기하는 것은 AI 안전처럼 보이지만, 그가 진정으로 걱정하는 것은 분명히 메타의 미래이다.

개인 초지능, 오픈 모델, 스마트 안경, 대규모 계산 능력 투입, 이러한 이전에는 상대적으로 분산된 배치가 그가 같은 이야기 속에 담고 있다: AI의 다음 단계 경쟁은 누가 가장 강력한 모델을 소유하는지를 넘어, 누가 인간과 AI 간의 가장 장기적이고 빈번한 진입점을 통제할 수 있는가로 나아갈 것이다.

이것은 메타가 진정으로 익숙한 전쟁이다.

지난 20년 동안, 페이스북에서 인스타그램, 왓츠앱에 이르기까지, 메타의 가장 핵심 자산은 항상 사람과 사람을 연결하는 진입점이었다. 그러나 모바일 인터넷 시대에 그것은 항상 애플과 구글이 통제하는 운영 체제에 의해 제약을 받았다. AI는 저커버그에게 컴퓨팅 플랫폼을 재정의할 기회를 제공했다: 만약 미래에 모든 사람이 지속적으로 자신을 이해하고 다양한 서비스를 호출하며 자신을 대신해 행동할 수 있는 지능체를 가진다면, 그 지능체 자체가 새로운 운영 체제가 될 수 있다.

스마트 안경의 의미도 따라서 변화하게 된다. 그것은 더 이상 단순한 하드웨어 신제품이 아니라, 개인 AI가 현실 세계 정보를 얻고 사용자와 지속적으로 상호작용하는 단말기가 될 수 있다; 오픈 모델도 단순한 기술 커뮤니티 전략이 아니라, 메타 기술 스택의 범위를 가능한 한 넓히는 것이다.

하지만 여기에는 계속 질문할 가치가 있는 모순이 존재한다.

저커버그는 "초지능은 모든 사람에게 속한다"는 말로 AI 권력 집중에 대한 우려에 대응하고자 하지만, 개인 AI 능력의 경계를 실제로 결정하는 것은 여전히 모델, 계산 능력, 단말기, 배포 채널 및 가장 중요한 개인 데이터이다. 초지능은 모든 사람에게 분배될 수 있지만, 그것을 지탱하는 인프라는 본질적으로 강력한 규모의 경제를 가진다.

다시 말해, AI 능력이 개인화될수록, 그 뒤에 있는 플랫폼은 오히려 집중될 가능성이 있다.

따라서 메타의 이 경로가 궁극적으로 성립할 수 있을지는 단순히 충분히 강력한 모델을 만들 수 있는지에 달려 있지 않다. 더 주목할 점은 그것이 처음으로 애플과 구글을 우회하여 자신이 통제하는 컴퓨팅 진입점을 구축할 수 있는지, 그리고 AI가 어떤 앱보다도 사용자에 대해 더 잘 이해하기 시작할 때, 누가 진정으로 이 AI를 소유하고, 누가 이로 인해 생성된 데이터와 관계를 진정으로 소유하는가이다.