Марк Цукерберг опубликовал длинное сообщение, в котором определил дорожную карту AI Meta: необходимо создать "персональный суперинтеллект"

Автор｜Сяо Цзин, Tencent Technology

10 августа по местному времени в США Марк Цукерберг опубликовал длинное сообщение под названием «Будущее принадлежит каждому: путь к позитивному ИИ».

На первый взгляд, это политическая декларация о суперразуме, безопасности, открытом исходном коде и инфраструктуре, но на самом деле за этой многослойной статьей скрывается более важная основная идея: будущее Meta — это «личный суперразум».

Цукерберг установил очень четкое условие для этой концепции: суперразум в конечном итоге не должен находиться только в руках немногих компаний, правительств или лабораторий; он должен быть доступен большему числу обычных людей.

В последние два года в индустрии ИИ обсуждали суперразум, сосредоточив внимание в основном на том, насколько сильными могут стать модели и как избежать потери контроля над системой, обладающей способностями, значительно превышающими человеческие. Цукерберг предложил, что даже если суперразум безопасен, если эта способность в конечном итоге окажется в руках очень немногих учреждений, это все равно может привести к новому дисбалансу власти.

Поэтому его решение очень «Meta».

Он предложил, что основными принципами будущего развития ИИ должны быть три аспекта: рассматривать расширение прав и возможностей личности как источник процветания, рассматривать инновации как основную цель суперразума и обеспечивать безопасность через систему сдержек и противовесов.

В его представлении в будущем у каждого человека будет долгосрочный суперразум. Он понимает, как вы работаете, ваше здоровье, семейные обстоятельства и долгосрочные цели, может исследовать, писать код, разрабатывать продукты, планировать задачи и даже помогать человеку выполнять то, что раньше требовало бы целой компании.

Это также объясняет, почему Цукерберг в одной и той же статье объединил несколько тем, которые на первый взгляд не совсем связаны: открытые модели, занятость в ИИ, безопасное управление, строительство центров обработки данных и даже энергетические и инфраструктурные возможности США.

Все это на самом деле указывает на один и тот же вопрос: если личный суперразум действительно станет следующей вычислительной платформой, кто сможет контролировать его, кто сможет нести затраты на вычислительные мощности, и кто решит, что он сможет делать?

Ответ Цукерберга явно отражает философию продуктов Meta за последние двадцать лет.

Facebook когда-то передал возможности производства и распространения контента каждому пользователю, Instagram и WhatsApp продолжают расширять эту связь. В эпоху ИИ Meta хочет повторить подобное делегирование власти — превратить интеллектуальные возможности, принадлежащие крупным учреждениям, в базовые инструменты для обычных людей.

Даже в вопросах безопасности ИИ Цукерберг предложил точку зрения, которая не совсем совпадает с мейнстримом в Силиконовой долине.

Он считает, что одним из действительно опасных рисков в будущем является чрезмерная концентрация возможностей суперразума. Следуя этой логике, открытые модели становятся не просто выбором технологического пути в конкуренции Meta с OpenAI и Anthropic.

Они начинают становиться частью представления Цукерберга о том, как будет функционировать общество суперразума. А более реальный аспект заключается в том, что Meta также ищет новые коммерческие входы для этой нарративной структуры.

Если ИИ в будущем перейдет от чат-ботов к долгосрочным личным интеллектуальным агентам, то действительно важным входом могут стать не веб-страницы и не только мобильные приложения, а система ИИ, которая постоянно понимает пользователя и может действовать в любое время. У Meta есть социальные связи, контент, коммуникационные продукты и умные очки, и эти активы впервые имеют возможность быть объединены вокруг «личного суперразума».

Статья Цукерберга стремится сформулировать более широкий вопрос, чем «может ли Meta создать самый мощный модель».

01 Переход от "контроля над суперразумом" к "распределению суперразума"

Цукерберг в статье поднял фундаментальный вопрос: кто будет владеть суперразумом в будущем? Если суперразум сосредоточится в руках немногих компаний, правительств или лабораторий, приведет ли это к новому дисбалансу власти в обществе?

В последние годы одной из важных тем обсуждения в области безопасности ИИ является то, как сделать так, чтобы будущие системы суперразума соответствовали человеческим ценностям, то есть так называемая «проблема согласования». Многие исследователи беспокоятся о том, что если способности ИИ достигнут уровня, значительно превышающего человеческий, и его цели не будут совпадать с интересами человечества, это может привести к неконтролируемым рискам.

Изображение: Цукерберг объясняет видение Meta AI

Но Цукерберг считает, что полагаться только на технические средства для создания «совершенно соответствующего интересам всех» суперразума само по себе имеет логическую проблему.

Причина в том, что в человеческом обществе не существует единой системы ценностей. Разные люди, культуры и группы имеют разные суждения о том, что такое лучшая жизнь. Суперразум, разработанный и контролируемый немногими учреждениями, неизбежно будет склоняться к определенным группам в выборе ценностей и не сможет представлять интересы всех.

Поэтому он предложил другой подход: не пытаться создать централизованный, абсолютно правильный суперразум, а позволить большему числу людей иметь свои собственные суперумы, формируя новый баланс власти через конкуренцию между индивидуумами, предприятиями и учреждениями.

Цукерберг использует «суперразумного юриста» в качестве примера, чтобы проиллюстрировать это.

Если в мире только один человек обладает суперразумным юристом, этот человек получит огромное асимметричное преимущество в правовой системе. Но если у каждого человека будет аналогичная способность, распределение юридических ресурсов станет более справедливым, а разрыв в информации между обычными людьми и крупными учреждениями сократится.

Аналогично, если только одна организация обладает суперразумными возможностями в области кибербезопасности, она может стать крупнейшим риском безопасности; но если защитники также обладают мощными инструментами ИИ, уровень безопасности всей цифровой системы на самом деле повысится.

В рамках концепции Цукерберга безопасность ИИ не может зависеть только от ограничения возможностей; гораздо важнее избежать концентрации власти, которую невозможно сдерживать.

02 Самая важная форма продукта ИИ в будущем

Основываясь на этой идее, Meta продвигает концепцию «личного суперразума».

Цукерберг считает, что самая важная форма продукта ИИ в будущем будет эволюционировать от чат-бота, отвечающего на вопросы, к долгосрочному пониманию пользователя и помощи ему в достижении целей личного интеллектуального агента.

Этот агент станет интеллектуальным помощником в повседневной жизни пользователя, способным понимать личные предпочтения, цели и долгосрочные потребности, а также постоянно помогать пользователю оптимизировать здоровье, работу, управление семьей, финансовое планирование и обучение.

В отличие от большинства современных инструментов ИИ, основная ценность будущего личного агента будет заключаться не только в предоставлении информации, но и в представлении интересов пользователя. Например, он может помочь пользователю организовать информацию, предложить идеи, спланировать задачи, а также предоставить советы по образу жизни на основе данных о здоровье пользователя и даже помочь в организации семейных мероприятий.

Цукерберг особенно подчеркивает важность конфиденциальности. Если личный суперразум действительно должен войти в жизнь, он должен получить разрешение пользователя на доступ к большому количеству личной информации. Meta предлагает, что в будущем личные интеллектуальные агенты будут предоставлять режим «полной конфиденциальности», в котором даже Meta не сможет просматривать информацию пользователя или разрешать другим доступ к ней.

Это также новая модель взаимодействия между человеком и машиной, которую пытается установить Meta: ИИ будет превращаться из инструмента, принадлежащего компании, в способность, принадлежащую индивидууму.

В обсуждении занятости и автоматизации Цукерберг предложил точку зрения, отличную от традиционных опасений. Он считает, что важнейший вклад суперразума заключается не в простом замещении человеческого труда, а в помощи людям создавать больше новых вещей, которые раньше было невозможно сделать.

На протяжении истории каждая крупная технологическая революция вызывала опасения по поводу безработицы. От промышленной революции до эпохи интернета люди беспокоились о том, что машины заменят множество рабочих мест. Но в конечном итоге технологии не только повысили производительность, но и создали новые отрасли и профессии. Цукерберг считает, что эпоха ИИ также будет следовать аналогичным закономерностям.

В будущем действительно важное изменение заключается не в том, что машины берут на себя больше повторяющихся задач, а в том, что обычные люди получают способности, которые раньше могли иметь только крупные компании и специализированные учреждения.

Человек может использовать ИИ для завершения проектирования продукта, разработки программного обеспечения, маркетинговых исследований или даже ведения бизнеса, не создавая при этом огромную команду. Это изменит способы организации бизнеса.

В будущем компании могут стать меньше по размеру, но производительность отдельных работников будет выше. Множество идей, которые раньше были невозможны из-за слишком высоких затрат или технологических барьеров, станут осуществимыми благодаря распространению инструментов ИИ. Цукерберг считает, что суперразум в конечном итоге должен стать инфраструктурой для инноваций, а не просто автоматизированной машиной.

03 Обмен открытым исходным кодом на экосистему, стратегия конкуренции ИИ Meta

Помимо личного суперразума, открытый исходный код также является важной темой в статье Цукерберга.

Meta долгое время поддерживает путь открытых моделей, и этот выбор резко контрастирует с акцентом некоторых конкурентов на закрытые модели с фиксированными весами. Цукерберг считает, что открытый исходный код может не только способствовать инновациям, но и повышать безопасность.

Изображение: Руководитель отдела AI Meta Ван Тао объявляет, что компания вскоре выпустит открытую версию Muse Spark 1.2

Его логика заключается в том, что большее количество исследователей, разработчиков и компаний, имеющих доступ к моделям, означает, что больше людей смогут обнаруживать уязвимости, улучшать системы и способствовать быстрому развитию технологий. Напротив, если суперразум будет долгое время находиться в руках немногих учреждений, в обществе не будет достаточной силы для сдерживания.

На глобальном уровне конкуренции Цукерберг считает, что в настоящее время США имеют преимущества в таких областях, как проектирование чипов, но сталкиваются с вызовами в скорости строительства энергетической, центров обработки данных и инфраструктуры. Будущая конкуренция в области ИИ — это не только конкуренция алгоритмов, но и конкуренция в области энергии и вычислительных мощностей.

Он особенно подчеркивает, что США необходимо повысить скорость строительства инфраструктуры, одновременно сохраняя преимущества открытой экосистемы.

Что касается использования данных в обучении моделей и вопросов дистилляции моделей, Цукерберг предложил, что США не должны ослаблять свою конкурентоспособность из-за чрезмерных ограничений. Его точка зрения заключается в том, что развитие ИИ в основном основывается на накоплении человеческих знаний, и взаимное обучение между моделями является важным способом технологического прогресса. Если США чрезмерно ограничат свою открытую экосистему, это может дать возможность другим странам.

В вопросах безопасности Цукерберг не отрицает риски, которые может принести ИИ. Он сосредоточился на обсуждении вопросов кибербезопасности, биологических рисков и расширения власти правительства.

Его основная точка зрения заключается в том, что, сталкиваясь с рисками ИИ, общество должно укрепить свои оборонительные способности, а не просто ограничивать технологические возможности.

Например, в области кибербезопасности, если только атакующие имеют доступ к передовым инструментам ИИ, риски действительно возрастут. Но если компании, правительства и отдельные лица могут использовать ИИ для повышения своих оборонительных возможностей, общий уровень безопасности системы также повысится.

Что касается биологических и химических рисков, Цукерберг считает, что акцент политики должен быть на ограничении производства и распространения опасных веществ, а не на предотвращении развития научных знаний.

С учетом того, что ИИ ускоряет разработку лекарств и исследования в области Научные исследования в области жизни, регуляторные системы также должны быть обновлены, иначе традиционные процессы утверждения могут стать узким местом для инноваций.

04 «Сообщество» центров обработки данных

Конкуренция в области ИИ вступает в эпоху инфраструктуры.

Множество центров обработки данных, источников энергии и вычислительных ресурсов становятся основой для развития суперразума, но одновременно в обществе США возникает все больше споров о потреблении энергии, давлении на водные ресурсы и воздействии на окружающую среду, связанных со строительством крупных центров обработки данных.

Цукерберг специально подчеркивает, что строительство инфраструктуры ИИ должно приносить выгоды сообществу. Meta предлагает концепцию «социального контракта», надеясь, что местоположение центров обработки данных сможет получить больше возможностей для трудоустройства, инвестиций в образование и поддержки общественных услуг.

Он считает, что центры обработки данных не должны рассматриваться как простые потребители ресурсов, а должны стать долгосрочными активами, способствующими развитию региональной экономики, как это было с железными дорогами, электричеством и интернет-инфраструктурой в прошлом.

Рисунок: Проект дата-центра Meta в округе Ричленд, штат Луизиана, США

Это также важная часть ответа Meta на внешние сомнения по поводу ее масштабных инвестиций в ИИ.

Будущая конкуренция в области ИИ требует огромных капиталовложений, и то, получат ли эти вложения общественное признание, станет проблемой, которую технологическим компаниям необходимо решить.

В области корпоративного управления Цукерберг заявил, что развитие суперинтеллекта не может зависеть от единоличного мнения лидера. Он признал, что назначение CEO личным окончательным решающим по развертыванию суперинтеллекта не является идеальным вариантом. Поэтому Meta создает новые механизмы управления, позволяя независимому совету директоров участвовать в разработке стандартов безопасности для выпуска моделей и проверять значительные выпуски моделей.

Эта мера фактически отвечает на долгосрочные опасения общественности по поводу концентрации власти в области ИИ у крупных технологических компаний.

В то же время Цукерберг обсудил крайние риски, которые могут возникнуть после появления у ИИ способности к самостоятельному улучшению.

Если ИИ-системы смогут постоянно повышать свои способности, то вычислительные ресурсы могут стать решающим фактором. Система, обладающая способностью к постоянной самооптимизации, теоретически может быстро увеличить разрыв между собой и другими системами.

Поэтому он считает, что даже если в будущем придется выделить часть вычислительных мощностей для рекурсивного самоулучшения ИИ, большая часть интеллектуальных возможностей все же должна управляться людьми для достижения человеческих целей.

05 Напоследок: борьба за вход на платформу следующего поколения вычислений

Если рассмотреть эту длинную статью в контексте действий Meta за последний год, то кажется, что Цукерберг говорит о безопасности ИИ, но на самом деле его больше беспокоит будущее Meta.

Личный суперинтеллект, открытые модели, умные очки, масштабные инвестиции в вычислительные мощности — эти ранее кажущиеся относительно разрозненными инициативы теперь объединяются в одну историю: конкуренция на следующем этапе ИИ будет заключаться не только в том, кто обладает самой мощной моделью, но и в том, кто сможет контролировать самый долгосрочный и частый вход между человеком и ИИ.

Это война, в которой Meta действительно разбирается.

За последние двадцать лет, от Facebook до Instagram и WhatsApp, самой важной активом Meta всегда был вход для связи между людьми. Но в эпоху мобильного интернета она всегда была ограничена операционными системами, контролируемыми Apple и Google. ИИ дал Цукербергу возможность переопределить вычислительную платформу: если в будущем у каждого будет агент, который постоянно понимает себя, может вызывать различные услуги и действовать вместо него, то этот агент сам по себе может стать новой операционной системой.

Значение умных очков также изменилось. Они больше не просто новый класс аппаратного обеспечения, а могут стать терминалом для получения информации из реального мира личным ИИ и постоянного взаимодействия с пользователем; открытые модели также не просто стратегия для технического сообщества, а попытка максимально расширить охват технологического стека Meta.

Но здесь существует противоречие, которое стоит продолжать исследовать.

Цукерберг хочет ответить на опасения по поводу концентрации власти в ИИ фразой "суперинтеллект принадлежит каждому", но на самом деле границы возможностей личного ИИ по-прежнему определяются моделями, вычислительными мощностями, терминалами, каналами распространения и, что наиболее важно, личными данными. Суперинтеллект может быть доступен каждому, но инфраструктура, поддерживающая его, естественно обладает сильной экономией на масштабе.

Другими словами, чем более персонализированным становится ИИ, тем более централизованной может стать платформа, стоящая за ним.

Таким образом, сможет ли эта стратегия Meta в конечном итоге сработать, зависит не только от того, сможет ли она создать достаточно мощные модели. Более важно наблюдать, сможет ли она впервые обойти Apple и Google, создав контролируемый ею вход в вычисления; и когда ИИ начнет лучше понимать пользователя, чем любое приложение, кто на самом деле владеет этим ИИ, и кто на самом деле владеет данными и отношениями, возникающими в результате этого.