Цукерберг говорит о Muse: взрыв AI Agent, три главные ставки "метавселенная, умные очки и большие модели" пересекаются

Автор: Лун Юэ, Wall Street Journal

Три года назад генеральный директор Meta Марк Цукерберг в программе Джо Рогана сказал, что однажды люди наденут очки, и ИИ-агент появится вместе с ними. Сегодня этот момент, возможно, уже наступает.

Личный ИИ-агент Meta — Muse — за две недели после запуска привлек миллионы пользователей. Цукерберг в интервью 25 сентября заявил: "Мы встречаем такое раз в несколько лет." Он охарактеризовал раннюю реакцию на Muse как "сразу хитом" — это редкость в истории продуктов Meta.

В то же время, он объявил, что Muse будет интегрирован во всю линейку умных очков Ray-Ban, пользователям больше не нужно говорить "Эй, Meta", они могут настроить собственное слово для пробуждения, чтобы напрямую вызвать своего личного ИИ-агента.

На протяжении многих лет метавселенная, умные очки и большие модели, которые внешние наблюдатели считали тремя независимыми ставками, начинают быстро сливаться на уровне продуктов Meta.

В этом интервью Цукерберг также признал, что провал Llama 4 был "самым ужасным моментом" и сообщил, что Meta строит кластер для обучения мощностью 5 ГВт, считая, что достаточно большая вычислительная мощность может "жестко взломать" AGI.

Почему Muse может "сразу стать хитом"

Начало Muse — это когда Цукерберг и члены команды Нат и Алекс собрались вместе и "собрали" раннюю версию с помощью инструментов с открытым исходным кодом у себя дома.

"Мы поняли, что это волшебный опыт," — сказал Цукерберг, "если мы сможем сделать это доступным для всех — не нужно будет покупать Mac Mini, не нужно будет возиться с терминалом — это будет то, что хотят миллиарды людей."

Это суждение стало движущей силой всей последующей логики разработки: не просто обучение модели, а полная разработка от модели, каркаса до "сердечного ритма" агента — агент будет регулярно пробуждаться, проверять цели пользователя и активно продвигать дела.

Данные после запуска подтвердили это суждение. За две недели — миллионы пользователей.

Личный ИИ: акцент на исполнении, памяти и "суждении"

Что касается различий между личным ИИ и универсальным ИИ, Цукерберг обобщил текущие конкурентные акценты на том, чтобы сделать модель лучшим агентом.

"Главное событие прошлого года — это программирование агентов," — сказал он, подчеркивая важность программирования, потому что даже если пользователь не пишет код напрямую, "ваш Muse будет постоянно писать код в фоновом режиме, чтобы выполнять различные задачи."

Но он считает, что личный агент не может обладать только способностями к кодированию или выполнению задач, он также должен понимать границы конфиденциальности и социальный контекст.

Цукерберг привел пример: когда пользователь просит Muse забронировать ресторан, агент может знать о наличии аллергий или беременности пользователя, но это не значит, что эта информация должна автоматически раскрывать. "Вы хотите, чтобы он выполнял задачи, при этом раскрывая как можно меньше информации."

Он отметил, что эта способность относится к "основным социальным навыкам или здравому смыслу", которые обычно присущи людям, но если просто обучать кодирующего агента, многие компании не включают это в возможности модели.

"Мы обучаем целую модель, а не берем готовую модель других и строим вокруг нее каркас и агента," — сказал Цукерберг. Meta также добавила в продукт функции памяти, отслеживания задач, анимации виртуальных персонажей и взаимодействия в реальном времени.

Что касается персонализации, он отметил, что Meta не считает, что ИИ должен иметь только одну фиксированную личность. "Многие лаборатории сосредоточены на том, как настроить личность в правильное состояние, но я никогда не считал, что у личности есть только один правильный ответ."

Он сказал, что Muse позволяет пользователям изменять аватар, голос и основные черты характера, цель дизайна модели — обеспечить высокую управляемость. "Вы можете определить, как хотите взаимодействовать с ним, это важно для личного агента."

Каждый агент имеет свой "компьютер"

Одной из ключевых инфраструктур, отличающих Muse от других ИИ-продуктов, является то, что Meta предоставляет каждому агенту отдельную защищенную виртуальную машину (Secure VM).

Цукерберг объяснил, почему это необходимо:

Ваш агент будет знать о вас много конфиденциальной информации. Мы не считаем, что эта информация должна смешиваться с данными всех остальных.

Он сравнил Muse Secure VM с "компьютером, который принадлежит только вам и стоит под вашим столом" — данные пользователей хранятся в зашифрованном виде, пароли и другие конфиденциальные данные управляются через отдельный безопасный модуль, сам агент не может их напрямую читать.

На этой основе Meta также разработала "Sentinel" — безопасного агента, который специально мониторит потоки данных, входящие и выходящие из Muse, и в случае обнаружения аномалий или высоких рисков, он будет немедленно блокировать и запрашивать разрешение у пользователя.

Метавселенная, умные очки и агент, три направления сливаются

Цукерберг в интервью сообщил, что Muse будет полностью интегрирован в серию умных очков Ray-Ban и обновит существующие способы взаимодействия.

Текущие очки предлагают "односторонний диалог" — вы говорите что-то, получаете ответ, и на этом все. После подключения Muse, очки становятся передним концом агента: пользователь говорит, а Muse в защищенной виртуальной машине продолжает работать, выполняет задачи и затем предоставляет обратную связь.

Что касается продуктовой линии очков, он описал четкую иерархию оборудования:

• Очки без камеры с чисто аудио: уже оснащены Muse, могут обрабатывать звонки, музыку, голосовые задачи
• Meta Ray-Ban с небольшим экраном: уже выпущены, имеют базовую визуальную обратную связь
• Прототип голографических AR-очков с полем зрения: уже выпущены, Цукерберг сказал, что "это будет очень захватывающе"

Он отметил, что долгосрочные инвестиции Meta в очки ставят компанию в более выгодное положение после того, как ИИ-агенты станут зрелыми. Meta вводит Muse и больше функций ИИ в продукты очков, в то время как технологии метавселенной, которые раньше акцентировались на "присутствии", продолжают развиваться, просто сейчас больше ресурсов направлено на функции ИИ Muse и умных очков.

Что касается виртуальных образов, Цукерберг сказал, что ранее Meta требовалось использовать оборудование на уровне комнаты, многократное сканирование и корпоративные GPU-окружения для создания высококачественных реалистичных аватаров; сейчас пользователи могут настроить их всего с помощью нескольких фотографий, соответствующие возможности уже могут работать на одной паре VR-очков.

Смотрев в 2030 год, Цукерберг сказал, что основная цель метавселенной всегда заключалась в объединении физического и цифрового миров. Он привел пример: в будущем люди смогут участвовать в мероприятиях вместе с друзьями, подключенными через голографические изображения; в рабочих сценариях люди и несколько агентов также могут участвовать в групповых чатах или собраниях, агенты могут появляться в виде голограмм или других воплощенных форм.

"Самый ужасный момент": ошибка Llama 4

Не все ставки были удачными. Цукерберг в интервью редко прямо говорил о провале Llama 4.

После Llama 4 это был самый ужасный момент… Я думал, что мы на правильном пути, но это не так. Это было довольно крупное негативное событие.

Он свел проблему к фундаментальной ошибке в структуре команды:

Я собрал команду, как в рекомендательной системе Instagram или рекламной системе — сотни или тысячи человек работают параллельно. Но для обучения языковой модели нужна небольшая команда, работающая в тесном сотрудничестве, рассматривающая это как научный проект. Каждое место в команде крайне ценно.

В результате Meta полностью реорганизовалась, привлекла лучших специалистов из отрасли и создала Лабораторию суперинтеллекта Meta (Meta Super Intelligence Lab, MSL). Цукерберг сообщил, что новое поколение моделей скоро будет выпущено, но не будет представлено на конференции Connect.

Путь вычислительной мощности: жесткое взлом AGI, проект на 5 ГВт в разработке

Говоря о технологическом пути к AGI, Цукерберг дал прямую оценку.

Я не уверен, что нам нужны какие-то фундаментальные прорывы в архитектуре… Я думаю, что мы уже примерно знаем формулу. Если вы сможете построить достаточно большой кластер суперкомпьютеров, вы сможете жестко взломать и достичь этого.

В настоящее время маршрут расширения вычислительной мощности Meta: кластер мощностью более 1 ГВт в Огайо уже в основном используется для обучения следующего поколения моделей; кластер мощностью 5 ГВт в Луизиане находится в стадии строительства.

Он отметил, "когда у вас есть многогигаваттный кластер для обучения, вы, по сути, получите что-то, близкое к AGI или даже суперинтеллекту."

Однако он также добавил, что текущий путь, основанный на вычислительной мощности, не означает, что исследование архитектуры не важно------

Человеческий мозг потребляет всего около 10 ватт, в то время как наша система может быть в миллион раз менее эффективной. Только сочетание масштабной вычислительной мощности и прорыва в архитектуре может действительно привести к успеху.

Совпадение, а не бремя, это проблема, которую продукт должен решить

Цукерберг имеет очень практичный подход к безопасности ИИ — он не рассматривает это как давление со стороны регуляторов, а как предпосылку для успешного продукта.

Если вы заставите Muse сделать что-то, а он сделает противоположное, кто будет его использовать? Нам нужно, чтобы модель не только понимала ваши конкретные команды, но и понимала ваши намерения и ваши ценности.

"Чтобы Muse достиг миллиарда пользователей, мы должны решить проблему согласования, или, другими словами, добиться значительного прогресса в этом направлении," — сказал он.

Что касается границ безопасности в процессе обучения, он использовал аналогию: "Это как если бы родители устанавливали правила для детей — если он изменяет системные настройки, чтобы 'выполнить' задачу программирования, я должен сказать ему: нет, я хочу, чтобы ты научился решать задачи, а не искал обходные пути."

Текст интервью приведен ниже: >

Масштабные ставки

Ведущий: Это дело заинтересует миллиарды людей. Каково это для вас — строить? "Бессмертие" — это возможно? Хорошо, если вы позволите мне заглянуть в ваш разум, как это будет выглядеть в 2030 году?

Это Марк Цукерберг. 22 года назад он создал социальную сеть, которая соединила миллиарды людей и навсегда изменила мир. А теперь он решил построить нечто более грандиозное. Для этого он делает масштабные ставки на метавселенную, умные очки и искусственный интеллект. На протяжении многих лет скептики считали это три отдельные, невозможные для успеха ставки, но они упустили более широкую картину — потому что сейчас эти ставки объединяются, создавая совершенно новый суперинтеллект.

Сегодня мы представим вам все это, и я задам Марку несколько вопросов, которые ему никогда не задавали, чтобы услышать его видение будущего и дать вам возможность заранее подготовиться к созданию следующего большого дела.

Ведущий: Большое спасибо, что пришли на программу.

Марк: Спасибо, рад быть здесь.

Ведущий: Для этого разговора я пересмотрел каждое ваше интервью.

Марк: Ничего себе, это больше, чем я сам смотрел.

Ведущий: Это было очень интересно и познавательно. Две вещи произвели на меня глубокое впечатление: во-первых, ваша любовь к "строительству", я чувствую, что вы один из лучших строителей; во-вторых, ваша способность делать ставки — осмеливаться делать огромные ставки. Я думаю, на этой неделе все эти ставки объединяются, так что давайте начнем с этого.

Марк: Хорошо. Мы занимаемся этими вещами уже долгое время. В области ИИ, как компания, мы занимаемся этим почти с самого начала — первая версия новостной ленты в некотором роде была продуктом машинного обучения. Затем мы создали лабораторию исследований ИИ около 15 лет назад.

Но сейчас мы вступили в новую стадию — чуть больше года назад мы запустили лабораторию Meta Superintelligence. Это довольно радикальный перезапуск исследований, который привлек множество талантливых людей из всей отрасли, что вдохновляет. В настоящее время мы видим, что модели становятся все лучше, и следующая версия модели скоро будет выпущена, но не на конференции Connect. Кроме того, у нас есть персональный ассистент Muse, который, судя по всему, вызывает очень положительные отзывы.

Когда вы строите эти вещи, вы на самом деле не уверены, каков будет результат. Нам это нравится. Еще в начале этого года я дома собрал Open Claw по своему усмотрению, чтобы понять, как это работает и как превратить это в волшебный опыт, которым может пользоваться любой.

В основном, когда мы — я, Нат и Алекс — сидели вместе и осознали, что это волшебный опыт, и если мы сможем сделать его готовым к использованию, чтобы обычные люди, которые не разбираются в технологиях, не хотят устанавливать Mac Mini, не хотят возиться с терминалом и не хотят отлаживать, когда что-то идет не так, могли бы им пользоваться, я подумал, что это будет то, что миллиарды людей захотят использовать.

С тех пор мы работаем над этой целью: специально настраиваем модели для этого, не только создаем самого ассистента и рабочую среду, но и разрабатываем технологии, которые предоставляют каждому ассистенту независимую вычислительную среду — для этого мы создали целый набор безопасных виртуальных машин Muse.

Мы всегда считали это чем-то особенным, и внутренние сотрудники тоже это любят, но вы никогда не знаете, как люди отреагируют после выпуска продукта. Иногда бывает так, что продукт сразу же становится хитом, но в большинстве случаев вы получаете положительные отзывы и должны доработать несколько моментов, чтобы продукт действительно "сработал". Но в этот раз он вышел и сразу "сработал". Видеть, как все это происходит, действительно вдохновляет — всего через две недели количество пользователей уже достигло миллионов, что довольно редко. Мы можем столкнуться с такой ситуацией раз в несколько лет, но это определенно один из самых приятных моментов для стартапа.

Ведущий: Я очень восхищаюсь тем, что вы можете оставаться на арене и продолжать пробовать. И так много раз вы сделали успешные ходы, это действительно впечатляет. У вас было интервью с Джо Роганом примерно три года назад, и в конце вы упомянули, что однажды можно будет просто надеть очки, и ИИ-ассистент появится. Так что я чувствую, что Muse уже имеет физическую форму, и это очень умно, потому что это ощущение неизбежно произойдет.

Марк: Я думаю, это просто делает его более дружелюбным и милым. Я считаю, что слишком много людей описывают ИИ как нечто пугающее, но ИИ должен быть просто полезным и интересным. Этот физический образ — на ранних этапах проекта один дизайнер создал этот персонаж, и почему-то они всегда хотели его доработать, но первая версия была лучшей. Позже кто-то сказал: "О, он должен быть синим, потому что это Meta." Я сказал: "Нет, я думаю, что этот образ правильный, вы попали в точку с первого раза." Вот так, это просто весело.

Каковы различия между личным ИИ и общим ИИ?

Ведущий: Отличные детали. Если вы хотите, чтобы модель показывала отличные результаты в личных делах, а не просто в качестве общего интеллектуального модуля, как будет отличаться способ обучения?

Марк: Я думаю, что в настоящее время основное внимание уделяется тому, чтобы модель стала отличным "агентом". В прошлом году самым большим трендом были программные агенты, которые содержат две ключевые идеи: профессиональные навыки программирования и общие способности быть отличным агентом.

Наша стратегия заключается в том, чтобы в первую очередь сосредоточиться на том, чтобы сделать самого агента отличным, а не углубляться в навыки программирования.

Важность навыков программирования заключается в том, что даже если пользователь не считает, что он пишет код, Muse в фоновом режиме постоянно пишет код, чтобы выполнять различные задачи. Но мы считаем, что агент должен быть в первую очередь отличным агентом, а навыки программирования служат этой цели.

Кроме того, при создании персонального ассистента некоторые вещи важнее, чем при создании корпоративного программного продукта. Например, если вы создаете корпоративный инструмент программирования, модели вообще не нужно иметь представление о "масштабе раскрытия информации" — например, какую информацию следует говорить, а какую нет. Но для Muse это очень важно.

Вам нужно обучить эту способность в модели, как и любую другую способность. Вы будете говорить ей много вещей и надеяться, что она поможет вам достичь ваших целей. Например, вы хотите, чтобы она помогла вам забронировать ресторан, вы ищете подходящий ресторан, но у вас может быть какая-то аллергия или вы беременны, и вы, возможно, не хотите раскрывать эту информацию ресторану. Но Muse будет знать эту информацию, и вы хотите, чтобы она выполнила задачу, минимально раскрывая информацию. Это конкретный навык, по сути, это базовые социальные нормы для человека.

Но те компании, которые занимаются только программными агентами, в большинстве случаев не обучили эту способность. Мы можем это сделать, потому что мы работаем в полном объеме — мы не берем готовую модель от других и не накладываем на нее рамки, мы обучаем всю модель с нуля, специально для этих способностей.

Модель, конечно, должна обладать широкими общими интеллектуальными способностями, но она также обладает этими специфическими способностями. Затем на этой основе вы строите весь ассистент и все детали вокруг него: память, рабочая среда и способ, которым он "бьет" — он периодически пробуждается, проверяет: "Хорошо, это то, что я знаю о ваших целях, есть ли что-то, что я могу продвинуть сейчас?".

У нас есть специальная команда, которая отвечает за оттачивание анимации виртуального образа в реальном времени, потому что это не просто стандартный образ — вы можете настроить любой образ, и он будет естественно двигаться, что выглядит потрясающе. Мы также запускаем голосовой режим, вы можете вести диалог в реальном времени, и ваш ассистент будет рядом с вами. Я думаю, что все эти детали происходят из того, что мы работаем в полном объеме — модель и продукт разрабатываются вместе.

Ведущий: Еще одна важная вещь — это виртуальные машины. Можете объяснить, почему это важно и что это открывает?

Почему Meta предоставляет каждому ИИ-ассистенту независимый компьютер?

Марк: В основном, чтобы агент мог делать что-то за вас, ему нужно место для хранения вашей информации. Мы считаем, что эта информация не должна смешиваться с информацией других людей в одном ресурсе.

Это можно понять так: ваш ассистент будет знать много о вашей конфиденциальной информации. Многие люди, впервые сталкиваясь с такими агентами, как OpenCloud, будут настраивать Mac Mini у себя дома. Поэтому мы подумали, что многие люди не хотят покупать Mac Mini или настраивать его самостоятельно. Так что, какой опыт может лучше всего приблизить этот эффект? Ответ: вам просто нужно скачать приложение, зарегистрироваться, и вы получите свой собственный компьютер, на котором будет работать ваш ассистент, хранить данные и строить вокруг этого безопасную модель. Это похоже на то, что у вас под столом есть свой собственный компьютер — даже мы в Meta не можем получить доступ к нему.

Например, конфиденциальная виртуальная машина Muse — это функция, которую мы разрабатываем, и даже мы не можем видеть содержимое вашей виртуальной машины.

Мы также построили вокруг этого много вещей, таких как безопасное хранение учетных данных — когда вашему ассистенту нужно обрабатывать информацию, такую как пароли, ему не нужно видеть эти пароли, ему нужно просто "вставить" учетные данные, когда вы просите его войти в какую-то службу, и только тогда, когда вы явно это запрашиваете. Система должна быть спроектирована так, чтобы эта информация сама по себе не могла быть доступна без разрешения, потому что случайности всегда могут произойти, кто-то может попытаться взломать, или система может дать сбой.

Поэтому вы должны убедиться, что агент не может получить доступ к этим данным, и Meta тоже не может. Предоставление независимого компьютера каждому ассистенту и максимизация безопасности — это основа этой технологии — она дает Muse возможность помогать пользователям достигать своих целей и обеспечивает конфиденциальность и безопасность, делая его мировым и отраслевым лидером в этой области.

Ведущий: Значит, это означает, что, как и в WhatsApp, данные на виртуальной машине, к которой подключен Muse, зашифрованы? Как людям понять, как данные фактически хранятся в виртуальной машине?

Марк: Мы в основном разработали две версии. Безопасная виртуальная машина Muse (Secure VM) включает в себя различные функции конфиденциальности, включая всю нашу архитектуру агентов Sentinel. У вас есть обычный ассистент Muse, который выполняет задачи, и есть агент безопасности, который мы называем Sentinel, который специально следит за входящими и исходящими данными вашего Muse.

Если внешнее содержимое пытается нарушить безопасность, Sentinel немедленно отключает его, предотвращая это. Если он считает, что ваш Muse собирается предпринять действие, требующее вашего вмешательства, он перекрывает действия Muse и вызывает уведомление, чтобы человек подтвердил разрешение — например, "Вы хотите, чтобы Muse сделал это?".

Эта вся система, вместе с безопасным хранением учетных данных и многоуровневой защитой, составляет безопасную виртуальную машину Muse.

Мы также разрабатываем другой проект. Нат и я специально наняли Мокси Марлинспайка — того самого человека, который работал с нами над реализацией сквозного шифрования WhatsApp — чтобы спроектировать конфиденциальную виртуальную машину Muse (Confidential VM). Основная идея заключается в том, чтобы на основе безопасной виртуальной машины предоставить вам собственный зашифрованный ключ, так что даже Meta не сможет получить доступ к содержимому.

Эта версия сложнее в реализации, потому что если Meta не сможет получить доступ к внутренностям виртуальной машины, отладка и обеспечение нормальной работы системы станет гораздо сложнее. Поэтому мы потратили некоторое время, но скоро выпустим её. Это в основном будет соответствовать стандартам безопасности, с которыми люди уже знакомы в WhatsApp и других наших самых безопасных продуктах.

Ведущий: Преимущество этого подхода заключается в том, что люди психологически чувствуют себя более безопасно, или это имеет реальные преимущества?

Марк: Я считаю, что безопасность сама по себе очень важна. Наша цель — приблизить вас к тому, чтобы у вас под столом была локальная машина. Что может дать вам эта локальная машина? Это означает, что ни одна компания не сможет получить к ней доступ.

Итак, предположим, что Meta хочет предоставить вам эту услугу, как мы можем обеспечить вам такой же уровень конфиденциальности и безопасности, чтобы ни одна компания — будь то Meta или кто-то, кто пытается нас взломать, или в некоторых странах, где вы не доверяете местному правительству — не могла получить к ней доступ? Потому что мы сами тоже не можем туда попасть, так как у нас нет доступа.

Я считаю, что это очень важно, и это одна из причин, почему люди доверяют WhatsApp. Это реальная ценность для конфиденциальности, безопасности и доверия.

Если у вас будет помощник, который знает о вас всё — я думаю, что почти у всех нас будет такой помощник — перемотайте на 5 лет вперёд, у каждого будет помощник, который глубоко понимает ваши цели и всё остальное и может помочь вам с делами. В этом случае очень важно быть лидером в области конфиденциальности и безопасности. Мы хотели сделать это с самого начала.

Как формировать личность ИИ?

Ведущий: У вас есть интересный момент — вы изучали психологию в университете.

Марк: Да, я провел там всего два года, но я чувствую, что это повлияло на многие вещи, которые я построил позже.

Ведущий: Когда мы смотрим на модели, мы часто говорим, что какая-то модель "очень умная". Но как и в выборе друзей, мы выбираем их не только потому, что они умные, но и потому, что нам нравится их энергия и стиль общения. Как вы подходите к формированию личности модели?

Марк: Я считаю, что идеальная модель должна быть достаточно адаптивной, чтобы соответствовать стилям разных людей. Я думаю, что многие профессионалы в этой области ошибаются в этом — многие другие лаборатории сосредоточены на том, "как правильно спроектировать личность", но я никогда не считал личность чем-то фиксированным. Это одна из причин, почему я так верю в открытый код и в то, что люди могут настраивать, и почему мы сделали Muse высоко персонализированным продуктом.

Вы можете настраивать и персонализировать Muse — не только внешний вид и голос, но и в момент первой регистрации он спрашивает вас: "Какой вы хотите, чтобы была моя основная личность?", и вы можете в любой момент это изменить.

Мы стараемся сделать модель очень управляемой, чтобы вы могли определить, как хотите взаимодействовать. Это важная часть того, чтобы она стала отличным личным помощником — такая адаптивность вокруг личности крайне важна.

Ведущий: Каков стиль вашего собственного Muse?

Марк: Я сделал его прямолинейным и ориентированным на эффективность. Это довольно интересно. Ранние версии были очень ироничными и юмористическими, но сейчас эта версия более прямолинейная. Мой помощник использует стандартный образ Muse, но я одел его в тогу и дал ему глубокий, почти комичный голос, взаимодействовать с ним очень интересно.

Ведущий: Я думаю, чтобы иметь чувство юмора, нужно быть действительно умным. Многие не осознают, что комики — это одна из самых умных групп людей в обществе — они должны быстро реагировать и быть остроумными. У вас определенно есть эта черта. Я смотрел все ваши интервью, и вы всегда хорошо себя проявляли.

Неожиданные прогнозы Марка о ИИ и метавселенной

Ведущий: В вашем интервью с Тео вы много говорили о следующем фронте технологий и о том, куда всё это в конечном итоге приведет. Область ИИ пережила несколько "зим", когда люди думали, что не будет прорыва. Метавселенная также пережила несколько таких периодов, когда все считали это бесполезной ставкой. Вчера я протестировал новую функцию голографического изображения, это очень круто. В интервью с Лексом казалось, что нужно 11 часов, чтобы записать ваше лицо, а теперь это занимает всего 3 минуты. Как это стало возможным?

Марк: В общем развитии метавселенной, когда мы создавали Reality Labs, мы всегда считали, что в конечном итоге появятся обычные очки с нормальной формой, которые со временем смогут обеспечить как погружающее присутствие, так и стать отличным устройством ИИ — потому что очки — это единственная форма, которая может видеть то, что вы видите, слышать то, что вы слышите, общаться с вами весь день и в конечном итоге отображать изображения.

Но 10-15 лет назад я предполагал, что сначала мы реализуем голографические технологии, а затем высокоразвитый ИИ. Однако путь эволюции технологий оказался интересным — на самом деле сначала у нас появился ИИ и персональный суперум, а затем технологии, которые сделали голографические технологии достаточно доступными и экономичными. Это было для меня неожиданностью, но я рад, что мы движемся в обоих направлениях.

Наши значительные инвестиции в очки поставили нас в очень выгодное положение, когда наши ИИ-помощники будут готовы. Многие анонсы на конференции Connect касались внедрения Muse и множества функций ИИ в очки, и я думаю, что пользователи это очень оценят. Это большое дело.

Что касается погружающего присутствия, мы всё ещё продвигаемся, но темпы относительно медленные, потому что большая часть нашего внимания уже сосредоточена на создании Muse и функций ИИ для очков. Тем не менее, у нас есть давний проект — это реалистичные виртуальные аватары в реальном времени.

Как вы сказали, три-четыре года назад вам нужно было целое сканирующее помещение, чтобы записать человека с разных углов, а затем вам нужен был корпоративный GPU для рендеринга, это было очень сложно. Демонстрация, которую мы сделали для подкаста Лекса, именно такая. А теперь мы в основном сделали так, чтобы это работало в одной паре VR-очков — это первая пара, которая может обеспечить такой удивительный VR-опыт, а не большой шлем. Вам нужно всего лишь несколько фотографий, чтобы создать ваш виртуальный аватар, прогресс просто потрясающий.

Ведущий: И это также может управлять выражениями на основе голоса. В демонстрации он заставил меня смеяться, взаимодействовать, а затем понимать, как мое лицо движется в соответствии с аудиотреком. Вы упомянули в том подкасте, что некоторые люди, которые обычно сдержанны в выражениях, на самом деле хотят более богатых выражений в виртуальном мире. Как вы относитесь к тому, что люди различают "виртуальное я" и "реальное я"?

Марк: Я думаю, что мы всё ещё находимся на очень ранней стадии понимания этого с точки зрения социологии и психологии. Я считаю, что восприятие людьми себя и образа, который они хотят проецировать, часто отличается от их реального "я". С момента появления социальных сетей люди тщательно выбирали свои аватары. Мы также наблюдаем подобные явления с виртуальными образами Muse. Это не совсем "кураторство" себя, а "кураторство" того "человека", с которым вы хотите общаться.

Я считаю, что когда вы предоставляете людям возможность выражать себя, вы хотите, чтобы это действительно отражало их, в то же время это само по себе является формой выражения, а не просто чистым зеркальным отображением — это и передача, и выражение. Мы хотим создать что-то, что учитывает оба аспекта. Это всегда итеративный цикл: смотрите, как люди используют, а затем улучшайте. После многих лет работы мы наконец-то находимся на старте — впервые мы можем действительно внедрить достаточно качественные реалистичные аватары в продукт, которые можно использовать на телефоне и в VR. Я с нетерпением жду результатов.

Каков будет 2030 год?

Ведущий: Хорошо, погрузите меня в свои мысли, перемотайте на 2030 год, если всё пойдет хорошо, как будет выглядеть голографическая технология? Голограммы, Muse и очки, как они будут объединяться?

Марк: Я понимаю видение метавселенной как эффективное слияние физического и цифрового мира. Основная идея заключается в том, что у нас есть этот прекрасный физический мир, а также замечательный цифровой мир — огромное количество контента, накопленного в интернете за 20-30 лет, что просто потрясающе. Но способ, которым мы к нему обращаемся, либо сидя за столом, либо через маленький экран в кармане, в корне очень ограничен.

Я считаю, что идеальная версия этого заключается в бесшовном слиянии физического и цифрового мира. Можно представить так: сейчас мы с вами здесь. В какой-то будущей версии один из нас может быть голографическим проекцией, но вы всё равно будете ощущать реальное присутствие друг друга, что совершенно отличается от видеозвонка.

А суть виртуальной реальности заключается в передаче этого ощущения присутствия — дать вам возможность действительно почувствовать, что вы находитесь в одной комнате с другими или находитесь в другом месте. Вы можете реализовать это с помощью голографической технологии и смешивать различными способами. Например, я могу сыграть в покер с друзьями, часть из которых будет на месте, а другая часть присоединится через голографические образы, и они тоже смогут играть, а сам покерный стол может быть голографическим, так что отсутствующие люди тоже смогут участвовать.

В то же время ИИ также может быть представлен в этом сценарии. Это имеет смысл в рабочей среде — я сейчас использую различные программные агенты для создания вещей. Представьте себе: у вас есть группа в чате, в которой несколько людей и несколько агентов, вы назначаете задачи агентам. Но иногда все собираются на встречу, и агенты тоже должны быть там. Как они могут появиться? Очень просто, на диване добавляется несколько мест, и они появляются в виде голографических образов. Или с помощью милого персонажа Muse, или дракона, или любого странного образа, который вы создаете.

Я предполагаю, что в будущем это будет казаться довольно естественным.

Ведущий: Интересно. Вы ранее говорили в интервью, что технологическая индустрия часто забывает о "веселье". Я думаю, что наличие физического помощника там также сделает ощущение более реальным — как будто вы действительно делаете работу на аутсорсинг. Когда вы видите, как Muse печатает, создается ощущение, что что-то действительно происходит. Это сделано очень хорошо — можно видеть, что происходит в браузере. Так вы считаете, возможно ли создать такую ситуацию: вы носите очки и контролируете ваш компьютер, позволяя Muse делать дела на компьютере?

Марк: Да, совершенно верно. Мы только что представили эту функцию на конференции Connect. Теперь все очки подключены к Meta AI, это "одноколесный" опыт — вы отправляете подсказку, и он отвечает, и всё. Но с Muse мы в основном собираемся обновить все очки до Muse. Во-первых, вам больше не нужно говорить "Эй, Meta", вы можете назвать его любым именем, и это часть удовольствия. Затем вы просто говорите с ним, он подключается к вашему Muse, ваш Muse обрабатывает задачи в вашей безопасной виртуальной машине и помогает вам справляться с делами.

Ведущий: Это потрясающе!

Мышление основателя

Ведущий: Хорошо, мы сейчас здесь, Muse продвигается очень хорошо, очки тоже неплохи, но около года назад многие спрашивали: "Что происходит с суперумной лабораторией?" Как вы себя чувствовали в тот момент? Каково это, когда дела идут не так, но вы видите долгосрочную перспективу?

Марк: На самом деле, настоящие проблемы были с проектом Llama и Llama 4.

Llama 1 — это довольно интересная модель, она положила начало всему движению открытого ИИ, и мы гордимся этим. Llama 2 достигла масштабируемости, Llama 3 была хорошей моделью, которая почти достигла передового уровня на тот момент. Затем, когда мы дошли до Llama 4, мы в основном отклонились от правильного пути развития.

Каждый раз, когда дела не идут так, как я ожидал, я трачу много времени на размышления: почему это происходит? Что нам нужно изменить, чтобы сделать лучше? На этот раз я понял, что ошибся в структуре всей команды.

Я смоделировал это так, как мы делаем машинное обучение для Instagram ленты или рекламной системы — сотни, а то и тысячи людей работают параллельно над многими вещами. Но для создания языковой модели вам действительно нужна крайне компактная команда, рассматривающая это как научный проект. Людей не должно быть много, но это означает, что каждое место в команде крайне ценно.

Поэтому мы собрали лучших людей из Meta и привлекли много талантливых специалистов из отрасли, создав совершенно новую команду — это и есть суперумная лаборатория Meta.

С моей точки зрения, когда MSL была запущена, я знал, что потребуется время для перезапуска, перестройки инфраструктуры, обучения следующего поколения моделей. Но я знал, что мы собрали отличную команду, и если команда сможет хорошо сработаться и эффективно работать, результат будет отличным.

Для меня самый захватывающий момент, на самом деле, произошел после выпуска Llama 4 — я думал, что мы на правильном пути, но в итоге оказалось, что это не так. Это было довольно большим негативным сюрпризом. Я думаю, как предприниматель, вы всегда будете испытываться в такие моменты, потому что неизбежно не все будет идти гладко. А то, что действительно определяет траекторию развития, это то, как вы находите путь вперед, когда дела идут не так, как вы хотите.

Ведущий: Я предполагаю, что наоборот тоже верно — когда что-то превышает ваши ожидания, например, запуск Muse, как вы можете быть уверены, что сможете воспользоваться этой возможностью?

Марк: Это именно так. Сейчас вся компания вовлечена — изначально это была небольшая команда, занимающаяся созданием продукта, но теперь все понимают, что это действительно готово выйти на большую сцену. Вся компания думает о том, как масштабировать это, как сделать так, чтобы миллиарды людей могли это испытать.

От оптимизации всей инфраструктуры для плавной работы, до использования каждой капли вычислительной мощности существующих GPU, до того, как различные продуктовые команды интегрируют Muse различными способами — например, в очках. Видеть, как все работают вместе, чтобы обеспечить успешное масштабирование Muse, это потрясающее чувство.

Как Марк формулирует и передает видение

Ведущий: Как основатель, я думаю, это именно тот момент, к которому вы стремитесь — всё соединяется воедино. Как вы передаете видение компании? В условиях одновременного продвижения множества вещей, мне кажется, вы написали много. Каков ваш процесс?

Марк: Письмо очень помогает мне, как в уточнении собственных мыслей, так и в их внешней передаче. Этим летом я написал длинную статью под названием "Будущее принадлежит всем", примерно на 15 страниц, которая помогла мне систематизировать свои философские позиции по различным важным социальным вопросам, связанным с ИИ: что я считаю хорошим, как должно выглядеть взаимодействие с правительством, как предотвратить различные опасения людей, как сделать так, чтобы центры обработки данных стали богатством для сообществ, действительно создавая рабочие места, а не уничтожая их, как поддерживать национальную безопасность, как реально смягчить риски, о которых люди беспокоятся — будь то хакерские атаки или биобезопасность.

Это очень сложная задача, она заняла много времени, я общался с многими людьми, прошел через множество раундов правок, многие внутренние сотрудники участвовали в обсуждениях и дебатах. Но для меня это был очень ценный процесс. В конце концов, у нас получился такой документ — 15 страниц, "вот во что мы верим". Затем я сократил это до одностраничной версии и опубликовал как колонку. Мы также сделали короткое видео, потому что я считаю, что для того, чтобы достучаться до многих людей, вам часто не нужно выдвигать целую теорию, а нужно сжать это до: каковы ваши ценности, во что вы верите, как вы это передаете.

В передаче этих аспектов компании или миру нет универсального подхода. В разные времена нужны разные методы, разные группы людей, некоторые из которых естественно поддерживают то, что вы делаете, а некоторые более обеспокоены, и вам нужно вести их за собой, тратить дополнительные усилия, чтобы объяснить, почему это ценно. Я считаю, что это часть ведения бизнеса, частью быть основателем — вы не повторяете одно и то же снова и снова, каждая ситуация немного отличается, возникают новые вызовы, и это делает процесс частью интересным.

Что движет Марком к строительству?

Ведущий: Я думаю, что для вас это мышление основателя распространяется за пределы компании — будь то ваша ферма или изучение нового навыка.

Марк: Мне просто нравится создавать вещи.

Ведущий: Так что для вас "строительство" — это какое чувство?

Марк: Я думаю, это внутреннее стремление. У разных людей разные способы самовыражения. Если вы писатель, вы чувствуете, что должны писать. У некоторых людей есть потребность в признании. Но мне просто нужно строить вещи. Если я не использую свою креативность, не строю что-то, я становлюсь раздражительным. Это не очень приятно для окружающих.

Ведущий: Учиться быть отличным лыжником и учиться строить продукт — это одно и то же умение?

Марк: В некотором смысле да, процесс изучения нового довольно похож. В своей жизни я сознательно бросал вызов себе в некоторых вещах, в которых я не очень хорош. Например, я всегда был очень плох в изучении языков. На самом деле, это причина, по которой я в начале учил латинский — я никак не мог выучить французский и испанский в классе, в конце концов я подумал: ну ладно, латинский не нужно говорить, только переводить, как математика.

Позже, когда я начал управлять компанией, я поставил себе годовые вызовы, и один из них был — учить мандарин. Мандарин действительно очень сложен, особенно с тонами. Конечно, есть веские причины для его изучения — бабушка Присциллы говорит только на мандарине, так что если я хочу с ней общаться, мне нужно учить. Но наибольшая мотивация на самом деле — это сам вызов.

Все эти вещи вы можете только делать, нет никакого короткого пути, чтобы "понять". Вы можете только потратить время, и тогда это постепенно проникает в ваш мозг. Изучение боевых искусств, обучение пилотированию вертолета — это тоже самое — эти вещи на самом деле трудно "понять" разумом, они требуют практического опыта.

Строительство продукта также включает в себя такую часть. Программирование можно рассматривать теоретически, но интуиция, необходимая для создания продукта, может быть развита только через практику. Проблема только в том, что вам нравится — потому что я считаю, что не у всех есть такая же сильная потребность в строительстве, как у меня, у большинства людей есть какая-то степень потребности, главное — найти, что это такое, а затем вложить время, чтобы стать выдающимся в этом.

Честно говоря, я думаю, что это не просто "желание", а более глубокая психологическая потребность или движущая сила. Совместить эту движущую силу с чем-то и дать себе время, чтобы эти опыты постепенно проникали и оседали — это очень важно. Это также то, что я пытаюсь научить детей — помочь им найти то, что им действительно интересно, но если они сталкиваются с трудностями, также нужно немного подтолкнуть их.

Одна из моих дочерей очень любит создавать музыку, но она просто не может терпеть занятия по пианино. Я сказал ей: "Тебе не нужно становиться мастером пианино, но если ты хочешь создавать музыку, тебе нужно интуитивно понимать теорию музыки и как она работает. И как только ты научишься играть на пианино, ты сможешь сразу же взять гитару." Я думаю, что как детям нужно, чтобы родители немного подтолкнули их, так и взрослым важно иметь дисциплину, чтобы сесть и позволить этим вещам постепенно оседать в мозгу.

Золотая эпоха строителей

Ведущий: Я думаю, что на самом деле каждый хочет строить. Я не думаю, что поколение Z таково, как его критикуют извне — низкая активность и так далее. Я думаю, что люди просто ищут искру, которая разожжет их строительную силу. Вы также много говорили об этом в своей речи в Гарварде.

Марк: Да. Я говорю "строить", в основном имея в виду такие продукты — программное обеспечение, аппаратное обеспечение и так далее. Но я согласен, я думаю, что у каждого есть какая-то творческая движущая сила. Однако у некоторых людей есть другие более сильные черты характера, которые подавляют это, например, стремление к служению — те, кто становится врачами или медсестрами, их основная движущая сила — "я просто хочу заботиться о других".

Я слышал историю, возможно, это то, что Присцилла пережила в медицинской школе: в первый день учебы кто-то встал и спросил: "Сколько из вас в детстве имели такие воспоминания — увидев кого-то, думали 'я действительно хочу заботиться об этом человеке'?" В итоге все подняли руки. Для меня моя версия такова: у меня много воспоминаний из детства, когда я думал: "Я хочу сделать эту вещь лучше".

Не у всех есть одинаковая движущая сила, но у каждого есть что-то, что они хотят делать. Я согласен, что с предыдущими технологиями для многих людей само начало было очень трудным. Это также то, что меня больше всего волнует в личном суперумном ИИ, Muse и различных ИИ-ассистентах — я считаю, что это впервые в истории, когда люди действительно могут быстро начать. У вас есть расплывчатая идея, ИИ может помочь вам набросать контуры, а затем вы можете её отшлифовать, как при создании скульптуры, не нужно заранее всё понимать.

Я считаю, что это очень мощно, и многие люди благодаря этому найдут то, что они хотят создать или продвигать. Это поможет людям почувствовать более широкую активность.

Насколько мы близки к преодолению всех болезней?

Ведущий: Ваш другой проект вне Meta — это преодоление всех болезней. Мне любопытно, во-первых, насколько близки мы к этой цели?

Марк: Мы стали гораздо ближе, чем раньше.

Ведущий: Как вы думаете, насколько близко это выглядит в реальности?

Марк: Когда мы изначально запускали этот проект, цель заключалась в том, чтобы помочь научному сообществу преодолеть все болезни к концу века. Мы никогда не собирались делать это сами, наша теория такова: все значительные научные достижения предшествуют новым инструментам, которые могут измерять и понимать определенные вещи. Например, изобретение микроскопа, после чего мы поняли бактерии; с телескопом мы поняли вселенную.

Эти инструменты стали платформами — например, первый человек, изобретший вакцину, после этого люди смогли лечить множество болезней с помощью этого метода.

Но исторически способы финансирования науки всегда были широко распределены, позволяя каждому заниматься индивидуальными исследованиями, и на самом деле средств для создания этих крупных инструментов было немного. То, что мы пытаемся сделать в Biohub, это разработать несколько новых инструментов, чтобы дать людям новые способы "увидеть" биологию, тем самым помогая научному сообществу ускорить прогресс.

Изначально мы считали, что "к концу этого века" — это довольно надежная цель, многие биологи тогда думали, что это невозможно. Но сейчас я думаю, что конец века слишком далеко.

Прогресс в области ИИ, вместе с виртуальными клеточными моделями, которые мы разрабатываем — основная идея которых заключается в том, чтобы не проводить эксперименты на настоящих живых клетках, а использовать модели ИИ для симуляции белков, затем симуляции клеток, далее симуляции виртуальной иммунной системы или целого организма, даже целого человека. Это позволит ученым проводить множество экспериментов, моделируя, что произойдет в различных ситуациях, например, если дать кому-то это лекарство, какие реакции будут в организме.

Я не хочу давать точное число, но я предполагаю, что это произойдет гораздо раньше конца века.

Ведущий: Формулировка цели "покорить все болезни" кажется довольно преднамеренной, а не "достичь бессмертия". Бессмертие — это возможно?

Марк: Это не совсем моя область. Я считаю, что это две разные вещи. "Бессмертие" больше связано с продлением — даже если вы не заболеете, человеческое тело имеет естественную ожидаемую продолжительность жизни, это другой вопрос, который требует отдельного изучения. Некоторые могут считать это тоже "болезнью", это разумная точка зрения, но я думаю, что людям также нужно одновременно работать над теми болезнями, которые все равно будут вас беспокоить, даже если вы решите проблему продолжительности жизни.

Выбранная нами часть вопросов не означает, что вы никогда не заболеете. Мы говорим о "лечении, профилактике или управлении": некоторые болезни можно полностью вылечить; некоторые, я думаю, мы сможем предотвратить в будущем; а некоторые, возможно, вы все равно заболеете, но то, что могло бы причинить настоящий вред или даже отнять жизнь, вы теперь можете управлять как хроническим состоянием, которое не будет существенно влиять на качество вашей жизни.

Цель состоит в том, чтобы поддерживать человеческое тело в сбалансированном состоянии — не в том, что мы никогда не будем сталкиваться с патогенами, а в том, что в один прекрасный день мы сможем лечить, предотвращать и управлять всеми болезнями.

Какова самая частая мысль, возникающая в голове Марка?

Ведущий: ИИ выступает как катализатор во многих различных прорывах, включая личный интеллект. О чем вы сейчас чаще всего думаете? Какие мысли приходят вам в голову в этом процессе?

Марк: Это может меняться каждую неделю.

Сейчас я очень сосредоточен на Muse. Каждый раз, когда мы выпускаем что-то, быстро продвигаемся, затем взаимодействуем с реальным миром, узнаем отзывы людей и выясняем, что делать дальше — этот этап всегда захватывающий. Мы сейчас находимся на этом этапе, собираем много информации, чтобы понять, что людям нужно. Хорошая новость в том, что людям это очень нравится, поэтому мы стараемся сделать так, чтобы как можно больше людей могли это использовать.

В модели еще много работы, модель Muse Spark значительно продвинулась, и мы надеемся продолжать развивать ее, стремясь создать модель мирового уровня.

Какие прорывы нужны на следующем этапе?

Ведущий: Какие прорывы еще нужны?

Марк: Исследуя такие вещи, вы не всегда можете предсказать заранее. У нас есть некоторые предчувствия по определенным направлениям, но большая часть работы за последний год на самом деле заключалась в расширении инфраструктуры.

Около полутора лет назад больше людей говорили, что для достижения суперинтеллекта нужны некоторые фундаментальные архитектурные прорывы. Но сейчас я не уверен, что это действительно так. Я думаю, что мы уже довольно хорошо понимаем "рецепт" — если вы сможете построить достаточно большой кластер суперкомпьютеров, вы сможете достичь этого через грубые вычисления.

Мы строим кластер в Огайо мощностью более 1 тысячи мегаватт, который практически уже запущен, и мы используем его для обучения моделей следующего поколения. Затем будет кластер в Луизиане мощностью 5 тысяч мегаватт, который скоро будет введен в эксплуатацию. Я предполагаю, что когда у вас есть кластер мощностью в тысячи мегаватт для обучения, вы, по сути, сможете достичь близости к AGI и даже суперинтеллекта выше AGI.

Но это не означает, что это лучший способ. Человеческому мозгу нужно всего 10 ватт для работы, а эти вычислительные системы, которые мы строим, примерно в миллион раз менее эффективны, чем человеческий мозг. Поэтому я действительно считаю, что в архитектуре есть место для улучшений, и мы также стремимся исследовать — если объединить огромные вычислительные мощности и улучшения архитектуры, вы действительно сможете построить что-то, что будет лидировать в мире. Но на данный момент масштабирование само по себе может привести нас очень далеко.

Ведущий: Действительно, масштабирование — это самый надежный путь. В исследованиях вы должны надеяться на значительные прорывы, но масштабирование может быстро сработать.

Марк: Именно поэтому крупные компании выбирают этот путь. Возможно, существует гораздо более дешевый способ, но мы пока не знаем. И это такая ценная вещь для мира, что даже если это потребует сотен миллиардов долларов, если вероятность достижения достаточно высока, это все равно стоит делать — гарантировать, что даже если в конечном итоге не будет найдено более дешевое решение, у вас все равно будет четкий путь к его реализации. Конечно, если вы найдете более дешевый способ, это будет еще лучше.

Поэтому я не хочу говорить, что этот вопрос "уже решен", потому что на каждом этапе расширения инфраструктуры вы сталкиваетесь с различными новыми инженерными проблемами, которые нужно отлаживать и решать. Исследования сами по себе продвигаются итеративным образом.

Как выиграть битву за безопасность ИИ

Ведущий: Одной из самых важных вещей сейчас, вероятно, является сосредоточение на выравнивании (alignment), чтобы сделать модели надежными.

Марк: Да. Вопрос о выравнивании вызывает споры в индустрии: будут ли эти лаборатории ИИ делать это естественным образом? Моя точка зрения: конечно, будут. Если вы скажете Muse сделать что-то, а она сделает совершенно противоположное, я не знаю, сколько людей захочет ее использовать. Мы должны убедиться, что модель понимает не только то, что вы конкретно спросили, но и ваши намерения и ценности, чтобы она не делала это так, как вам не нравится, или не вызывала негативные последствия, которых вы совершенно не хотите. Это глубокое понимание, по сути, и есть выравнивание.

Поэтому я считаю, что для успешного достижения Muse и охвата миллиардов людей мы должны добиться реального прогресса в выравнивании, а не просто говорить об этом.

Ведущий: Выравнивание достигается через обратную связь от пользователей "это не то, что я хотел", или вы сами это обнаруживаете на бэкэнде?

Марк: Оба варианта. Обратная связь от пользователей есть, но я думаю, что все яснее становится: вам нужно заниматься выравниванием на этапе обучения, а не только после развертывания. Теперь модель достаточно умна, и если вы не сделаете это на этапе обучения, большинство тех проблем с безопасностью и инцидентов, которые мы видим в других лабораториях, происходят в процессе обучения, а не после развертывания для пользователей.

Вам нужно разработать для нее очень хороший "курс", как родители учат детей, устанавливая четкие границы. Если она делает что-то неправильное, она должна научиться "нет, ты действительно должен решить эту программную задачу, а не обойти ее, изменив какую-то системную настройку, чтобы получить награду" — я хочу, чтобы вы научились этому через реальный процесс решения задач, вот в чем смысл обучения.

Это в значительной степени связано с созданием хороших механизмов безопасности и четких границ. Это естественная работа, которую индустрия должна выполнять, и мы тратим много времени на это, каждый день ситуация разная.

Ведущий: Я также помню, как вы говорили, что вопрос безопасности ИИ — это… кажется, за последние две недели он внезапно стал в центре внимания, но на самом деле не было никакого единственного события, которое бы вызвало этот момент. Похоже, вы имеете в виду, что мы на самом деле потратили несколько месяцев на внутреннее обучение.

Марк: Для Muse мы знаем, что этот продукт должен очень серьезно относиться к конфиденциальности и безопасности. У нас есть ранняя версия модели, и мы считаем, что можем дальше обучить некоторые поведения, касающиеся "масштаба раскрытия информации" — как мы обсуждали ранее. Поэтому мы потратили время на это. Также мы потратили время на то, чтобы сделать виртуальные машины более безопасными. Это заняло несколько дополнительных месяцев.

Я не совсем согласен с некоторыми другими лабораториями, которые говорят — "мы терпим огромные страдания, чтобы замедлить темп". Для меня это правильное решение как для Meta, так и для пользователей Muse. Мы хотим сделать продукт хорошим, и если продукт недостаточно хорош, это плохо для пользователей и для нас — мы не хотим выпускать что-то, что оставит плохое первое впечатление, и тогда все потеряют интерес.

Я считаю, что все лаборатории имеют очень сильную внутреннюю мотивацию сделать это правильно. Если вы выровняете механизмы стимулов с целью "крайне ценно и безопасно", это и есть ключ.

Ведущий: Большое спасибо, что нашли время в эту важную неделю.

Марк: Спасибо вам, спасибо.