Хуан Жэньсюн снова говорит о рисках ИИ: многие прогнозы вымышленные, Китай станет важной силой в глобальном открытом исходном коде

Автор：Ли Хайлун

Редактор：Сюй Циньян

14 сентября по местному времени в США на оффлайн-мероприятии All-In Summit 2026, организованном известным технологическим подкастом All-In Podcast, генеральный директор NVIDIA Хуан Жэньсюнь обсудил темы безопасности ИИ, апокалипсиса ИИ, рекурсивного самоулучшения, открытых моделей и AGI с четырьмя ведущими.

Четыре ведущих также являются соучредителями All-In Podcast: ангел-инвестор Джейсон Калаканис, бывший исполнительный директор Facebook Чамат Палихапития, ключевой член "группы PayPal" Дэвид Сакс и генеральный директор компании Ohalo Genetics и инвестиционной компании The Production Board Дэвид Фридберг.

Эта беседа сосредоточена на одном ключевом вопросе: какие границы безопасности необходимы для развития ИИ. В ответ на недавние обсуждения безопасности ИИ генеральным директором Anthropic Дарио Амодеи и призывы передовых лабораторий к "замедлению", Хуан Жэньсюнь считает, что безопасность и инновации не противоречат друг другу, и уже произошедшие инциденты безопасности должны анализироваться как инженерные проблемы, контролироваться с помощью технологий, процессов и тестирования.

Что касается частых "апокалиптических прогнозов" ИИ в последние годы, Хуан Жэньсюнь привел примеры таких утверждений, как "радиологи будут заменены ИИ", "90% кода будет сгенерировано ИИ в краткосрочной перспективе", "50% начальных должностей исчезнут", которые ранее оказались неверными. Он считает, что такие прогнозы не имеют достаточной научной основы и не должны использоваться для создания социальной паники.

Говоря о рекурсивном самоулучшении (RSI), Хуан Жэньсюнь считает, что RSI не является внезапно появившейся загадочной технологией, а комбинацией существующих технологий, таких как контекст, обучение с подкреплением, синтетические данные, LoRA и другие.

Что касается спора между открытыми и закрытыми моделями, он четко заявил, что обе необходимы, и считает, что в Китае есть много инженеров и специалистов в области науки и математики, которые в будущем могут стать важными участниками глобальной экосистемы открытого кода.

Затем разговор переключился на "AGI и суперумный интеллект". Когда Хуан Жэньсюнь был спрошен, достигнут ли уже уровень человеческого интеллекта, если стандартом AGI является именно это, он просто ответил: "Это уже достигнуто."

Ниже приведен текст последнего интервью Хуан Жэньсюня, сжатый и упрощенный без изменения оригинального смысла:

01 Безопасность ИИ не должна противоречить инновациям

Вопрос: В последнее время обсуждений о безопасности ИИ становится все больше. Дарио Амодеи опубликовал статью о безопасности ИИ, а бывший исследователь Anthropic Якоб Коксон также ушел по связанным вопросам. Как вы смотрите на эти события?

Хуан Жэньсюнь: Проблемы безопасности, безусловно, должны восприниматься серьезно, но безопасность и лидерство не противоречат друг другу. Мы вполне можем быстро инновацировать и быстро выполнять задачи, чтобы Америка оставалась на передовой, одновременно обеспечивая безопасность. Рассматривать эти два аспекта как взаимоисключающие выборы — это ошибка.

Коксон, выступивший с этими заявлениями, проявил смелость. Как информатор, он имеет право это делать, но его последующие научные оценки будущего, на мой взгляд, не имеют достаточной научной основы, поскольку эти прогнозы не основаны на настоящих научных исследованиях.

Сейчас многие передовые лаборатории переходят от исследовательских организаций к инженерным, и исследование и инженерия — это разные вещи. Если в этом процессе трансформации возникают проблемы с контролем или управлением, это уже другой вопрос. Что именно увидел Коксон, я не знаю.

Вопрос: В последние годы в индустрии ИИ появилось много очень пессимистичных прогнозов, таких как "ИИ может уничтожить человечество, привести к массовой утрате рабочих мест". Как вы смотрите на эти утверждения?**

Хуан Жэньсюнь: Я считаю, что мы не должны легко придавать этим вещам так называемую "вероятность уничтожения человечества" или "вероятность уничтожения цивилизации", потому что многие из этих вещей на самом деле выдуманы. Когда вы называете человека исследователем или ученым, а затем делаете очень шокирующий прогноз, это легко вызывает панику у общественности, и я считаю, что это безответственно.

Мы уже видели много таких прогнозов. Кто-то предсказал, что в течение пяти лет радиологи будут полностью заменены ИИ, и в будущем радиологи вообще не понадобятся. Но реальность такова, что во всем мире нужно больше радиологов, ИИ действительно используется для анализа медицинских изображений, но это совершенно не то же самое, что "радиологи исчезнут".

Кто-то также предсказал, что "в будущем в течение 6-12 месяцев 90% кода будет сгенерировано ИИ, 50% начальных должностей исчезнут в течение 6-9 месяцев". На самом деле эти прогнозы не сбылись. Ранее кто-то говорил, что "GPT-2, Llama 3 опасны для публикации", даже предсказывал, что "половина офисных работ исчезнет на второй год", или что так называемый "конец занятости" близок.

Я считаю, что эти прогнозы должны быть зафиксированы. Через несколько лет, оглядываясь назад, мы увидим, какие прогнозы были верными, а какие просто создали панику.

Вопрос: Так вы считаете, что проблемы безопасности ИИ следует решать больше как инженерные проблемы?**

Хуан Жэньсюнь: Если произошел инцидент безопасности, мы сначала должны провести инженерный анализ коренных причин, выяснить, что именно произошло, где были проблемы, какие меры можно предпринять, чтобы избежать повторения подобных инцидентов, а затем превратить эти меры в системы, процессы и технологический контроль.

Я верю, что эти компании уже занимаются этим, включая лучшие песочницы, более строгие рабочие среды, более совершенный мониторинг и постоянный контроль систем. Я даже готов поставить на то, что эти проблемы можно контролировать и предотвращать.

Если инженерная компания действительно не знает, что произошло, и не знает, как контролировать ситуацию, то можно отправить инженера, чтобы помочь им. Но я не думаю, что дело дойдет до этого. В этих лабораториях работают очень талантливые люди, и я верю, что они уже проанализировали соответствующие проблемы и приняли соответствующие меры.

Вопрос: Если проблемы безопасности ИИ требуют регулирования, с чего должно начаться регулирование?**

Хуан Жэньсюнь: Регулирование должно решать действительно существующие проблемы. Сейчас настоящие проблемы в основном исходят от передовых лабораторий ИИ, потому что у них больше всего вычислительных ресурсов и они занимаются самыми передовыми вопросами. Старшекласснику или обычной стартап-компании трудно иметь достаточную вычислительную мощность, чтобы создать эти проблемы.

Эти лаборатории переходят от исследований к инженерной стадии, одновременно строя компании, культуру, технологии и продукты, и этот процесс не легок. Поэтому следует обратить внимание на то, как они создают более совершенные инженерные системы, чтобы гарантировать, что процесс разработки и тестирования технологий обладает достаточной безопасностью.

Вопрос: Нужны ли третьи стороны для оценки?**

Хуан Жэньсюнь: Я считаю, что могут быть несколько оценочных и аудиторских организаций. Им не нужно знать все, но они должны знать, какие вопросы следует задавать. Это похоже на финансовый аудит. Если есть только одна оценочная организация, она может подвергнуться влиянию; если есть несколько оценочных организаций, они могут уравновешивать друг друга.

02 "Рекурсивное самоулучшение" не так уж загадочно

Вопрос: Сейчас все больше обсуждают рекурсивное самоулучшение, то есть ИИ сам генерирует данные, сам обучает себя и постоянно ускоряется. Как вы на это смотрите?**

Хуан Жэньсюнь: Я считаю, что "рекурсивное самоулучшение" — это новый модный ярлык, но на самом деле это комбинация многих уже существующих технологий, включая контекст, навыки, рефлексию, обучение с подкреплением, генерацию синтетических данных и LoRA.

Эти методы действительно могут позволить ИИ накапливать опыт по мере выполнения задач и затем продолжать улучшаться. Например, с помощью синтетических данных и обучения с подкреплением можно повысить способности модели, не переобучая всю базовую модель, а затем накопленный опыт можно использовать для дальнейшего обучения базовой модели. Я думаю, что сейчас почти каждая компания использует некоторые из этих технологий.

Название "рекурсивное самоулучшение" звучит так, будто система станет совершенно неконтролируемой, но на самом деле перед выпуском продукта все равно необходимо проводить оценку, повторное тестирование и регрессионное тестирование — это самые основные инженерные меры контроля.

Эти передовые лаборатории переходят от исследовательских организаций к инженерным, и я считаю, что в будущем у них будут лучшие методы, знания, практики, инструменты и технологии для контроля, проверки и оценки этих систем. Рекурсивное самоулучшение может происходить внутри, но проверенные продукты все равно можно безопасно выпускать на рынок.

Вопрос: Как вы смотрите на отношения между открытыми и закрытыми моделями?**

Хуан Жэньсюнь: Миру нужны открытые модели, а также закрытые модели. Я сам тоже использую закрытые передовые модели. Они немного похожи на бутилированную воду: вода сама по себе бесплатна, но разные формы продуктов могут удовлетворять разные потребности.

Открытые модели очень важны для суверенитета, конфиденциальности и собственных технологий компаний. За последние 6 месяцев в AI-ориентированные компании было вложено около 400 миллиардов долларов венчурного капитала, из которых около 80% компаний используют открытые модели. Без открытых моделей многие стартапы просто не смогут достичь своих целей, потому что то, что они хотят сделать, отличается от того, что делают передовые лаборатории.

Настоящее преимущество Америки заключается в наличии различных форм инноваций. Чтобы выиграть в гонке ИИ, необходимо развивать открытые модели.

Победа в гонке ИИ — это не только победа нескольких американских компаний, но и возможность для американских компаний, отраслей, исследователей, преподавателей, студентов и предпринимателей извлечь выгоду из этой технологии. Некоторые будут использовать закрытые модели, многие будут использовать открытые модели, и то и другое необходимо.

Вопрос: Считаете ли вы, что Китай станет важным участником глобальной экосистемы открытого кода?**

Хуан Жэньсюнь: Я считаю, что Китай может внести значительный вклад в глобальную экосистему открытого кода. В Китае много инженеров, а также много студентов, изучающих науки и математику, такие как Цинхуа, которые ежегодно готовят много талантливых специалистов.

Например, в Linux, Kubernetes (система управления открытыми контейнерами) и многих программных проектах участвуют китайские инженеры. Одна из особенностей открытого кода заключается в том, что как только вы его скачиваете, он становится вашим, вы можете продолжать модифицировать, оптимизировать и превращать его в свое.

В конечном итоге гонка ИИ заключается в том, кто сможет лучше всего использовать эту технологию. Многие важные изобретения прошлой промышленной революции пришли из Европы, но Америка впоследствии хорошо использовала эти технологии. Я надеюсь, что следующая промышленная революция также будет развиваться таким образом.

Я считаю, что обсуждения в Китае более прагматичны, они больше сосредоточены на экономическом развитии и социальном прогрессе, а не на постоянных обсуждениях конца света или уничтожения цивилизации. Если эти апокалиптические прогнозы действительно сбудутся, мы, конечно, должны их обсудить и решить, но нет необходимости создавать панику. Наша работа заключается в том, чтобы реализовать это.

Вопрос: Если ИИ в конечном итоге автоматически выполнит множество программных задач, что еще будут делать инженеры?**

Хуан Жэньсюнь: Инженерная работа все равно будет существовать. Мое поколение инженеров, когда программное обеспечение еще не стало распространенным, не тратила много времени на написание кода. Сейчас программисты тратят много времени на написание кода, но в будущем, если большая часть этой работы будет автоматизирована, люди все равно будут заниматься инженерной работой. Моя привычка заключается в том, что моя любимая клавиша на клавиатуре — Backspace, потому что лучшее программное обеспечение часто означает меньше кода.

03 Почему NVIDIA углубляется в цепочку ИИ

Вопрос: Первоначально правительство США акцентировало внимание на занятости, реиндустриализации, энергетике и цепочках поставок. Сейчас эти вещи действительно происходят. NVIDIA уже стала важным поставщиком капитала для всей индустрии ИИ, как вы определяете, куда следует направить ресурсы?

Хуан Жэньсюн: ИИ — это новая промышленная революция. В этой индустрии есть множество компонентов: модели, чипы, приложения, центры обработки данных, строительство, электроэнергия и генерация. Я всегда смотрю на всю экосистему, ищу узкие места.

Если очень хорошая компания сталкивается с ограничениями на каком-то этапе, я обращаю внимание на эту проблему. Это может быть цепочка поставок, земля, электроэнергия или завод. Масштаб NVIDIA уже достаточно велик, поэтому мы должны заранее, за много лет, думать о цепочках поставок. Corning, Lumentum, TSMC и поставщики памяти — это компании, на которые нам нужно обращать внимание в долгосрочной перспективе.

Вопрос: Некоторые считают, что большая часть прибыли в индустрии ИИ в конечном итоге переместится на уровень приложений. Почему NVIDIA все еще входит в области моделей, такие как Hugging Face?

Хуан Жэньсюн: NVIDIA практически может запускать все модели в мире. Примерно полтора года назад все в основном обсуждали модели OpenAI, а сейчас уже есть Muse от Meta, Grok, Gemini, Anthropic и многие другие модели. Множество передовых лабораторий ИИ построены на платформе NVIDIA.

Наша стратегия — помочь всем добиться успеха, а не забирать бизнес у других. Мы будем стараться оставаться на более низком уровне технологического стека и подниматься вверх только в случае необходимости. CUDA поддерживает множество фреймворков, Megatron и Megatron Core поддерживают масштабное обучение. Мы изобретаем необходимые технологии, а затем позволяем всей экосистеме развиваться, чтобы больше компаний могли участвовать.

Вопрос: Почему региональные облачные провайдеры становятся все более важными?

Хуан Жэньсюн: Региональные облачные провайдеры часто более гибкие, чем крупные гипермасштабные облачные компании, потому что они могут находить землю, электроэнергию и заводы на месте и лучше понимают местные потребности.

В будущем будет сформирована распределенная сеть предприятий, и все больше стран будут рассматривать ИИ как стратегическую отрасль. Мы уже видим, что некоторые регионы начинают увеличивать инфраструктуру вычислительных мощностей для ИИ.

Вопрос: NVIDIA сейчас разрабатывает свои собственные открытые модели, включая автономное вождение и биологическую сферу. Почему вы делаете эти вещи?

Хуан Жэньсюн: Потому что это нужно клиентам. Мы способны сделать это лучше всего, поэтому мы это делаем. Например, Alpamayo — это наша модель для автономного вождения. Это система автономного вождения, способная к рассуждениям. Ранее для автономного вождения требовалось миллиарды часов дорожных данных, а способность к рассуждениям позволяет системе обдумывать аналогичные ситуации, что снижает зависимость от большого объема реальных дорожных данных.

Будущее автономного вождения будет включать не только легковые автомобили, но и сельскохозяйственное оборудование, грузовики, фургоны и многие другие мобильные устройства. Многие компании не имеют полного технологического стека, поэтому NVIDIA может предоставить полный технологический стек, а клиенты могут вносить последние изменения в соответствии со своими потребностями.

В биологической сфере все аналогично. Мы разработали ESM2, ESMFold, OpenFold, AlphaFold 2 и некоторые изоморфные модели и Protein Complexa (генеративная AI-рамка для полных атомных белковых комплексов), потому что фармацевтическим компаниям действительно нужны эти технологии. Мой подход всегда заключался в том, что кто-то нуждается в этой технологии, поэтому мы ее создаем.

04 Террафаб Маска

Вопрос: Маск объявил о планах по строительству завода по производству чипов Terafab, масштаб очень большой. Как вы это видите?

Хуан Жэньсюн: NVIDIA очень хорошо понимает технологии производства, мы всегда стремимся к пределам технологий, поэтому, конечно, можем обсудить этот вопрос. Как только Маск решает что-то сделать, его трудно остановить, это и есть его суперспособность.

Вопрос: Может ли NVIDIA в будущем производить чипы на его заводе?

Хуан Жэньсюн: Мы можем это обсудить.

Вопрос: Если определение AGI — это достижение уровня человеческого интеллекта, считаете ли вы, что мы уже вошли в эту стадию? А суперинтеллект?

Хуан Жэньсюн: Мы уже достигли этого, и даже можно сказать, что в некоторых конкретных областях мы уже вошли в стадию суперинтеллекта.

Вопрос: Почему?

Хуан Жэньсюн: Потому что в некоторых очень конкретных областях ИИ уже превосходит человека. Автономное вождение — это пример. Если автомобиль может управлять лучше человека, то в области вождения он является суперинтеллектом.

Сейчас аварийность систем автономного вождения уже может достигать одной десятой от человеческой. В биологической сфере ситуация аналогична. Синтетические белки, виртуальный скрининг и другие задачи уже достигли уровня суперинтеллекта. В этих конкретных областях ИИ уже способен выполнять работу, превышающую человеческие возможности.

Вопрос: Каково это — находиться на переднем крае таких технологий?

Хуан Жэньсюн: Мне нравится это чувство. Будущее светлое. Возможно, в будущем многим людям не придется работать, но я не хочу упустить эту эпоху.

Я надеюсь, что все мы сможем вместе дойти до этого будущего, и человечество в конечном итоге добьется успеха вместе. Нам нужно поощрять всех, уменьшать ненужные драматические споры. Самое важное — это вовлечь всю Америку в этот процесс.