a16z Соучредитель: Почему ИИ спасет мир?

Автор: MARC ANDREESSEN

Перевод: 深潮 TechFlow

Эра ИИ принесла удивление и панику, но хорошая новость заключается в том, что ИИ не уничтожит мир, а, скорее, может его спасти.

Соучредитель a16z MARC ANDREESSEN считает, что ИИ предоставляет возможность усилить человеческий разум, позволяя нам достигать лучших результатов в различных областях. Каждый сможет иметь ИИ-наставника, помощника или партнера, который поможет нам максимально раскрыть наш потенциал. ИИ также может способствовать экономическому росту, научным прорывам и художественному творчеству, улучшая принятие решений и снижая потери в войнах. Однако развитие ИИ также связано с рисками, и текущая моральная паника может преувеличивать проблемы, некоторые из которых могут быть вызваны личными интересами действующих лиц.

Как рационально воспринимать ИИ и с каких точек зрения его рассматривать? Эта статья предоставляет нам практический, надежный и глубокий пример обсуждения.

Вот полный текст:

Эра ИИ уже наступила, и, помимо удивления, она принесла много паники. К счастью, я здесь, чтобы сообщить хорошую новость: ИИ не уничтожит мир, на самом деле он может его спасти.

Во-первых, кратко о том, что такое ИИ: применение математики и программного кода для обучения компьютеров понимать, обобщать и генерировать знания так же, как это делает человек. ИИ, как и любая другая компьютерная программа, работает, принимает входные данные, обрабатывает их и генерирует выходные данные. Выходные данные ИИ полезны во многих областях, от программирования до медицины, права, творческого искусства и т.д. Он принадлежит и контролируется людьми, как и любая другая технология.

ИИ не является убийцей или роботом, который начнет и решит убить человечество или иным образом разрушить все, как вы видите в фильмах. Напротив, ИИ может стать способом сделать все, что нас волнует, лучше.

Почему ИИ может сделать все, что нас волнует, лучше?

Социальные науки провели тысячи исследований на протяжении многих лет, и наиболее надежный вывод заключается в том, что человеческий разум может улучшить результаты жизни. Умные люди имеют лучшие результаты почти во всех областях деятельности: учебные достижения, рабочая производительность, карьерный статус, доход, креативность, физическое здоровье, продолжительность жизни, обучение новым навыкам, управление сложными задачами, лидерские качества, успех в предпринимательстве, разрешение конфликтов, понимание прочитанного, финансовые решения, понимание точек зрения других, творческое искусство, результаты воспитания и удовлетворенность жизнью.

Кроме того, человеческий разум является рычагом, который мы использовали на протяжении тысячелетий для создания мира, в котором мы живем сегодня: науки, технологии, математики, физики, химии, медицины, энергетики, строительства, транспорта, связи, искусства, музыки, культуры, философии, этики и морали. Без применения разума во всех этих областях мы все еще жили бы в трясине, едва сводя концы с концами в сельском хозяйстве. Напротив, мы использовали наш разум, чтобы повысить уровень жизни примерно в 10 000 раз за последние 4000 лет.

ИИ предоставляет нам возможность усилить человеческий разум, чтобы все достижения разума — от создания новых лекарств до решения проблемы изменения климата и межзвездных путешествий — могли стать лучше.

Усиление человеческого разума с помощью ИИ уже началось — ИИ уже проявляется в различных формах вокруг нас, например, в виде множества типов компьютерных управляющих систем, которые сейчас быстро обновляются с помощью крупных языковых моделей, таких как ChatGPT, и будут быстро развиваться отсюда, если мы позволим этому произойти.

В нашу эпоху ИИ:

• Каждый ребенок будет иметь ИИ-наставника с бесконечным терпением, состраданием, знаниями и помощью. ИИ-наставник будет сопровождать каждого ребенка на протяжении его роста, помогая ему максимально раскрыть потенциал с бесконечной любовью.
• Каждый человек будет иметь ИИ-помощника/коуча/наставника/тренера/консультанта/терапевта с бесконечным терпением, состраданием, знаниями и помощью. ИИ-помощник будет сопровождать каждого человека во всех возможностях и вызовах жизни, максимально увеличивая результаты каждого.
• Каждый ученый будет иметь ИИ-помощника/партнера/союзника, который значительно расширит их научные исследования и достижения. Каждый художник, инженер, бизнесмен, врач и медсестра также будут иметь такого же ИИ-помощника в своей области.
• Каждый лидер народа — генеральный директор, государственный чиновник, председатель некоммерческой организации, спортивный тренер, учитель — будет иметь то же самое. Эффект увеличения, позволяющий лидерам принимать лучшие решения для своих подчиненных, огромен, поэтому это интеллектуальное усиление является наиболее важным.
• Производительность всей экономики значительно ускорится, что приведет к экономическому росту, созданию новых отраслей, созданию новых рабочих мест и росту заработной платы, что приведет к новой эпохе высокой материальной процветания по всему миру.
• Научные прорывы, появление новых технологий и лекарств значительно увеличатся, поскольку ИИ поможет нам дальше расшифровывать законы природы.
• Художественное творчество войдет в золотой век, художники, музыканты, писатели и кинематографисты, усиленные ИИ, смогут реализовывать свои видения быстрее и в большем масштабе, чем когда-либо прежде.
• Я даже считаю, что когда война неизбежна, ИИ улучшит войны, значительно снизив уровень смертности во время боевых действий. Каждая война характеризуется ужасными решениями, принимаемыми ограниченными человеческими лидерами под огромным давлением и с крайне ограниченной информацией. Теперь военные командиры и политические лидеры будут иметь ИИ-консультантов, которые помогут им принимать лучшие стратегические и тактические решения, минимизируя риски, ошибки и ненужные жертвы.

Короче говоря, все, что люди сегодня делают с помощью своего естественного интеллекта, может быть сделано лучше с помощью ИИ, от исцеления всех болезней до достижения межзвездных путешествий.

Это не только вопрос интеллекта! Возможно, наиболее недооцененное качество ИИ заключается в том, как он гуманизирует. Искусство ИИ дает свободу тем, кто иначе не имел бы технических навыков, создавать и делиться своими художественными идеями. Общение с сострадательным ИИ-другом действительно повышает их способность справляться с невзгодами. ИИ-медицинские чат-боты уже более сострадательны, чем их человеческие коллеги. ИИ с бесконечным терпением и состраданием сделает мир теплее и дружелюбнее, а не более суровым и механистичным.

Тем не менее, риски здесь высоки. ИИ может стать самым важным и лучшим, что когда-либо создавала наша цивилизация, сопоставимым с электричеством и микросхемами, а возможно, даже превосходящим их.

Развитие и распространение ИИ — далеко не те риски, которых нам следует бояться — это наша моральная обязанность перед собой, нашими детьми и нашим будущим. С ИИ мы должны жить в лучшем мире.

Так почему же возникает паника?

В резком контрасте с этой позитивной точкой зрения, общественные обсуждения об ИИ полны страха и паранойи.

Мы слышим различные голоса, утверждающие, что ИИ убьет нас всех, разрушит наше общество, лишит нас всех рабочих мест и вызовет серьезное неравенство. Как объяснить такую огромную разницу между почти утопическими и антиутопическими результатами?

На протяжении истории каждая важная новая технология, от электричества до автомобилей, от радио до интернета, вызывала панику — социальную эпидемию, заставляющую людей верить, что новая технология уничтожит мир, разрушит общество или и то, и другое. Архивы пессимистов прекрасно документируют эти моральные паники, вызванные технологиями на протяжении десятилетий; их история делает модели очень ясными. Оказалось, что такая паника уже имела место и раньше.

Конечно, многие новые технологии действительно приводили к негативным последствиям — часто это те технологии, которые в других аспектах были очень полезны для нас. Поэтому просто наличие моральной паники не означает, что нет вопросов, на которые следует обратить внимание.

Тем не менее, моральная паника по своей сути иррациональна — она преувеличивает потенциально разумные проблемы до уровня истерии, игнорируя действительно серьезные проблемы.

Теперь у нас возникла моральная паника по поводу ИИ.

Эта моральная паника была использована различными действующими лицами как движущая сила для продвижения политических действий — новых ограничений, регулирования и законов по ИИ. Эти действующие лица сделали крайне драматичные публичные заявления о рисках ИИ — удовлетворяя и усугубляя моральную панику — все они позиционируют себя как бескорыстные защитники общественных интересов.

Но так ли это?

Правы ли они или нет?

Экономисты наблюдали за долгосрочной моделью в этом реформаторском движении. Действующие лица внутри таких движений делятся на две категории — "крестьяне" и "контрабандисты" — заимствованные из примера американского сухого закона 1920-х годов:

"Крестьяне" — это истинные верующие в социальные реформы, которые эмоционально, если не рационально, считают, что необходимы новые ограничения, регулирования и законы, чтобы предотвратить социальные катастрофы.

Что касается сухого закона, эти действующие лица обычно были искренними христианами, которые считали, что алкоголь разрушает моральные основы общества. Что касается рисков ИИ, эти действующие лица верят, что ИИ может создать какой-то риск существования — если бы им дали детектор лжи, они действительно так думают.

"Контрабандисты" — это эгоистичные оппортунисты, которые могут извлечь финансовую выгоду из внедрения новых ограничений, регулирований и законов, защищая себя от конкурентов. Что касается сухого закона, эти люди зарабатывали богатство, продавая незаконный алкоголь.

В контексте рисков ИИ эти люди — это генеральные директора, которые, если будут установлены регулирующие барьеры, заработают больше денег, поскольку правительство защитит их от новых стартапов и конкуренции с открытым исходным кодом.

Некоторые могут считать, что есть люди, которые на поверхности являются "крестьянами", но также являются "контрабандистами" — особенно те, кто получает деньги от университетов, аналитических центров, активистских организаций и СМИ за нападение на ИИ. Если вы получаете зарплату или гранты за разжигание паники по поводу ИИ… вы, вероятно, "контрабандист".

Проблема "контрабандистов" в том, что они победили. "Крестьяне" — это наивные идеалисты, "контрабандисты" — это циничные манипуляторы, поэтому результат таких реформаторских движений обычно заключается в том, что "контрабандисты" получают то, что хотят — регулирование, защиту от конкуренции — в то время как "крестьяне" остаются в недоумении, где они ошиблись в своем стремлении к социальным улучшениям.

Мы только что пережили удивительный пример — реформы банковской системы после глобального финансового кризиса 2008 года. "Крестьяне" говорили нам, что нам нужны новые законы и правила, чтобы сломать "слишком большие, чтобы упасть" банки и предотвратить повторение таких кризисов. В результате Конгресс принял закон Додда-Франка 2010 года, который был представлен как удовлетворяющий цели "крестьян", но на самом деле был контролируем "контрабандистами" — крупными банками. В результате "слишком большие, чтобы упасть" банки в 2008 году стали еще больше.

Таким образом, на практике, даже если "крестьяне" искренни — даже если "крестьяне" правы — они будут использованы хитрыми и жадными "контрабандистами" для получения выгоды.

В настоящее время происходит то же самое в продвижении регулирования ИИ, и просто идентифицировать действующих лиц и сомневаться в их мотивах недостаточно. Мы должны оценить взгляды "крестьян" и "контрабандистов".

Риск ИИ №1: Убьет ли ИИ нас всех?

Первый и самый основной риск ИИ заключается в том, что ИИ решит убить человечество.

Страх, что технологии, созданные нами, восстанут и уничтожат нас, глубоко закодирован в нашей культуре. Греки выразили этот страх через миф о Прометее — Прометей принес человечеству разрушительную силу огня, более широко говоря, технологии ("techne"), и за это был осужден богами на вечные муки. Позже Мэри Шелли в своем романе "Франкенштейн", или "Современный Прометей", дала нам современную версию этого мифа, где мы разработали технологии, позволяющие достичь бессмертия, а затем эти технологии восстали и попытались уничтожить нас.

Предположение этого мифа эволюционировало, чтобы побудить нас серьезно рассмотреть потенциальные риски новых технологий — в конце концов, огонь действительно может быть использован для сжигания целых городов. Но, как огонь также является основой современной цивилизации, который может быть использован для того, чтобы согреть и защитить нас в холодном и враждебном мире, этот миф игнорирует, что большинство (всех?) новых технологий приносят гораздо больше пользы, чем вреда, и на практике вызывают разрушительные эмоции, а не рациональный анализ. То, что доисторические люди могли бы так разрушиться, не означает, что мы должны это делать; мы можем использовать разум.

Я считаю, что идея о том, что ИИ решит непосредственно убить человечество, является глубокой категориальной ошибкой. ИИ не является существом, которое было вовлечено в борьбу за выживание через миллиарды лет эволюции, как животные и мы. Это код, созданный, принадлежащий, используемый и контролируемый людьми — компьютеры. В какой-то момент он может развить собственное мышление, и тогда идея о том, что он имеет мотивацию попытаться убить нас, является суеверием.

Короче говоря, ИИ не имеет воли, не имеет целей и не хочет вас убивать, потому что он не живой.

Сейчас очевидно, что некоторые люди уверены, что ИИ убьет человечество — "крестьяне" — они получили много внимания СМИ за свои ужасные предупреждения, некоторые из которых утверждают, что изучали эту тему в течение десятилетий и теперь напуганы тем, что они узнали. Некоторые из этих настоящих технических новаторов тоже так думают. Эти действующие лица выступают за введение различных странных и экстремальных ограничений на ИИ, от запрета на развитие ИИ до военных ударов по центрам обработки данных и ядерной войны. Они считают, что поскольку такие люди, как я, не могут исключить катастрофические последствия ИИ в будущем, мы должны занять осторожную позицию, чтобы предотвратить потенциальные риски существования.

Мой ответ заключается в том, что их позиция является не научной — какие есть проверяемые гипотезы? Что может доказать, что эта гипотеза неверна? Как мы можем знать, что мы входим в опасную зону? Большинство этих вопросов остаются без ответа, кроме "вы не можете доказать, что это не произойдет!" На самом деле, позиция этих "крестьян" очень не научна и экстремальна — это теории заговора о математике и коде — и они уже призывали к физическому насилию, поэтому я сделаю то, что обычно не делаю, и поставлю под сомнение их мотивацию.

В частности, я считаю, что происходит три вещи:

Во-первых, вспомните, что ответ Джона фон Неймана Роберту Оппенгеймеру на его роль в создании ядерного оружия — что это помогло закончить Вторую мировую войну и предотвратить Третью — был: "Некоторые люди признают преступления ради чести." Как можно наиболее эффектно заявить о важности своей работы, не выглядя при этом слишком самодовольным? Это объясняет фактическое несоответствие между словами и действиями "крестьян", которые на самом деле строят и финансируют ИИ — смотрите на их действия, а не на их слова.

Во-вторых, некоторые "крестьяне" на самом деле являются "контрабандистами". Существуют целые профессиональные области "экспертов по безопасности ИИ", "этиков ИИ", "исследователей рисков ИИ". Их нанимают, чтобы быть апокалиптиками.

В-третьих, в Калифорнии мы стали известны благодаря тысячам культов, от EST до Храма народа, от Врат рая до семьи Менсона. Многие из них, хотя и не все, являются безобидными и даже могут служить для изолированных групп, которые находят в них дом. Однако некоторые действительно очень опасны, и культы обычно трудно пересечь границу, ведущую к насилию и смерти.

Реальность такова, что для всех в районе залива Сан-Франциско очевидно, что "риски ИИ" эволюционировали в культ и внезапно появились в мировых СМИ и общественных обсуждениях. Этот культ привлекает не только маргиналов, но и некоторых настоящих экспертов в отрасли и немало богатых людей, включая до недавнего времени Сэма Бэнкмана-Фрида.

Именно из-за существования этого культа появляются некоторые очень экстремальные апокалиптики по поводу ИИ — не потому, что у них есть секретные знания, которые делают их экстремальными, а потому, что они сами довели себя до состояния восторга, действительно… очень экстремального.

Этот тип культа не нов — в Западном мире существует традиция милленаризма, которая породила апокалиптические культы. Культ рисков ИИ имеет все характеристики милленаристских апокалиптических культов. Цитируя Википедию (я добавил немного содержания):

"Милленаризм — это вера группы или движения (апокалиптики рисков ИИ) в то, что произойдет радикальное изменение общества (приход ИИ), после чего все изменится (утопия ИИ, антиутопия или конец света). Только драматические события (запрет ИИ, авиаудары по центрам обработки данных, ядерные удары по нерегулируемому ИИ) могут изменить мир (предотвратить ИИ), и ожидается, что это изменение будет инициировано или пережито группой преданных и сосредоточенных людей. В большинстве случаев милленаристские культы ожидают, что надвигающаяся катастрофа или битва (апокалипсис ИИ или его предотвращение) будет следовать за новым, очищенным миром (запретом ИИ), в котором верующие будут вознаграждены (или, по крайней мере, будут доказаны правыми)."

Эта модель культа настолько очевидна, что я удивляюсь, почему больше людей этого не замечают.

Не поймите неправильно, культы звучат интересно, их материалы часто креативны и увлекательны, их члены также привлекательны на ужинах и телевидении. Однако их экстремальные убеждения не должны определять будущее законов и общества — это явно неприемлемо.

Риск ИИ №2: Уничтожит ли ИИ наше общество?

Второй широко обсуждаемый риск ИИ заключается в том, что ИИ разрушит наше общество, поскольку его выходы будут настолько "вредными", по терминологии этих культов, что даже если мы не будем убиты напрямую, это причинит человечеству глубокий вред.

Короче говоря: если роботы не убьют нас, дезинформация разрушит наше общество.

Это относительно новая апокалиптическая тревога, которая ответвилась и в определенной степени захватила движение "рисков ИИ", описанное выше. На самом деле, недавно термин рисков ИИ изменился с "безопасности ИИ" на "согласование ИИ" (для беспокойства о "вредных" людях, использующих ИИ). Первоначальные сторонники безопасности ИИ были разочарованы этим изменением, хотя не знали, как вернуть все на свои места — теперь они выступают за переименование фактических тем рисков ИИ в "ИИ не убивает всех", хотя это еще не было широко принято, но, по крайней мере, это ясно.

Заявления о социальных рисках ИИ характеризуются собственным термином "согласование ИИ". С чем согласовывать? С человеческими ценностями. Чьи человеческие ценности? О, вот где все становится сложным.

Как раз я стал свидетелем аналогичной ситуации — войны "доверия и безопасности" в социальных сетях. Как сейчас очевидно, на протяжении многих лет социальные сети подвергались огромному давлению со стороны правительств и активистов, требующих запрета, ограничений, цензуры и других способов подавления различных видов контента. Аналогично, беспокойства о "языке ненависти" (и его математическом эквиваленте "алгоритмической предвзятости") и "дезинформации" были напрямую перенесены из области социальных сетей в новую область "согласования ИИ".

Основной урок, который я извлек из войны в социальных сетях:

С одной стороны, нет позиции абсолютной свободы слова. Во-первых, каждая страна, включая США, рассматривает определенные виды контента как незаконные. Во-вторых, существуют определенные типы контента, такие как детская порнография и подстрекательство к насилию, которые почти все общества считают неприемлемыми — независимо от того, законно это или нет. Поэтому любая технологическая платформа, способствующая или производящая контент (речь), будет иметь некоторые ограничения.

С другой стороны, как только рамки ограничения контента установлены — например, ограничения на "язык ненависти", определенные оскорбительные слова или ложную информацию — ряд государственных учреждений, активистских групп и неправительственных организаций начнет ускорять действия и требовать все больше и больше цензуры и подавления того, что они считают угрожающим для общества и/или их личных предпочтений. Они даже могут прибегнуть к откровенным преступным действиям. В области социальных сетей этот цикл может показаться бесконечным и получить горячую поддержку нашей элитной властной структуры. Это продолжается в социальных сетях уже десять лет, за исключением некоторых особых случаев, и становится все более интенсивным.

Таким образом, это динамика, которая сейчас формируется вокруг "согласования ИИ". Его сторонники утверждают, что у них есть мудрость, чтобы разработать полезные для общества высказывания и идеи, генерируемые ИИ, и запретить вредные для общества высказывания и идеи, генерируемые ИИ. Противники считают, что полицейские мыслей крайне высокомерны и самодовольны — по крайней мере, в США это часто является откровенным преступлением.

Поскольку сторонники "доверия и безопасности" и "согласования ИИ" сосредоточены в очень узком круге элиты на побережье США, включая многих людей, работающих в технологической отрасли и пишущих. Я сейчас не буду пытаться убедить вас отказаться от этой идеи, я просто хочу указать на то, что это суть запроса, и что большинство людей в мире не согласны с вашей идеологией и не хотят видеть вашу победу.

Доминирование моральных стандартов фракций в социальных сетях и ИИ усиливается, и если вы не согласны с этими моральными стандартами, то вы также должны осознавать, что борьба за то, что ИИ может говорить/генерировать, будет гораздо важнее, чем борьба за цензуру в социальных сетях. ИИ, вероятно, станет контролирующим слоем всего на планете.

Короче говоря, не позволяйте полицейским мыслей подавлять ИИ.

Риск ИИ №3: Заберет ли ИИ все наши рабочие места?

Страх потерять работу из-за механизации, автоматизации, компьютеризации или ИИ существует уже сотни лет, начиная с появления механических устройств, таких как механические ткацкие станки. Хотя каждая новая технологическая революция в истории приносила больше высокооплачиваемых рабочих мест, каждый раз эта волна паники сопровождалась утверждением "на этот раз все иначе" — на этот раз это действительно произойдет, эта технология нанесет смертельный удар по человеческому труду. Однако этого никогда не происходило.

В недавнем прошлом мы пережили два цикла паники по поводу безработицы, вызванной технологиями — панику по поводу аутсорсинга в 2000-х и панику по поводу автоматизации в 2010-х. Несмотря на то, что многие комментаторы, эксперты и даже руководители технологической отрасли на протяжении этих двух десятилетий постоянно заявляли, что массовая безработица неизбежна, к концу 2019 года — прямо перед началом пандемии COVID — в мире было больше рабочих мест, чем когда-либо в истории, и зарплаты также были выше.

Тем не менее, это ложное представление не исчезает.

И оно снова вернулось.

На этот раз у нас наконец есть технология, которая может заменить всю человеческую рабочую силу — ИИ. На этот раз история не повторится, ИИ приведет к массовой безработице — а не к быстрому росту экономики, занятости и зарплат — верно?

Нет, это не произойдет — на самом деле, если позволить ИИ развиваться и распространяться по всей экономике, это может вызвать самое значительное и длительное экономическое процветание в истории, сопровождающееся рекордным ростом занятости и зарплат. Вот почему.

Говорящие о том, что автоматизация приводит к безработице, постоянно совершают основную ошибку, называемую "ошибкой рабочей силы". Эта ошибка заключается в неверном представлении о том, что в любой конкретный момент в экономике есть фиксированное количество рабочей силы, которую нужно завершить, и либо машины, либо люди это делают — если машины выполняют эту работу, то для людей не останется работы.

Ошибка общего объема труда возникает из наивной интуиции, но эта наивная интуиция неверна. Когда технологии применяются к производству, мы получаем рост производительности — увеличение выхода при снижении затрат. В результате цены на товары и услуги снижаются. С падением цен на товары и услуги мы тратим меньше на них, что означает, что у нас теперь есть дополнительная покупательская способность для покупки других вещей. Это увеличивает спрос в экономике, что способствует созданию нового производства — включая новые продукты и новые отрасли — и, следовательно, создает новые рабочие места для тех, кто был заменен машинами в предыдущих работах. В результате получается большая экономика, более высокая материальная процветание, больше отраслей, продуктов и рабочих мест.

Но хорошие новости на этом не заканчиваются. Мы также получим более высокие зарплаты. Это связано с тем, что на уровне отдельных работников рынок будет компенсировать зарплаты в соответствии с функцией предельной производительности работников. Работники, внедренные в бизнес с технологиями, будут более продуктивными. Работодатель либо заплатит этому работнику больше, потому что он теперь более продуктивен, либо другой работодатель сделает это из своих интересов. В результате, как правило, внедрение технологий в отрасль не только увеличивает количество рабочих мест в этой отрасли, но и повышает зарплаты.

В общем, технологии делают людей более продуктивными. Это приводит к снижению цен на существующие товары и услуги и росту зарплат. Это, в свою очередь, способствует экономическому росту и росту занятости, одновременно стимулируя создание новых рабочих мест и новых отраслей. Если рыночная экономика функционирует нормально, если технологии свободно внедряются, то это бесконечный цикл постоянного роста. Потому что, как заметил Милтон Фридман, "потребности и желания человечества безграничны". Рыночная экономика, внедряющая технологии, — это способ приблизиться к реализации всего, что каждый может представить, но никогда не может быть полностью достигнуто. Вот почему технологии не уничтожают рабочие места.

Эти идеи могут быть настолько шокирующими для тех, кто не сталкивался с ними, что вам может понадобиться время, чтобы их понять. Но я гарантирую, что я их не выдумал — на самом деле, вы можете прочитать о них во всех стандартных учебниках по экономике.

Но на этот раз все иначе, вы можете подумать. Потому что на этот раз с ИИ у нас есть технология, которая может заменить всю человеческую рабочую силу.

Но, используя принципы, которые я описал выше, представьте, что будет, если вся существующая человеческая рабочая сила будет заменена машинами?

Это будет означать, что скорость роста производительности в экономике взлетит до абсолютно астрономических уровней, далеко превышающих любые исторические прецеденты. Цены на существующие товары и услуги упадут почти до нуля. Потребительское благосостояние взлетит. Потребительская способность расходов взлетит. Новый спрос в экономике взорвется. Предприниматели создадут ослепительные новые отрасли, продукты и услуги и будут нанимать как можно больше людей и ИИ, чтобы удовлетворить весь новый спрос.

Предположим, ИИ снова заменит эти рабочие места? Цикл повторится, подталкивая потребительское благосостояние, экономический рост, а также рост занятости и зарплат еще выше. Это будет спираль, направленная вверх, достигающая материального утопии, о которой Адам Смит или Карл Маркс никогда не осмеливались мечтать.

Нам следует считать себя удачливыми.

Риск ИИ №4: Приведет ли ИИ к серьезному неравенству?

Беспокойство о том, что ИИ заберет рабочие места, напрямую переходит к следующему риску ИИ, предполагая, что ИИ действительно заберет все рабочие места. Разве это не приведет к массовому и серьезному богатственному неравенству? Владельцы ИИ получат всю экономическую выгоду, в то время как обычные люди останутся ни с чем.

Недостаток этой теории заключается в том, что как владельцы технологий, удерживать их для себя не в ваших интересах — наоборот, продавать их как можно большему количеству клиентов в ваших интересах. Максимальный рынок для любого продукта по всему миру — это весь мир, 8 миллиардов человек. Поэтому на практике каждая новая технология — даже если она изначально продается только крупным компаниям или богатым потребителям — быстро распространяется, пока не попадает в руки как можно большего числа людей, в конечном итоге охватывая всех на планете.

Классический пример — так называемый "секретный план" Маска, опубликованный в 2006 году:

• Первый шаг — произвести [дорогие] спортивные автомобили.
• Второй шаг — использовать эти деньги для производства более доступного автомобиля.
• Третий шаг — использовать эти деньги для производства еще более доступного автомобиля.

… конечно, именно это он сейчас и делает, и поэтому стал самым богатым человеком в мире.

Ключевым моментом является последний пункт. Если бы Маск сегодня продавал автомобили только богатым, стал бы он богаче? Нет. Если бы он производил автомобили только для себя, стал бы он богаче, чем сейчас? Конечно, нет. Он максимизирует свою прибыль, продавая автомобили на крупнейшем рынке в мире — по всему миру.

Короче говоря, каждый может получить такие продукты — как мы видели в прошлом, не только автомобили, но и электричество, радио, компьютеры, интернет, мобильные телефоны и поисковые системы. У производителей этих технологий есть очень сильная мотивация, чтобы они стремились снизить цены, чтобы сделать их доступными для всех на планете. Именно это уже происходит в области ИИ — вот почему вы сейчас можете использовать передовой генеративный ИИ, и даже бесплатно через Microsoft Bing и Google Bard — и это будет продолжаться в будущем. Не потому, что эти поставщики щедры, а потому, что они жадны — они хотят расширить рынок, чтобы максимизировать прибыль.

Таким образом, происходит прямо противоположное: технологии не способствуют централизации богатства, а, наоборот, наделяют индивидуальных клиентов технологиями — в конечном итоге включая всех на планете — большей властью и захватывают большую часть создаваемой ценности. Как и с предыдущими технологиями, компании, создающие ИИ — предположим, что они должны действовать на свободном рынке — будут жестко конкурировать, чтобы это произошло.

Это не означает, что неравенство не является проблемой в нашем обществе. Оно действительно существует, просто оно не вызвано технологиями, а наоборот, оно вызвано секторами экономики, которые больше всего сопротивляются новым технологиям и правительственным вмешательствам, чтобы остановить внедрение новых технологий (особенно в области жилья, образования и здравоохранения). Реальные риски ИИ и неравенства не в том, что ИИ приведет к большему неравенству, а в том, что мы не позволяем использовать ИИ для уменьшения неравенства.

Риск ИИ №5: Приведет ли ИИ к тому, что плохие люди будут делать плохие дела?

На данный момент я объяснил четыре наиболее часто упоминаемых риска ИИ, теперь давайте поговорим о пятом вопросе, с которым я действительно согласен: ИИ упростит плохим людям делать плохие дела.

В некотором смысле технологии — это инструмент. Начиная с огня и камней, инструменты могут использоваться для добрых дел — готовки пищи и строительства домов — и для плохих дел — поджога людей и избиения людей. Любая технология может быть использована как для хорошего, так и для плохого. Верно. И ИИ действительно упростит преступникам, террористам и враждебным правительствам делать плохие дела, в этом нет никаких сомнений.

Это приводит к тому, что некоторые предлагают запретить использование ИИ в таких случаях. К сожалению, ИИ не является чем-то труднодоступным или загадочным. Напротив, это один из самых доступных материалов в мире — математика и код.

Очевидно, что ИИ уже широко используется. Вы можете научиться строить ИИ из тысяч бесплатных онлайн-курсов, книг, статей и видео, и каждый день появляются отличные реализации с открытым исходным кодом. ИИ как воздух — он будет повсюду. Чтобы остановить это, меры деспотического подавления будут настолько жестокими — мировое правительство, контролирующее все компьютеры? Вооруженные полицейские на черных вертолетах, арестовывающие непослушные GPU?

Поэтому у нас есть два очень простых способа справиться с риском плохих людей, использующих ИИ для плохих дел, и именно на этом мы должны сосредоточиться.

Во-первых, мы уже разработали законы, которые делают почти любое использование ИИ для плохих дел преступлением. Взлом Пентагона? Это преступление. Кража денег из банка? Это тоже преступление. Создание биологического оружия? Это тоже преступление. Проведение террористической атаки? Это тоже преступление. Мы можем просто сосредоточиться на предотвращении этих преступлений, когда это возможно, и на судебном преследовании, когда это невозможно предотвратить. Нам даже не нужны новые законы — я не знаю, есть ли какое-либо уже предложенное плохое использование ИИ, которое не является незаконным. Если появится новое плохое использование, мы запретим его.

Но вы заметите, что я пропустил кое-что — я сказал, что мы должны сначала сосредоточиться на предотвращении ИИ от совершения этих действий — разве такое предотвращение не означает запрет ИИ? Ну, есть другой способ предотвратить такие действия, и это использовать ИИ как защитный инструмент. Сделать ИИ мощным в руках хороших людей, особенно тех, кто предотвращает плохие дела.

Например, если вы беспокоитесь о том, что ИИ создает фальшивых людей и фальшивые видео, ответ…