Meta бывший главный экономист: настоящая защитная стена AI не в самой модели, Anthropic тоже не будет единоличным лидером
Автор:Кристиан Каталини, основатель Лаборатории криптоэкономики MIT, соучредитель Libra, соучредитель и бывший главный стратег Lightspark, бывший главный экономист Meta
Составил: Гу И, ChainCatcher
Снова и снова универсальные технологии разыгрывают одну и ту же тройную магию в экономической сфере: замена реального на виртуальное (обещание), обман (поворот) и превращение гниющего в чудесное (престиж). От пара и электричества до двигателей внутреннего сгорания и железных дорог, их эволюция удивительно похожа.
Все начинается с демонстрации ранних прорывных возможностей. Люди полны энтузиазма, за ними следует ажиотаж, и каждый спешит вывести из первых приложений прогноз о будущем, в котором эта технология и ее пионеры будут доминировать. Затем жадность толкает огромные капиталы в инфраструктуру и производственные мощности, чтобы завоевать рынок. Победители объявляются слишком рано и восхваляются как неизбежные существа.
На волне первоначального импульса, управляющие предприниматели становятся высокомерными, а инвесторы перестают проверять предположения и основы: "На этот раз все иначе."
Но обычно наступает поворотный момент, крах, большая переоценка или задержка в реализации повышения производительности, которые возвращают оценки и ожидания к реальности. После окончания праздника многие травмированные инвесторы полностью выходят из этой технологии.
Как только туристы расходятся, истинное "превращение гниющего в чудесное" готово: именно те нерациональные расширения, которые толкнули ранних победителей к банкротству, оставили обширную инфраструктуру, необходимую для окончательной реализации архитектурной трансформации. Эта технология выполняет каждое обещание, но подавляющая часть ценности уходит к тем организациям, которые тихо владеют или строят необходимые для масштабирования редкие дополнительные активы.
Неизбежное высокомерие пионеров
Искусственный интеллект находится на стадии "замены реального на виртуальное" и "обмана". Чрезмерная самоуверенность достигла исторического пика. Заявления из лабораторий в основном таковы: наши модели могут обладать сознанием; только наша лаборатория может быть доверена контролю над такой мощной технологией; пожалуйста, регулируйте нас, иначе произойдут ужасные вещи; однажды мы можем стать единственной оставшейся частной компанией в мире. Гэвин Бейкер в программе All-In возложил последнее утверждение на Дарио Амодеи. Исследователь Anthropic Шолто Дуглас решительно это опроверг, но Амодеи в своем ответе не упомянул это напрямую.
Независимо от того, действительно ли Амодеи считает, что Anthropic в конечном итоге сможет контролировать большую часть экономической системы, его высокомерие отражает тени предпринимателей, которые до него глубоко сформировали универсальные технологии — многие из них ошибочно путали контроль над ранними формами новой технологии с возможностью формировать ее траекторию развития и захватывать созданную ею ценность.

Возьмем, к примеру, паровую машину. Boulton & Watt в течение десятилетий строго контролировали свои конструкции благодаря патентной монополии. Но огромная ценность уходила вниз по течению. В производстве хлопка цены на пряжу значительно упали, и к 1830 году хлопковые изделия составляли около половины экспорта Великобритании. Посмотрим на электричество, оно стало настолько успешным, что превратилось в регулируемую коммунальную услугу, без какой-либо дифференциации и измеряемую в киловатт-часах. Фабрики захватили верхние позиции, доля электродвигателей в мощности американских фабрик за 30 лет с 1899 года выросла с менее чем 5% до почти 80%. В почти тот же период годовой темп роста производительности труда в обрабатывающей промышленности вырос с 1,5% до 5,1%.
А как насчет двигателей внутреннего сгорания? Ситуация аналогична. В США было более 700 компаний, участвовавших в гонке по производству автомобилей, но к 1941 году эта отрасль сократилась до трех гигантов и нескольких независимых производителей. Ценность переместилась на их дополнительные продукты: бензин из почти ничего стал составлять 44% переработки нефти в американских нефтеперерабатывающих заводах в 1931 году, а каждая дополнительная автомагистраль, проходящая через город, по оценкам, сокращала население этого города на 18%, что приносило выгоду пригородам.
Железные дороги? Это сходство почти слишком идеально. В 1876 году Том Скотт управлял одной из самых мощных компаний в США и крупнейшим грузовым перевозчиком в мире: Пенсильванской железной дорогой. СМИ сравнивали его с Наполеоном, и его действия казались таковыми, что обладание железной дорогой равнялось обладанию всем рынком. Тем не менее, Стандартная нефть занимала большую часть грузоперевозок Пенсильванской железной дороги.

Противоречие началось, когда связанный перевозчик Пенсильванской железной дороги Empire Transportation начал заниматься нефтепереработкой. Рокфеллер потребовал, чтобы Empire вышел из нового бизнеса, но Скотт отказался, заставив Рокфеллера перенаправить свои грузоперевозки на железные дороги конкурентов. Пенсильванская железная дорога затем ответила разрушительной ценовой войной, стараясь привлечь других грузоотправителей использовать свои пути. Как сказал один из помощников Скотта: "Мы платили им большие откаты… В некоторых случаях откаты, которые мы платили, превышали все транспортные расходы." Затем железнодорожная забастовка 1877 года истощила казну Пенсильванской железной дороги, и активы Empire были проданы Стандартной нефти. Спустя несколько месяцев Стандартная нефть начала брать 20 центов с каждой бочки, которую Пенсильванская железная дорога перевозила для конкурентов Стандартной нефти.
Но история Пенсильванской железной дороги не является исключением. После многих лет чрезмерного строительства, финансового рычага и ценовых войн, паника 1893 года привела к банкротству более 100 железнодорожных компаний. Однако рельсы сохранились, сеть процветала: по оценкам, в 1890 году годовая частная доходность железных дорог составляла всего 3,5%, в то время как социальная доходность достигала 48%. Без железных дорог стоимость сельскохозяйственных земель в США сократилась бы на 60%.
Инвесторы финансировали строительство, но ценность уходила к землевладельцам, производителям, грузоотправителям и, конечно, к потребителям. Sears является отличным примером "приложенческой" стороны той эпохи: карьера Ричарда Сира началась с работы агентом на железнодорожной станции, и он построил огромную розничную империю на основе почтовых каталогов и железных дорог. К 1906 году его распределительный центр в Чикаго площадью 3 миллиона квадратных футов уже соединял каждую главную железнодорожную магистраль, выходящую из города. Продажи Sears выросли с 750 тысяч долларов в 1895 году до 50 миллионов долларов в 1907 году.

Ценность дополнительных активов
Таким образом, если лаборатории искусственного интеллекта — это железнодорожные компании, то кто играет роль Стандартной нефти, а кто — Sears? Стандартная нефть — это любая компания, контролирующая высокоценностный спрос: те, кто получает выгоду от собственных данных и может направлять их в другие места, используя реальные эталоны (ground truth) для рабочих нагрузок искусственного интеллекта. Sears представляет собой прикладной уровень: по мере того как интеллект становится товаром, их клиентские отношения, каналы распределения и автоматизированная рабочая сила становятся все более ценными участниками. NVIDIA в настоящее время является дефицитным поставщиком для обеих категорий.
В недавнем глубоком анализе экономики закрытых моделей и открытых моделей искусственного интеллекта я считаю, что из-за того, что модели искусственного интеллекта трудно защищать и легко изучать, эта область демонстрирует слабые механизмы присвоения (weak appropriability regime). Хотя до сих пор основная озабоченность заключается в том, что открытые веса подорвут будущие инвестиции в искусственный интеллект, реальность такова, что они лишь повлияют на направление этих инвестиций: что производить, кто производит и кто получает прибыль.
Когда степень присвоения низка, ценность не уходит к той стороне, которая внесла наибольший вклад в изобретение. Она уходит к узким местам массового развертывания. Очевидными дефицитными дополнительными активами для искусственного интеллекта являются вычислительная инфраструктура и чипы; Амодеи указывает, что если модели с открытыми весами займут доминирующую позицию за счет лабораторий, эти два актива станут естественными источниками централизации. Но контроль над этими активами не является фиксированным: лаборатории, облачные провайдеры, производители чипов и даже суверенные государства стремятся выйти на верхние уровни, чтобы обеспечить альтернативные источники поставок.
В краткосрочной перспективе, поскольку предложение серьезно отстает от растущего спроса на выводы, дефицит может усилить централизацию и вознаградить тех, кто может предоставить необходимые ресурсы на земле или в космосе. Однако в долгосрочной перспективе тот же сильный сигнал спроса привлечет инвестиции и инновации, что приведет к разрушению нынешних рыночных лидеров.
Аводеи искусно избегает упоминания о том, что оборудование и инфраструктура не следуют той же экстремальной механике "победитель получает все", что и программное обеспечение. Они могут оставаться централизованными, но их узкие места физические, явные и подлежащие инвестициям: даже если строительство новых мощностей требует времени, высокие цены привлекут новые мощности со всего мира.
На стороне вывода, пока лаборатории могут поддерживать достаточное преимущество, они не столкнутся с трудностями в монетизации передовых (SOTA) возможностей. Но помимо этого, им нужно либо запереть клиентов через более традиционные программные пакеты, либо быстро получить собственные дополнительные активы. Это объясняет их интерес к чипам и их шаги в области кибербезопасности — в области кибербезопасности даже небольшое преимущество может привести к огромной разнице в готовности клиентов платить. То же самое касается биологии и медицины, патенты могут превратить незначительное преимущество в законные исключительные права.
Тем не менее, в самых крутых областях кривой спроса на интеллект также установлены пределы для частных сил. В этих областях предельными покупателями являются национальные государства, которые могут обойти обычный рынок через закупки, принудительный доступ или даже национализацию. Иронично, что передовые лаборатории, если они хотят сохранить свободу, должны быть успешными, но не слишком успешными.
Возможность открытого исходного кода не ослабила мотивацию к получению прибыли; она лишь ускорила этот процесс в нескольких различных направлениях. С коммерциализацией передовых областей, которые были недоступны для экономической реализации, приложения искусственного интеллекта внезапно стали жизнеспособными, что дало производителям чипов, компаниям и правительствам больше оснований для финансирования и улучшения более распределенного "общего блага" интеллекта.
Но если вы сделаете шаг назад и внимательно рассмотрите закономерности взаимодополняющих активов, вы сразу поймете, что, хотя лаборатории могут собирать большие объемы общедоступных данных с низкими затратами на основе принципа добросовестного использования, в будущем доходы в специализированных, в настоящее время непроверяемых областях будут все больше зависеть от собственнических следов, скрытых знаний, систем учета, а также уникальных реальных эталонов и источников экспертных решений.
Независимо от того, насколько мощными становятся компьютерные операции, память и средства связи лабораторий, компании становятся все более осторожными в отношении передачи этой информации. С переходом компаний, обладающих ценными отраслевыми знаниями, к владению и контролю над своими "производственными весами", многие лидеры рынка в различных отраслях смогут достичь или превзойти производительность передовых моделей с меньшими затратами, комбинируя модели открытого исходного кода с собственно генерируемой закрытой информацией в задачах, которые имеют для них критическое значение.
Ключевым оставшимся барьером являются физическая инфраструктура, собственные данные и таланты, каналы распределения, а также способность быстро генерировать более точные и актуальные реальные эталоны через постоянное взаимодействие с реальным миром. С распространением интеллекта защитные барьеры больше не будут представлять собой исторические наборы данных, которые можно разблокировать путем покупки, а фактический контроль над ценными замкнутыми циклами обучения в реальном мире: то есть не только возможность развертывания искусственного интеллекта, но и сбор необходимых телеметрических данных для проверки правильности автоматизированной работы и улучшения системы до тех пор, пока она не станет надежной для поддержки более глубокой автоматизации.

Компании, которые сохраняют информацию, генерируемую этими замкнутыми циклами, не только будут отправлять все меньше долей токенов в верхние лаборатории, но и лучше защитят свой бизнес от ударов, связанных с децентрализацией искусственного интеллекта. Лаборатории осознали это и начинают расширяться в рабочие процессы в таких областях, как финансы, здравоохранение, право, дизайн и бухгалтерия, чтобы привлечь больше бизнеса. Но, конечно, чем глубже они расширяются, тем больше конфликтов возникает с частью своих клиентов, что порождает дополнительный спрос на использование открытых весов как запасного варианта.

Это может разделить спрос на машинный интеллект на токены массового производства и токены с высокой добавленной стоимостью. Первые будут дешевыми и измеряться, как киловатт-часы. Последние обеспечат премию с защитными барьерами и все больше будут зависеть от собственных реальных эталонов.
Мир с множеством конкурирующих, специализированных интеллектов
Для большинства экономических секторов, как только модель становится достаточно хорошей, дополнительные улучшения возможностей становятся менее важными, чем более глубокая интеграция корпоративных рабочих процессов, более низкие затраты или больший контроль. Таким образом, с тем, как модели открытого исходного кода продолжают коммерциализировать передовые технологии, они будут захватывать существенный спрос, заставляя лаборатории углубляться в области, где все еще можно запрашивать премии.
Как основная экономика искусственного интеллекта, так и история универсальных технологий движут общество к более сбалансированному результату, а не к централизации. Единственной силой, способной полностью обратить или отложить эту тенденцию, является тот самый регулятор, о котором настоятельно призывает говорить Amodei. Если регуляторы установят крайне высокие барьеры для соблюдения, они будут благоприятствовать тем лабораториям, которые достаточно велики, чтобы поддерживать огромные юридические, политические и безопасностные расходы. Они также могут нанести ущерб процветающим альтернативам с открытым исходным кодом за пределами закрытых моделей, например, ограничив верхний предел возможностей, которые могут достигать модели открытого исходного кода. Это приведет к тому, что регулирование станет отсутствующим взаимодополняющим активом, который сама технология не может предоставить. Конечно, это не означает, что проблемы безопасности не являются неискренними или неважными.
Если логика взаимодополняющих активов по-прежнему будет действовать, наиболее вероятным результатом останется сосуществование и конкуренция множества конкурентоспособных интеллектов на различных рынках и в приложениях. Это разнообразие обеспечит обществу более полную готовность к реагированию, большую устойчивость и в многих областях более безопасность. Вместо того чтобы развивать несколько видов, которые могут столкнуться с взаимосвязанными сбоями, лучше создать разнообразную экосистему интеллекта, которая предоставит нам различные инструменты для борьбы с неизбежными неизвестными рисками в ближайшие годы. В области кибербезопасности более широкое распространение через модели открытого исходного кода явно способствует защите, а не атаке. В других областях, таких как биология, ситуация может быть совершенно иной, но, возможно, мы сможем более эффективно контролировать ее, сосредоточившись на взаимодополняющих активах, основанных на идеях и их реализации (таких как синтетики, биоматериалы и связанные цепочки поставок).
Искусственный интеллект, делая интеллект дешевым, может стать самой универсальной технологией, созданной человечеством. Если это так, то он, вероятно, принесет владельцам взаимодополняющих активов величайшую победу на сегодняшний день. Лаборатории проложили пути для работы и расширения машинного интеллекта, и они, вероятно, будут контролировать рынок передового интеллекта в течение довольно длительного времени. В любом случае, ценность, как и в предыдущих циклах, будет течь к тем, кто владеет всегда дефицитными ресурсами.
Anthropic, вероятно, станет одной из самых ценных компаний в мире. Но она никогда не будет единственной.
Другой вариант этой статьи опубликован в Forward Future.
Популярные статьи











