14-летний подросток интервьюирует SBF в тюрьме: 500 миллионов долларов вложены в Anthropic, но конец FTX заставил его пожалеть об этом
Составлено: Shenchao TechFlow
Введение от Shenchao: В сопровождении автоматического голосового сообщения федеральной тюрьмы «Звонок из федерального задержания», бывший основатель FTX Сэм Банкман-Фрид (SBF) в Бруклинском метрополитенском центре задержания (MDC Brooklyn) провел 82-минутное высокоэнергетическое интервью с 14-летним технологическим блогером Эли Голдфайном. В этом разговоре, который считается одним из самых информационно насыщенных за последние годы, находящийся в заключении SBF редко нарушил молчание и полностью пересмотрел свою когнитивную карту, инвестиционный путь и экстремальную философию.
От того, как он в свое время руководил FTX Ventures, инвестируя 500 миллионов долларов в Anthropic, до радикальных прогнозов о будущем AI на сотни и даже тысячи миллиардов долларов; от холодного анализа традиционных программных защитных механизмов и ценности бренда Coinbase до философских вопросов о «51/49» с Tyler Cowen и ставках на личную свободу; и до признания в конечный момент, что «исход FTX не стоил того, что все истинное было искажено фильтром победителей во время кризиса», SBF представил полное духовное состояние гениального трейдера, упавшего с пьедестала.
Гость: Сэм Банкман-Фрид (основатель и бывший генеральный директор FTX, в настоящее время отбывает наказание в федеральной тюрьме; ключевой практик эффективного альтруизма)
Ведущий: Эли Голдфайн (14-летний ведущий технологического и прогнозного подкаста The Super Cycle, Twitter @realTomBayes)
Источник подкаста: The Super Cycle (https://x.com/realTomBayes/status/2123761258306384333)
Оригинальное название: ЭКСКЛЮЗИВ: Мне 14, и я только что взял интервью у Сэма Банкмана-Фрида
Дата выхода: 20 ноября 2026 года (по пекинскому времени: 21 ноября 2026 года)
Краткое содержание
- Главное мучение в тюрьме — это изоляция от передовой информации: SBF признал, что размышления о деле в тюрьме не приносят никакой добавленной ценности, и настоящая боль заключается в невозможности следить за реальными показателями больших языковых моделей, деталями кода, рыночными тенденциями и коммерческой проверкой стартапов; отсутствие передового микро-ввода делает эффективное мышление крайне трудным.
- История ранних инвестиций в 500 миллионов долларов в Anthropic: FTX Ventures тогда почти полностью охватил весь раунд финансирования B для Anthropic. Причина, по которой не было вложено больше средств, заключается в том, что слишком много наличных может привести к расточительству (например, к слепому увеличению объема), и команда не желала чрезмерно размывать доли, слепое расширение может привести к обратному результату.
- AI-индустрия достигнет доминирующей позиции в десятки триллионов долларов: В следующие десять лет AI обязательно станет опорой и даже доминирующим сектором мировой экономики; поскольку только несколько лабораторий могут конкурировать за трон (Anthropic, OpenAI, DeepMind, xAI), наличие оценок в триллионы долларов для ведущих организаций полностью логично с точки зрения экономического прогноза.
- Традиционные программные компании не были окончательно приговорены к смерти AI: Физические промышленные отрасли (такие как сталь и горнодобыча) отстают от воздействия AI; для чисто программных и финансовых учреждений конкуренты, даже используя AI для копирования аналогичных функций с низкими затратами, не могут легко свергнуть первопроходцев, поскольку настоящие защитные механизмы, такие как Coinbase и Robinhood, основаны на непоколебимой доверии к бренду.
- Оценка p(doom) находится в сложной серой зоне около 25%: SBF считает, что вероятность уничтожения человечества из-за AI или столкновения с катастрофой выживания находится в диапазоне от 10% до 50% (медиана около 25%); форма катастрофы не является простой потерей контроля над ядерным оружием, скорее это может быть сложная серая ситуация, например, после загрузки человеческого сознания, не загруженные группы будут полностью маргинализированы и устранены.
- Политические прогнозные рынки были незавершенной амбиции FTX: Прогнозные рынки по своей сути являются фьючерсными контрактами с определенными правилами расчетов; FTX в начале проводил прогнозы выборов в США на сотни миллионов долларов на оффшорных рынках, но из-за отсутствия лицензии от Комиссии по торговле товарными фьючерсами США (CFTC) столкнулся с ограничениями, взрыв Kalshi и Polymarket подтвердил потенциал этого сегмента.
- Крайнее сомнение в эффективности передачи информации бумажными книгами: SBF повторил свою известную точку зрения, что большинство книг должны быть сокращены до шести естественных абзацев блога; по сравнению с этим, аудиовизуальные потоки (например, Netflix) имеют гораздо более высокую эффективность передачи информации и выражения в единицу времени, чем книги, перегруженные пустыми словами.
- Крайние ожидания и реальность 51/49: В теории чистого линейного ожидания, ставка на удвоение при 51% и уничтожение мира при 49% математически обоснована; но в реальном мире уничтожение имеет необратимую цену вымирания, и реальная полезность сопровождается убывающей предельной полезностью; сталкиваясь с возможностью использовать 51/49, чтобы поставить на себя немедленный выход из тюрьмы, функция полезности личного риска определяет, что теоретическую ставку нельзя просто перенести в реальность.
- Тяжелый пересмотр исхода FTX: На вопрос «Стоило ли это всего?» SBF четко заявил: «Я не могу соврать и сказать, что это стоило, если в конце концов все не пошло наперекосяк, это должно было быть стоящим»; во время кризиса люди легко теряют разум и основные суждения, и затем вся история переосмысляется и искажается фильтром победителей.
- Принципы выживания для нового поколения 14-летних: Не стоит больше стремиться к тому, чтобы попасть на Уолл-стрит для «заработка с последующим пожертвованием» через высокочастотную торговлю; первоочередная задача — изо всех сил понять AI, заняться безопасностью AI или найти практические способы автоматизации инфраструктуры с помощью AI.
Яркие идеи
- О жестких барьерах информационного разрыва в тюрьме: «Если вы хотите создавать ценность на переднем крае, вам нужно знать сотни и тысячи мелких деталей: в каких задачах большие модели действительно превосходят, где они все еще неэффективны, о чем сейчас говорят на переднем крае отрасли, какие изменения произошли в микро-структуре рынка. А за высокими стенами федеральной тюрьмы получить эти детали практически невозможно.»
- О оценке и защитных механизмах Anthropic: «Если вы верите, что в следующие десять лет AI станет доминирующим сектором мировой экономики в десятки триллионов долларов, и что всего несколько лабораторий могут сидеть за этим столом, тогда логично, что каждая ведущая компания получит свою долю в триллионы долларов. Сила Anthropic в генерации кода и инструментах программной инженерии по-прежнему считается одной из лучших в мире.»
- О реальных барьерах между брендом и технологией: «Многие программисты думают, что технология — это все, но посмотрите на Coinbase или Robinhood, почему они стоят сотни миллиардов долларов? Это определенно не потому, что у них есть уникальные алгоритмы, которые невозможно скопировать, а потому, что у них есть доверие к бренду, которое произносится розничными пользователями по всей стране. Даже если конкуренты могут использовать AI для почти нулевых затрат, чтобы воспроизвести полностью аналогичное программное обеспечение, они не могут купить этот актив бренда.»
- О радикальной критике бумажных книг: «Я все еще верю, что если вы написали книгу, это часто означает, что вы сделали что-то неправильно, она должна была быть статьей длиной всего в шесть абзацев. Эффективность передачи информации книг слишком низка, они полны длинных бесполезных рассказов; за то же время высокоплотный визуальный и аудиовизуальный ввод может передать гораздо больше полезной информации.»
- О рефлексии на 51/49: «В теории чистого ожидания в башне из слоновой кости вы можете рассуждать о том, чтобы удвоить глобальную полезность, ставя на 49% вероятность уничтожения; но в реальном мире существует необратимый системный риск нулевой полезности, и любая положительная полезность имеет предел убывающей предельной полезности. Как только вы включаете смертельную цену уничтожения в модель, большинство монет в реальности вы не осмелитесь бросить.»
- О выводах из взлета и падения FTX: «Я хотел бы обмануть себя и успокоить себя, что все это стоило, но я не могу соврать и сказать это. Это должно было быть стоящим, если бы я в последний момент не все испортил. В момент крайнего кризиса паника искажает все советы и решения, а после того, как дым рассеется, все исторические нарративы неизбежно перестраиваются с точки зрения победителей.»
Основной текст: Полный текст диалога (на основе полного перевода оригинальных субтитров)
Жизнь в тюрьме и когнитивные барьеры: черный ящик без микро-деталей
Эли Голдфайн: Добро пожаловать в The Super Cycle, я Эли Голдфайн. Сегодня мы очень рады связаться с Сэмом Банкманом-Фридом (SBF). Ранее я и моя команда координировали подготовку в течение нескольких месяцев, и это стало нашим самым информационно насыщенным глубоким интервью с момента создания подкаста. Привет, Сэм, ты слышишь меня?
Сэм Банкман-Фрид: Да, слышу очень хорошо.
Эли Голдфайн: Рад связаться с тобой. Я видел много твоих недавних интервью, и большинство внимания сосредоточено на крахе FTX и твоей повседневной жизни в тюрьме. В тюрьме у тебя есть много времени на уединение и размышления, на какие темы ты обычно тратишь больше всего энергии?
Сэм Банкман-Фрид: Это очень естественный вопрос. Очевидно, что я действительно трачу значительную часть времени на пересмотр своего дела, анализ того, что произошло в прошлом, и размышления о том, что я могу сделать в этой ситуации. Но я хорошо понимаю, что эти размышления не приносят большой добавленной ценности для людей, находящихся в внешнем мире.
Я стараюсь сосредоточить свои усилия на размышлениях о том, что я могу сделать в будущем. Но в условиях тюрьмы проводить продуктивные предсказания крайне трудно.
Эли Голдфайн: Почему в тюрьме так трудно проводить предсказательные размышления? Из-за отсутствия какой-то ключевой информации?
Сэм Банкман-Фрид: Дело не в отсутствии одной единственной информации, а в недостатке множества мелких, но критически важных вводов. Если вы хотите находиться на переднем крае человеческого познания и бизнеса, чтобы предсказать будущее, вам нужно знать огромное количество динамических деталей: как развиваются передовые большие языковые модели? В каких конкретных задачах они преодолели человеческие пределы, а в каких областях они все еще неэффективны? Вы должны увидеть эти технологии на практике и общаться с людьми, которые каждый день работают над созданием этих моделей.
С финансовой точки зрения это также так: вы должны ежедневно следить за рынком, наблюдать за потоками капитала, структурой сделок, строить сети контактов, общаться с новыми стартапами, обсуждать их бизнес-модели и проводить глубокую проверку. Все это — то, что я бы делал, если бы находился в внешнем мире, но за высокими стенами федеральной тюрьмы получение любой информации становится крайне трудным, если не невозможным.
Эли Голдфайн: Если бы вы могли получить информацию в тюрьме, какие аспекты информации вы считаете наиболее ценными для предсказания реального мира?
Сэм Банкман-Фрид: Все еще та же фраза: это не единичная сенсационная новость, а тысячи микровариантов. Например, эволюция архитектуры передовых моделей, реальные барьеры для внедрения генерации кода, денежные потоки стартапов в реальных коммерческих условиях, реальная готовность клиентов из разных отраслей к закупкам и так далее. В отсутствие этих микродеталей, макрорамка, выведенная в замкнутом пространстве, часто оказывается крайне хрупкой.
Эли Голдфайн: Вы явно не можете думать о деле весь день. Какие более широкие темы вы рассматриваете помимо дела?
Сэм Банкман-Фрид: Да, но многие размышления все еще сильно ограничены физической средой, в которой я нахожусь, потому что это единственный мир, где я могу получить непосредственную обратную связь. Не то чтобы это было так важно, но я действительно потратил много времени на размышления о системе уголовного правосудия. Не только о моем личном опыте, но и о абсурдной логике, проявляющейся в целом судебном аппарате на общем уровне.
Рефлексия федеральной уголовной юстиции: вымышленные обвинения, оценка по показателям и обратные стимулы
Эли Голдфайн: Какие общие проблемы в правосудии вы наблюдаете вне контекста вашего личного дела?
Сэм Банкман-Фрид: Как говорится, если у вас есть молоток, все выглядит как гвоздь. В судебной системе действуют те же самые законы. Если вы создаете федеральную специальную рабочую группу для борьбы с определенным видом преступлений, эта группа будет безумно искать источники дел, независимо от того, существует ли это преступление на самом деле.
Как только состав и бюджет рабочей группы превышают реальный объем таких преступлений в обществе, она неизбежно начнет создавать ложные дела, чтобы арестовывать действия, которые на самом деле не являются преступлениями. За последние десятилетия федеральная система борьбы с наркотиками уже продемонстрировала такие искажения, а за последние десять лет эта практика проникла и распространилась на все области федерального правосудия.
Эли Голдфайн: Например, какие конкретные области?
Сэм Банкман-Фрид: Например, огромная федеральная служба по расследованию киберпреступлений, которая изначально была создана для борьбы с крайними нарушениями, теперь начинает вмешиваться в личные текстовые сообщения и нормальные взаимодействия между влюбленными. Бесчисленные совершенно невиновные люди были обвинены и арестованы только потому, что прокурорам нужны были эти дела для повышения и получения бонусов. Дело бывшего президента Гондураса Хуана Орландо Эрнандеса является Типичный ным примером, показывающим, какие абсурдные результаты могут возникнуть, когда механизм обвинения полностью выходит из-под контроля.
Эли Голдфайн: Вы все еще верите, что белые воротнички должны быть приговорены к тюремному заключению?
Сэм Банкман-Фрид: Совершенно не верю. Заключение белых воротничков в тюрьму не приносит обществу никакой положительной пользы. Единственное, что оно может сделать, это отнять десятки лет жизни у кого-то и заставить налогоплательщиков нести высокие экономические расходы на содержание тюрем. Если вы делаете это исключительно из мести, то действительно достигаете своей цели; но я абсолютно не считаю, что такая система может исправить кого-либо.
Эли Голдфайн: Какое, по вашему мнению, самое разумное решение для тех, кто действительно совершил финансовое мошенничество?
Сэм Банкман-Фрид: Это зависит от конкретных фактов дела. Но в подавляющем большинстве коммерческих и финансовых дел гражданский процесс является гораздо более тонким и рациональным путем, чем уголовный суд. Гражданские средства правовой защиты могут решать проблемы через огромные штрафы, изменение коммерческих контрактов, ограничение профессиональной квалификации и конфискацию активов.
Более того, как современное общество, мы должны научиться снижать эту слепую чрезмерную уверенность. Мы часто думаем, что можем точно увидеть истинную суть фактов, что наказание обязательно касается плохих людей, но на самом деле многие, кто оказывается на скамье подсудимых, просто стали удобными козлами отпущения для одной из сторон.
Эли Голдфайн: Улучшение судебной системы должно быть приоритетом для эффективного альтруистического сообщества?
Сэм Банкман-Фрид: С точки зрения ожидаемой полезности, эта область на самом деле очень сложна. Социальная ценность судебной реформы, безусловно, велика, но она сталкивается с крайне прочным политическим сопротивлением и институциональной инерцией. Когда группа интересов создает огромный замкнутый цикл за счет заключения людей, внешним силам крайне трудно продвигать изменения на низшем уровне.
Эли Голдфайн: Какое, по вашему мнению, самое легкое достижение в улучшении уголовной юстиции?
Сэм Банкман-Фрид: Самым простым и немедленно приносящим огромные экономические выгоды является полное пересмотрение предварительного задержания и критериев наказания за ненасильственные преступления. В текущей системе полно бедных людей, которые долго удерживаются под стражей только потому, что не могут заплатить мизерный залог, и низкооплачиваемых трудящихся, осужденных на десятилетия за наркотики. Предоставление им нормального рыночного обучения и исправления в сообществе, а не прямое заключение в тюрьму, что приводит к полному разрыву социальных связей, является наиболее эффективным подходом к реформам.
Прогнозы о конце индустрии ИИ: триллионные оценки и столы олигархов
Эли Голдфайн: Поговорим о передовых технологиях. В последнее время Anthropic готовится к публичному размещению акций, и ожидания его оценки стремятся к сотням миллиардов, а возможно, и триллионам долларов. Как один из ранних инвесторов, вложивших 500 миллионов долларов в Anthropic на этапе B, как вы оцениваете текущие оценки этих лабораторий больших моделей?
Сэм Банкман-Фрид: Я считаю, что они абсолютно стоят этих денег, и в будущем могут стоить еще больше.
С точки зрения макроэкономической логики: оглядываясь на историю человеческой экономики, все настоящие опоры, поддерживающие функционирование человеческой цивилизации, имеют общую рыночную капитализацию от десятков триллионов до сотен триллионов долларов. И в течение следующих пяти-десяти лет ИИ с высокой вероятностью станет самой центральной, а возможно, даже самой доминирующей экономической отраслью в мире.
Эли Голдфайн: Если весь сектор ИИ в будущем сможет достичь рыночной капитализации в десятки триллионов долларов, как эта стоимость будет разделена на рынке?
Сэм Банкман-Фрид: Предположим, что из будущей общей капитализации в десятки триллионов долларов две трети будут отданы еще не созданным инновационным приложениям и новым компаниям, тогда оставшаяся часть все равно будет иметь масштаб не менее десяти триллионов долларов, который будет разделен существующими ведущими компаниями в области базовых моделей.
Однако, если вы посчитаете, сколько на самом деле есть ведущих лабораторий, которые могут сидеть за этим столом, то их будет всего несколько: OpenAI, Anthropic, Google DeepMind и xAI — их можно пересчитать на пальцах одной руки. Когда десятки триллионов долларов в этой области в конечном итоге будут разделены между несколькими ведущими олигархами, неизбежным результатом станет то, что каждая из верхних компаний должна будет оцениваться в триллионы долларов. Anthropic, безусловно, входит в число двух лучших в мире.
Эли Голдфайн: Почему вы так высоко оцениваете Anthropic? Это связано с тем, как модели Claude показывают себя в бенчмаркинге?
Сэм Банкман-Фрид: Результаты важны, и общественность также может видеть, что Claude имеет отличную репутацию в повседневных разговорах и потребительских приложениях. Но настоящим активом, который действительно выделяет Anthropic, является его абсолютное доминирование в области программной инженерии и профессиональных инструментов разработки. Их наборы инструментов для инженеров и способность понимать код являются лучшими в мире, что является основным рабочим механизмом для перехода всего цифрового общества к автоматизации на основе ИИ.
Эли Голдфайн: Если в течение следующего десятилетия начнется полная гонка вооружений в области суперинтеллекта, как вы думаете, каким станет мир?
Сэм Банкман-Фрид: Вся система распределения производительности общества будет полностью переосмыслена. В последние годы большие модели хотя и эволюционировали экспоненциально, но поскольку их абсолютные способности все еще ниже среднего уровня человека, общественный порядок казался спокойным. Однако, как только будет преодолена определенная критическая точка, в таких областях, как программирование, право, финансовое моделирование и разработка лекарств, скорость производства машин будет в сотни раз превышать человеческую. Скорость создания богатства значительно увеличится, но то, как распределять дивиденды от этих вычислительных мощностей, станет самым острым вопросом геополитической борьбы в мире.
История о вложении 500 миллионов долларов в Anthropic: гонка вооружений вычислительных мощностей и ловушки капитала
Эли Голдфайн: Многие люди всегда интересовались, почему FTX Ventures практически полностью взял на себя финансирование всего раунда B для Anthropic. Если вы тогда были так уверены в будущем ИИ, почему не выписали более крупный чек, например, не вложили 1 миллиард или даже 2 миллиарда долларов, чтобы они могли без ограничений закупать графические процессоры (GPU) и строить дата-центры?
Сэм Банкман-Фрид: Здесь есть два ключевых соображения. Во-первых, с точки зрения команды основателей, любая хорошая команда на раннем этапе не хочет чрезмерно размывать контроль над своей компанией и долю акций, они хотят собрать только ту сумму, которая необходима на текущем этапе развития.
Во-вторых, в истории бизнеса много компаний, которые погибли из-за нехватки средств, но также много случаев, когда компании были задушены чрезмерным наличным потоком и в конечном итоге пострадали от собственного капитала. Многие стартапы, получив астрономические суммы, часто испытывают слепую тревогу «я должен потратить эти деньги», и в результате растрачивают огромные средства на бессмысленный маркетинг или слепое расширение, в конечном итоге теряя уважение к основным технологиям.
На ранних этапах создания больших моделей итерация архитектуры моделей и проверка алгоритмов требуют стабильного и последовательного цикла разработки, это не просто накопление вычислительных мощностей. В то время Anthropic очень рационально планировал использование средств, которые мы вложили, идеально соответствовали их основным требованиям для запуска обучения следующего поколения больших моделей.
Эли Голдфайн: Как работал FTX Ventures в то время? Какую роль вы играли в конкретных инвестиционных решениях?
Сэм Банкман-Фрид: На ранних этапах многие проекты были обнаружены членами нашей команды в ходе повседневной деятельности, включая ранние инвестиции в криптовалюту, многие из которых ежегодно приносили многократный рост активов. Anthropic, как и Solana, изначально были проектами, с которыми мы случайно глубоко познакомились.
С увеличением масштаба мы привлекли профессиональных партнеров и создали формальную инвестиционную структуру. Для обычных проектов я склонен полностью доверять команде аналитиков, отвечающим за дью дилидженс; но для таких стратегически значимых вложений, как Anthropic, я буду глубоко следить за процессом на еженедельной или даже более частой основе, обсуждая, как мы можем помочь им в области базовых вычислительных мощностей, финансов и ресурсной сети.
Эли Голдфайн: Какое самое глубокое впечатление произвела на вас команда Дарио Амодеи, когда вы с ними общались?
Сэм Банкман-Фрид: Исключительная строгость и сосредоточенность. Дарио и его команда, отделившись от OpenAI, имели очень четкую цель — создать передовую безопасную модель с высокой объяснимостью и гарантией согласованности. Они не будут делать эффектные маркетинговые презентации ради краткосрочного внимания; каждая статья капитальных расходов крайне сдержанно направляется на ключевые вычислительные кластеры и найм инженерных кадров, такая инженерная культура крайне редка в нынешнем бурном Силиконовой долине.
Кризис выживания традиционных программных компаний и защитные механизмы бренда: почему ИИ не может убить Coinbase?
Эли Голдфайн: С ростом возможностей передовых моделей многие традиционные программные компании сталкиваются с огромной тревогой за свое существование. Как вы думаете, у тех традиционных программных компаний, которые не интегрировали ИИ, есть ли еще шанс на выживание?
Сэм Банкман-Фрид: Дело не так однозначно. Во-первых, в реальной экономике есть довольно много отраслей, где проникновение ИИ имеет естественные физические защитные буферы, например, в сталелитейной промышленности и подземной добыче. Даже самый умный ИИ не сможет за одну ночь вырыть руду из земли.
Во-вторых, для чисто цифрового программного обеспечения решающим фактором не является только эффективность базового кода. Многие недооценивают абсолютный защитный барьер «бренда». Предположим, что конкурент использует новейшие инструменты больших моделей и клонирует программный продукт с почти идентичными функциями за крайне низкую цену. Это означает, что пользователи откажутся от оригинального продукта? Абсолютно нет.
Эли Голдфайн: Как Coinbase или Robinhood?
Сэм Банкман-Фрид: Совершенно верно. Почему Coinbase и Robinhood могут похвастаться рыночной капитализацией в десятки миллиардов долларов? Разве это потому, что у них есть секретный код движка сопоставления, который другие команды не могут скопировать? Конечно, нет. Их самым ценным активом является узнаваемость бренда, это доверие, которое миллионы обычных розничных инвесторов высказывают, когда хотят купить или продать цифровые активы.
Даже если новая команда сможет переписать фронтенд и торговую систему с помощью ИИ почти без затрат, она не сможет за короткое время приобрести репутацию бренда, накапливавшуюся годами. Бренд часто позволяет традиционным компаниям сохранять долгосрочную устойчивость к ударам, связанным с гомогенизацией базовых продуктов.
Эли Голдфайн: Какие традиционные программные компании будут быстрее всего вытеснены?
Сэм Банкман-Фрид: Те, которые полагаются исключительно на набор функций, не имеют захвата ума бренда и не обладают глубокими сетевыми эффектами данных. Если ваш продукт — это просто инструмент для управления заявками или заполнения форм, и между вами и пользователями нет никаких эмоциональных или брендовых связей, то инструменты, основанные на ИИ, в кратчайшие сроки уничтожат его за десятую часть стоимости.
Реальный Alpha в технологических инвестициях: минималистские команды, основанные на ИИ, против мусорных компаний, использующих концепции
Эли Голдфайн: Где, по вашему мнению, скрывается настоящий сверхдоход (Alpha) в области технологических инвестиций?
Сэм Банкман-Фрид: Настоящий Alpha заключается в способности проникающего анализа пузырей. В настоящее время на рынке половина стартапов наклеивают ярлыки ИИ на обложку своих бизнес-планов, даже если это компания, продающая футболки, утверждает, что использует ИИ для дизайна. Все это по сути является промышленным мусором.
В то же время настоящие огромные возможности скрыты в очень небольшом количестве первичных команд, состоящих всего из двух-трех ключевых участников: они полностью полагаются на инструменты ИИ и с невероятной эффективностью реконструируют традиционные рабочие процессы, которые раньше требовали сотни или тысячи человек, быстро превращаясь в суперорганизмы с оценкой в десятки миллионов или сотни миллионов долларов. Умение различать, что является настоящим прорывом, а что — манипуляцией, является самым важным разделением в современных инвестициях.
Эли Голдфайн: Если бы вы сегодня управляли капиталом, вернулись бы вы к таким инвестициям?
Сэм Банкман-Фрид: Конечно. Если бы я был на свободе, я бы очень активно искал и вкладывал средства в поддержку этих суперорганизмов из двух-трех человек. У них нет бюрократических внутренних конфликтов, каждый участник может с помощью больших моделей генерировать результаты, эквивалентные целому инженерному отделу. Эта эффективность и прибыльность, возникающие благодаря сокращению численности, совершенно недоступны традиционным организационным формам.
Биомедицина и технологии долголетия: регуляторные ограничения и ускорение разработки ИИ
Эли Голдфайн: Поговорим о биотехнологиях. FTX в начале также финансировала множество проектов по борьбе со старением, долголетию и генотерапии. Как вы оцениваете прогресс в области биомедицины?
Сэм Банкман-Фрид: Биотехнологии — это область с огромным потенциалом, но ее главная проблема не в интеллекте ученых, а в устаревшей регуляторной системе. Процесс клинического одобрения, проводимый Управлением по контролю за продуктами и лекарствами США (FDA), крайне длителен и дорогостоящ. Новое лекарство часто требует десятков миллиардов долларов и до десяти лет, чтобы выйти на рынок.
Многие ранние методы, которые могли бы спасти жизни, застревают в лабораториях, потому что не могут привлечь астрономические суммы для завершения третьей фазы клинических испытаний. Мы надеялись предоставить ранние катализирующие инвестиции для этих высокорисковых, высокодоходных передовых попыток.
Эли Голдфайн: Изменит ли ИИ эту ситуацию?
Сэм Банкман-Фрид: ИИ уже продемонстрировал разрушительную силу в предсказании структуры белков, молекулярном докинге и отборе соединений. ИИ может сократить первоначальный лабораторный отбор, который обычно занимает годы или даже десятилетия, до нескольких месяцев. Но в конечном итоге все лекарства все равно должны пройти клинические испытания на людях в физическом мире. Если не реформировать устаревшие, застывшие регуляторные процессы, простое ускорение технологий все равно будет значительно замедлено административными барьерами.
Эли Голдфайн: Как вы считаете, как можно оптимизировать процесс клинического одобрения для редких или смертельных заболеваний?
Сэм Банкман-Фрид: Необходимо ввести более гибкие процедуры информированного согласия и параллельные каналы. Для пациентов с неизлечимыми заболеваниями, для которых современная медицина бессильна, если они полностью информированы и добровольно хотят попробовать инновационные методы, находящиеся на первой или второй фазе клинических испытаний, регуляторные органы не должны грубо лишать их права на жизнь. Динамическое отслеживание с использованием данных реального мира (RWD) гораздо более этично, чем механическое ожидание десятилетних двойных слепых испытаний.
Политика, регулирование и размышления администрации Байдена: враждебность к криптовалютам и потеря демократии
Эли Голдфайн: Поговорим о политике и макрорегулировании. В последние четыре года администрация Байдена приняла очень агрессивную позицию в области регулирования технологий и финансов, особенно Комиссия по ценным бумагам и биржам (SEC) начала широкомасштабные действия против криптовалютной отрасли. Как вы оцениваете регуляторную деятельность администрации Байдена?
Сэм Банкман-Фрид: Я считаю, что администрация Байдена в этом отношении проявила себя крайне разочаровывающе.
Не только в отношении криптоиндустрии, но и в целом в области технологических инноваций регуляторы продемонстрировали глубокую враждебность к бюрократии. Они не стремились создать четкую, исполнимую и способствующую инновациям правовую основу, а вместо этого использовали бесконечные рейды для подавления законопослушных местных компаний, что напрямую привело к тому, что множество ведущих технологических талантов и инновационного капитала уехали на оффшорные рынки.
Эли Голдфайн: Вы когда-то делали крупные пожертвования на политические кампании. Почему, по вашему мнению, политика не понимает технологическую отрасль?
Сэм Банкман-Фрид: Многие политики и регуляторы совершенно не понимают базовой логики технологий; их интересует только политический нарратив и распределение власти. При разработке многих политик основой для принятия решений является не то, какое решение принесет наибольшую пользу для экономики и общества, а то, какое решение принесет больше голосов и политических активов. Я считаю, что Демократическая партия за последние десять лет серьезно потеряла направление по многим экономическим и технологическим вопросам.
Эли Голдфайн: В условиях международной технологической конкуренции должны ли технологические компании замедлить свои темпы для обеспечения безопасности?
Сэм Банкман-Фрид: Это крайне опасная ловушка. Если какая-то компания, придерживающаяся принципов безопасности, замедлит свои темпы, в то время как другие конкуренты по всему миру, включая недружественные страны, будут мчаться вперед, то односторонние самоограничения не сделают мир более безопасным, а наоборот, передадут контроль над передовыми технологиями тем, кто совершенно не заботится о безопасности и этике. Идеальное состояние — это когда все основные участники достигают значимого соглашения о безопасности, но в реальной геополитике это крайне сложно.
Суть и взрыв политических предсказательных рынков: от контрактов FTX на выборы 2020 года до Kalshi и Polymarket
Эли Голдфайн: Поговорим о финансовых инновациях. Недавно оценка Kalshi резко возросла, а объем торгов Polymarket на глобальных политических выборах поразителен. Слышал, что в начале создания FTX одной из ваших идей было создание глобального политического предсказательного рынка?
Сэм Банкман-Фрид: С точки зрения базовой логики финансовой инженерии, так называемые предсказательные рынки по сути являются фьючерсными контрактами, которые рассчитываются наличными на основе результатов конкретных реальных событий. Они не отличаются по сути от биткойнов или фьючерсов на нефть.
Во время президентских выборов в США 2020 года на FTX International работали самые активные контракты на предсказание победы Трампа и Байдена, объем торгов которых достигал сотен миллионов долларов. С первого дня мы стремились расширить этот рынок, но самым большим препятствием всегда оставалась регуляторная лицензия. Из-за отсутствия местной лицензии от Комиссии по торговле товарными фьючерсами США (CFTC) мы тогда строго запрещали участие пользователей из США и требовали полной идентификации (KYC) на централизованных биржах.
Эли Голдфайн: Почему Kalshi и Polymarket смогли полностью взорваться в этом цикле?
Сэм Банкман-Фрид: Они выбрали два разных пути. Kalshi потратила годы на судебные разбирательства и официальные процедуры, чтобы получить лицензию на соответствие; в то время как Polymarket использовала оффшорную и децентрализованную структуру, чтобы собрать огромную ликвидность по всему миру. Это полностью подтвердило наше суждение: потребность человечества в оценке значительных исторических событий является универсальной и реальной.
Помимо предсказательных рынков, токенизированные акции (Tokenized Equities) по-прежнему имеют огромный потенциал для роста. Базовая расчетная система традиционного рынка акций крайне устарела и неэффективна, в то время как основанная на блокчейне система бесшовного расчета 7×24 часов обладает явным преимуществом в инфраструктурном опыте.
Порог AGI и оценка p(doom): 25% вероятность вымирания и серые проблемы загрузки сознания
Эли Голдфайн: Многие обсуждают, когда наступит искусственный общий интеллект (AGI) или даже суперинтеллект (ASI). Каковы ваши личные ожидания по временным рамкам AGI?
Сэм Банкман-Фрид: Я не думаю, что приход AGI будет четким, черно-белым дискретным событием. Скорее всего, это будет процесс постепенной замены, который будет продолжаться.
На протяжении долгого времени, хотя вычислительная мощность ИИ удваивалась, его уровень интеллекта оставался значительно ниже человеческого, и он практически не оказывал никакого существенного воздействия на реальный мир. Но когда его интеллект постепенно приблизится к человеческому и в определенных вертикальных областях будет преодолен критический порог, качественные изменения начнут распространяться с невероятной скоростью. Мы уже видели эту тенденцию в разработке программного обеспечения, высшей математике и стратегиях теории игр. В течение следующих трех-четырех лет ключевые сегменты человеческого общества будут глубоко захвачены ИИ один за другим.
Эли Голдфайн: В сообществе эффективного альтруизма безопасность ИИ и вероятность вымирания человечества всегда были центральными темами. Вы никогда не раскрывали свою личную оценку p(doom) (вероятность, что ИИ приведет к вымиранию человечества или его полному уничтожению). Можете ли вы сегодня дать четкую оценку?
Сэм Банкман-Фрид: Если нужно дать числовое значение, я думаю, что оно ниже 50%, но выше 10%, примерно в диапазоне 25%.
Но одно нужно прояснить: в моей модели оценки катастрофические сценарии часто не являются теми, что изображаются в голливудских фильмах, где контролируемый искусственный интеллект внезапно захватывает ядерную кнопку и объявляет войну всему человечеству. В реальности с гораздо большей вероятностью происходит крайне сложная этическая дилемма.
Эли Голдфайн: Например, какая это может быть сероватая дилемма?
Сэм Банкман-Фрид: Например, загрузка сознания (Mind Uploading). Если в будущем технологии достигнут стадии, когда человечество сможет полностью цифровизировать и загрузить сознание своего мозга в облако, то те, кто завершит цифровую бессмертие, будут в геометрической прогрессии превосходить физических людей по вычислительной мощности и скорости эволюции. В такой ситуации будут ли оставшиеся в физическом мире первобытные люди полностью вытеснены и маргинализированы?
Этот процесс, который фактически ведет к исчезновению физического человеческого вида, можно ли считать катастрофой для человеческой цивилизации? Разные люди дадут совершенно противоположные философские ответы. Как только вы начинаете учитывать эти эволюционные пути, полные этических серых зон, вероятность оценки рисков выживания будет колебаться между 20% и 60%.
Искусственный интеллект и будущие рабочие процессы: суперисследователь, в десять раз превосходящий человека
Эли Голдфайн: Если в будущем появится суперумный помощник, который полностью превосходит вас в логическом рассуждении и ожидаемой ценности решений, будете ли вы готовы полностью передать ему свои полномочия по принятию решений?
Сэм Банкман-Фрид: Это зависит от того, какова его функция оптимизации. Он стремится максимизировать свою собственную вероятность выживания, или максимизировать благосостояние всех воспринимающих существ, или же верно выполнять поставленные мной цели?
Если его основная цель — быть верным, внимательным и рациональным исследовательским помощником, который может выполнять высокоинтенсивные задачи, требующие целого дня, за одну минуту с человеческой скоростью в сто раз, тогда я определенно готов доверить ему множество конкретных задач по исполнению и анализу. Но конечные ценностные ориентиры и этические границы всегда должны оставаться привязанными к основным потребностям человечества.
Эли Голдфайн: Как этот суперпомощник изменит финансовую и инвестиционную отрасли?
Сэм Банкман-Фрид: Пирамидальная структура традиционных инвестиционных учреждений, состоящая из сотен и тысяч младших аналитиков, мгновенно рухнет. Один партнер, работающий с несколькими специализированными автономными интеллектуальными агентами для перекрестной проверки финансовых отчетов, очистки макроданных и отслеживания общественного мнения, сможет достичь результатов, которые раньше требовали целого здания инвестиционного банка. Исход между учреждениями больше не будет зависеть от того, сколько выпускников престижных университетов они наняли, а от того, кто глубже понимает стратегии настройки и базовую логику интеллектуальных агентов.
Почему я крайне сомневаюсь в бумажных книгах? Проблема объемов информации и снижение эффективности аудиовизуальных медиа
Эли Голдфайн: Давайте обсудим интересную жизненную тему. Многие умные люди гордятся тем, что читают много книг, но я помню, что вы однажды сказали очень известное противоречивое мнение: «Я крайне сомневаюсь в ценности книг, подавляющее большинство книг должно быть написано в виде блога всего из 6 абзацев». Сегодня, находясь в тюрьме, сколько книг вы прочитали? Изменилось ли ваше мнение?
Сэм Банкман-Фрид: В тюрьме у меня действительно не было большого выбора, я прочитал много книг, но это только укрепило мою уверенность в том, что я изначально был прав.
Если вы написали целую книгу, это часто означает, что вы не прояснили свою основную точку. В книге на сотни страниц действительно ценные основные идеи часто можно полностью изложить всего в нескольких абзацах, а остальные девяносто процентов текста — это длинные примеры, предисловия и несущественные нарративы, которые просто добавляют толщину книге.
Эли Голдфайн: Какие книги вы в основном читали в тюрьме? Есть ли какая-то, которую вы считаете стоящей прочтения?
Сэм Банкман-Фрид: Я прочитал много научной фантастики. Но, честно говоря, подавляющее большинство научной фантастики довольно посредственно. Если бы у меня была возможность, я бы предпочел смотреть жесткую научную фантастику на Netflix. Очень немногие хорошо написанные научно-фантастические произведения, возможно, могли бы дотянуть до уровня посредственного телесериала, но все равно не могут конкурировать с потоковыми медиа в плане передачи информации.
Эли Голдфайн: Какой медиаформат вы считаете более эффективным для передачи информации по сравнению с книгами?
Сэм Банкман-Фрид: Высокоплотные аудиовизуальные медиа значительно превосходят печатный текст по объему информации, передаваемой за единицу времени. В отличном фильме или глубоком сериале визуальные образы, микроэкспрессии персонажей, звуковые эффекты, ритм монтажа и диалоги передают вашему мозгу десятки измерений информации одновременно. Эта высокая плотность эмоционального и когнитивного резонирования совершенно не может сравниться с крайне неэффективным односторонним печатным текстом.
Эффективный альтруизм (EA) и границы количественных показателей: QALYs и искажение реальной оценки
Эли Голдфайн: В сообществе эффективного альтруизма люди привыкли использовать строгие математические формулы и качественные скорректированные годы жизни (QALYs) для количественной оценки ожидаемой полезности каждого благотворительного расхода. После того как вы оказались в тюрьме, как вы относитесь к этой чисто количественной философии благотворительности?
Сэм Банкман-Фрид: Чисто теоретическая ожидаемая полезность в чисто математическом мире элегантна, но сложность реального мира заключается в том, что выбранные вами количественные показатели часто не являются основными ценностями, которые волнуют человеческое общество.
Когда вы стремитесь к математической измеримости и упрощаете сложные реальные проблемы до единого числового измерения, вы легко можете попасть в ловушку слепого человека, ощупывающего слона. Например, финансирование сеток от комаров для борьбы с малярией легко количественно оценить по стоимости и краткосрочной выгоде; в то время как финансирование системного строительства, прорывов в фундаментальной науке или предотвращение цивилизационных катастроф имеет долгосрочные последствия, полные неколичественных параметров в математических моделях. Если из-за невозможности точной количественной оценки вы отказываетесь от тех глубоких попыток, которые действительно определяют судьбу цивилизации, это само по себе является величайшим предательством разума.
Эли Голдфайн: Значит, чрезмерная количественная оценка стала своего рода догматической ловушкой для эффективного альтруизма?
Сэм Банкман-Фрид: Действительно. Когда люди чрезмерно увлечены проверяемостью математических моделей, они инстинктивно отвергают те действительно разрушительные, но полные неопределенности масштабные идеи. Здоровая оценочная структура должна признавать границы человеческого познания и поддерживать динамический баланс между количественной точностью и интуитивными схемами.
Экстремальный философский вопрос 51/49: чистая ожидаемая полезность против необратимого разрушения и предельной убывающей полезности
Эли Голдфайн: Я хотел бы обсудить с вами известный мыслительный эксперимент. Экономист Тайлер Коуэн когда-то предложил вам гипотезу: если есть монета, которая с вероятностью 51% удвоит общую полезность Земли, а с вероятностью 49% приведет к ее полному уничтожению, будете ли вы готовы бросить эту монету? Тогда вы ответили, что бросите. Сегодня, находясь в тюрьме, вы все еще придерживаетесь этой чистой логики ожидаемой полезности?
Сэм Банкман-Фрид: Это классический философский и вероятностный спор, который очень привлекателен. Если вы строго ограничите вопрос чисто математической гипотезой и линейной функцией ожидаемой полезности, то математический ответ очевиден: 51% умножить на 2 больше 1, ожидаемая полезность положительна, и любой твердолобый максимизатор ожидаемой полезности логически должен принять эту ставку.
Но в реальном мире этот мыслительный эксперимент вызывает инстинктивное отторжение у подавляющего большинства нормальных людей, потому что он игнорирует основные ограничения, которые нельзя просто абстрагировать.
Эли Голдфайн: Какие именно ограничения реальности были проигнорированы?
Сэм Банкман-Фрид: Первое, уничтожение абсолютно необратимо (Catastrophic Ruin). В вероятностной игре, если у вас есть определенная вероятность полностью обнулиться и навсегда выйти из игры, у вас больше не будет шанса насладиться последующими выгодами от положительной ожидаемой полезности.
Во-вторых, полезность никогда не является строго линейной; она подвержена сильному эффекту убывающей предельной полезности. В реальности удвоение полезности Земли не принесет человечеству счастья, которое смогло бы компенсировать бесконечную боль, вызванную 49% вероятностью полного уничтожения человеческой цивилизации. Применение экстремальной модели, лишенной убывающей полезности и защиты от банкротства, к реальному миру часто приводит к крайне опасным искажениям суждений.
Эли Голдфайн: Если задержка в развитии технологий может снизить вероятность разрушения, вы поддержите замедление темпов?
Сэм Банкман-Фрид: Если в теоретической модели отложить переход человечества к суперумному состоянию на сто лет, и это сможет снизить вероятность разрушения цивилизации хотя бы на 1%, то с точки зрения макропериодов во вселенной на миллиарды лет это сто лет простоя будет абсолютно оправданным. Потому что будущее вселенной бесконечно долго, а как только цивилизация обнулится, она окончательно прекратится.
Высокие ставки в реальной жизни: если бы вы могли поставить 51/49 на свою свободу, вы бы бросили?
Эли Голдфайн: Что если этот спор касается вашей личной жизни? Предположим, есть монета, которая с вероятностью 51% позволит вам выйти на свободу завтра, а с вероятностью 49% удвоит ваш срок или даже приведет к смертной казни, вы бы бросили эту монету?
Сэм Банкман-Фрид: Это очень ярко иллюстрирует, почему функции полезности в реальной жизни не являются линейными. Столкнувшись с такими основными активами, как свобода и жизнь, люди испытывают крайне высокую степень отвращения к рискам.
Если я выйду завтра, моя жизнь, безусловно, кардинально изменится к лучшему; но если цена за это — почти половина вероятности столкнуться с более длительным сроком или даже полной утратой жизни, то такая рискованная премия неприемлема. Именно поэтому сложные решения в реальной жизни никогда не должны приниматься на основе грубого числового значения ожидаемой полезности.
Эли Голдфайн: Многие считают, что ваши прошлые инвестиции и бизнес-решения являются продуктом этой философии экстремальной ожидаемой полезности. Вы согласны с этой оценкой?
Сэм Банкман-Фрид: Я думаю, что внешние наблюдатели слишком упрощают мой способ мышления. При проведении обычных сделок мы крайне внимательно относимся к хеджированию и управлению рисками; но в условиях крайнего кризиса многие теоретические модели безопасности могут быть мгновенно разрушены. Реальный мир не является симуляцией Монте-Карло в стеклянной башне, разрушительная сила черных лебедей значительно превышает ожидания математических уравнений.
Вопрос о конечной цели: все это действительно стоит того? Изменение решений в кризисе и нарратив победителей
Эли Голдфайн: У нас осталось всего несколько минут. Я хочу задать самый сокровенный вопрос: учитывая шокирующее падение FTX, но в то же время, что FTX Future Fund в начале финансировал множество ведущих технологий и проектов безопасности, включая Anthropic. Оглядываясь на весь взлет и падение, действительно ли это стоило того в макроперспективе?
Сэм Банкман-Фрид: Нет. Мне очень хотелось бы обмануть себя и дать утвердительный ответ, но я не могу соврать себе, что это стоило того.
Я считаю, что это должно было стоить. Если бы в последний момент я не испортил ситуацию, если бы эти линии защиты не были разрушены, это должно было стать огромной силой, продвигающей мир вперед. Если будущие поколения смогут извлечь правильные уроки из этой катастрофы, возможно, она сохранит некоторую ценность как предостережение, но на практике большинство людей не извлекают уроки.
Эли Голдфайн: Какой урок действительно следует извлечь людям?
Сэм Банкман-Фрид: Основной урок только один: когда кризис действительно наступает и ситуация полностью выходит из-под контроля, человечество в состоянии крайнего страха принимает искаженные решения. Под давлением жизни и смерти люди очень быстро теряют способность судить о действительно важных вещах, все правила мгновенно рушатся.
А когда пыль оседает, историю всегда пишут победители. Все причинно-следственные детали событий будут переосмыслены, искажены и упрощены через призму победителей. Для тех, кто находится вне шторма, проникнуть сквозь завесу нарратива, написанного победителями, чтобы восстановить истинные механизмы, практически невозможно.
Жизненные принципы для нового поколения 14-летних: не идите на Уолл-стрит заниматься количественным анализом, погружайтесь в ИИ
Эли Голдфайн: Как 14-летний молодой человек, стоя перед наступающей эпохой суперинтеллекта, какой основной совет вы бы мне дали, чтобы создать максимальную положительную ценность в этом мире?
Сэм Банкман-Фрид: Десять лет назад стандартный ответ сообщества эффективного альтруизма был «заработать, чтобы пожертвовать»: идти на Уолл-стрит заниматься высокочастотной торговлей, зарабатывать миллиарды долларов, а затем жертвовать богатство на благотворительность.
Но времена полностью изменились. На этом приближающемся сингулярном этапе высокочастотная торговля на Уолл-стрит больше не является самым важным полем битвы. Окно возможностей между сейчас и полным взлетом ИИ стремительно сужается, глубокое понимание и освоение машинного интеллекта растет экспоненциальными темпами.
Будь то погружение в передовые исследования согласования и безопасности ИИ или поиск традиционной инфраструктуры и ее полная автоматизация с помощью ИИ, углубление в суть машинного интеллекта — это единственное истинное поле битвы, которому стоит отдать все силы в эту эпоху.
链捕手ChainCatcher напоминает: относитесь к блокчейну рационально, повышайте осведомлённость о рисках и будьте осторожны с выпуском и спекуляциями виртуальными токенами. Весь контент на сайте является рыночной информацией или мнением соответствующих сторон и не является инвестиционной рекомендацией в любой форме. Если вы обнаружите чувствительную информацию, нажмите — мы оперативно разберёмся.
Популярные статьи













