Токен маршрутизации, становится бизнесом в области финансовых технологий

Stripe потратила более семи миллиардов на покупку OpenRouter, но только за маршрутизацию токенов это явно не стоит таких денег: логика маршрутизации может быть воспроизведена, облачные провайдеры могут упаковать её, а комиссия в 5,5% вряд ли будет устойчивой.

Так что же на самом деле купила Stripe? Это не "к какому модели отправить запрос", это "божественная перспектива", позволяющая видеть потоки между моделями и поставщиками. Партнёр QED Venture Сандип Патил более точно выразился с точки зрения финансов после сделки:

Быть внутри потока само по себе не является конкурентным преимуществом, а видеть поток и, следовательно, знать, как действовать дальше, вот что действительно важно.

Платежная индустрия потратила двадцать лет на проверку этой фразы, и теперь токены должны пройти тот же путь.

Поэтому эта статья говорит не о технологиях, а о финансах: то, что росло вокруг доллара на протяжении двадцати лет, сейчас повторяется на токенах ------ маршрутизация и закупка, данные и распределение, коэффициенты успеха и управление рисками, стандарты и сборка, кредитование и обмен валют.

Перемещение токенов — это просто бизнес с потоками, а большая ценность находится над потоками.

1. Маршрутизация: сначала решим проблему фрагментации

Маршрутизация токенов существует, потому что рынок AI токенов становится фрагментированным и многопользовательским.

Приложения должны одновременно настраивать несколько моделей, которые размещены у разных поставщиков, цены постоянно меняются, а оптимальные решения для разных задач тоже различаются. Открытый код против закрытого, передовые модели продолжают продвигать передовые решения, и эта нестабильность в краткосрочной перспективе не исчезнет. Привязываться к одному поставщику становится всё менее выгодно ------ ни одно приложение не хочет каждый раз перестраивать свой технологический стек, когда оптимальная модель меняется.

Старый способ решения проблемы фрагментации на финансовом рынке — это вставить слой общих ресурсов: SWIFT между банками, карточные организации между торговцами и эмитентами, платежные шлюзы абстрагируют сложные каналы.

Маршрутизация токенов идёт по тому же пути.

И это не просто распределение трафика, каждая маршрутизация — это решение о закупке: какую модель использовать, какой поставщик будет обслуживать, какую цену платить, какое качество считается приемлемым. После миллиарда маршрутизаций у маршрутизирующей стороны будет книга учёта потребления моделей.

Но если будет только маршрутизация, этого недостаточно.

В простых сценариях смена поставщика маршрутизации может означать просто изменение базового URL. Логика маршрутизации может быть воспроизведена, облачные провайдеры могут упаковать её в инфраструктуру, которую компании уже покупают, конкуренты также могут передавать цены моделей по себестоимости. В производственной среде всё не так просто: соблюдение норм, хранение данных, кэширование, наблюдаемость, SDK, выставление счетов, конфиденциальность — всё это требует изменений.

2. Распределение и интеграция: данные появляются только после интеграции

Сила Stripe не в каналах. Она стала стандартным выбором для разработчиков. Распределение трафика само по себе является конкурентным преимуществом.

Эта фраза часто переворачивается: не потому, что появились данные, они были интегрированы, а потому, что сначала была интеграция, и только потом появились данные.

На стороне маршрутизации токенов самым прямым доказательством является рейтинг моделей OpenRouter. Какие модели растут в использовании, какие падают, куда мигрируют задачи кодирования, как долго пользователи меняют поставщиков при изменении цен ------ это единственные публичные данные об использовании, охватывающие разные модели и поставщиков в отрасли.

Интересно, что эти данные почти не полезны для самой маршрутизации. Они не сделают какой-либо запрос более точным. Но они сделали OpenRouter счётчиком в этом рынке, а счётчик имеет право на торг.

Производители моделей не могут создать такие данные: они видят только свои вызовы, что эквивалентно учёту только своих операций. Облачные провайдеры видят инфраструктуру, но не видят намерений.

Единственное место, где можно увидеть полную картину межмодельного поведения, — это уровень маршрутизации.

Таким образом, формируется цикл: больше трафика приводит к лучшему наблюдению, лучшее наблюдение улучшает маршрутизацию, лучшая маршрутизация приводит к большему трафику.

Это гораздо интереснее, чем просто брать пять процентов с токенов.

Видимость — это лишь результат этого уровня, сама по себе она не стоит много; ценность заключается в том, что можно сделать после того, как увидел, и что можно выдержать.

3. Умная маршрутизация: от сравнения цен до обеспечения

Первоначальная маршрутизация платежей была механической, просто отправляя деньги в нужное место. Позже появились более ценные вещи: автоматические повторные попытки при сбоях, если один отказал, переход к следующему, многократная оптимизация полей отчёта, реальное время управления рисками, сравнение цен между несколькими каналами для одной и той же суммы. Названия разные, но дело одно ------ повысить коэффициент успеха.

Маршрутизация токенов проходит ту же эволюцию, только трудности и возможности гораздо больше.

Успех долларовых платежей бинарен: деньги пришли или не пришли.

Токены не так просты: задача может быть выполнена или не выполнена, и между ними есть слой оценки.

Именно этот слой неопределённости делает повышение коэффициента успеха на токенах гораздо более ценным, чем в платежах.

Самое лёгкое заблуждение здесь ------ дешёвые модели становятся всё более удобными, и поэтому маршрутизация выглядит всё больше как движок сравнения цен, отправляя каждый запрос самой дешёвой модели, способной выполнить эту задачу. Но "отправить самой дешёвой модели" изначально было ошибкой. AI задача — это не просто одно рассуждение. Это агент, который должен планировать, генерировать, проверять, вызывать инструменты, повторять, исправлять ошибки. Дешёвая модель, которая дважды терпит неудачу, оказывается дороже, чем дорогая модель, которая один раз успешна.

Поэтому важно не смотреть на стоимость каждого токена. Важно смотреть на стоимость каждого успешного завершения.

Стоимость рассуждений, стоимость повторных попыток, вызов инструментов, проверка, ручное обеспечение, задержки и потери от неудач, всё это складывается, а затем делится на количество успешных задач. Если этот расчёт будет понятен, маршрутизация больше не будет движком сравнения цен.

Но понимание расчёта — это только первый шаг. Более жёсткий опыт, предоставленный платежной индустрией, заключается в том, что тот, кто обещает коэффициент успеха, несёт ответственность за стоимость неудачи.

Шлюзы готовы взять на себя сложную работу по оптимизации авторизации, потому что они взимают плату за коэффициент успеха, и в случае неудачи клиент обращается к ним, а не к нижнему каналу. Они берут на себя сложность и риски, это их способ взимания платы. Клиенты готовы платить за "возможность завершить это дело", и шлюз получает эту надбавку, ценой которой является то, что они сами несут ответственность за неудачи.

Умная маршрутизация в конечном итоге должна будет справляться с этим. Не "отправить запрос самой дешёвой модели", а "можно ли это сделать". Выбор дешёвой модели — это лишь побочный продукт.

Эта задача может быть выполнена только на уровне маршрутизации. Перенос всей настройки подсказок, контекста, параметров и декодирования предположений на уровень шлюза почти никто не продуктирует ------ эти вещи сегодня разбросаны по уровням приложений, каждая компания пишет их заново. Но это на самом деле работа шлюза. Для этого нужно иметь образцы неудач, охватывающие разные модели и типы задач, и отдельное приложение не имеет такой перспективы.

Управление рисками — это другая сторона той же логики. Это одна из тех вещей, которые нельзя просто перенести, изменив базовый URL, и это одна из самых критических. Stripe утверждает, что примерно одна шестая зарегистрированных AI компаний на их сети связана с арбитражем многопользовательских аккаунтов; соучредитель OpenCode Дакс Raad говорит, что они однажды удалили 7,013 мошеннических аккаунтов, оценивая, что каждый месяц теряют 400,000 долларов. Отдельный производитель модели видит только свои потери, тогда как уровень маршрутизации видит, сколько раз одна и та же группа открывает аккаунты в разных местах. Radar вырос именно так.

4. Место, которое не может занять уровень модели

За последние три года обсуждение AI сосредоточилось на том, какая модель победит. Маршрутизация делает этот вопрос неважным.

С углублением проникновения кодирование будет сводиться к одному набору моделей, поиск к одному, обслуживание клиентов к одному, а сложные рассуждения к другому, и одно приложение часто должно будет поочерёдно настраивать их все. В то время утверждение "лучшая модель" само по себе станет неактуальным, потому что ни один тип задачи не будет иметь окончательного слова.

Ещё более важно его следствие: ни один производитель модели не может монополизировать полную задачу. Как только задача пересекает модели, уровень сборки автоматически появляется. Он не отбирается у кого-то. Это уровень модели, который уступает.

Эта сцена уже разыгрывалась в финансовых услугах. Раньше банки были единым целым, депозиты, кредиты, платежи и обмен валют были связаны одной лицензией. За последние двадцать лет они были разбиты Fintech на части и снова собраны ------ лицензия всё ещё находится в руках банков, а прибыль ушла на уровень сборки.

Вес модели — это и есть лицензия. Дефицитная, дорогая, но как только к ней одновременно подключаются несколько компаний, она становится лишь одной из деталей. Как говорит Сандип:

На этом этапе маршрутизация моделей больше не выглядит как труба, а начинает напоминать Fintech.

Собранные детали ------ измерение, выставление счетов, управление рисками, сроки, сверка ------ изначально являются деталями Fintech.

5. Левый капитал, правые дебиторские задолженности

Если разложить эти пять уровней и посмотреть на каталог продуктов Stripe, можно увидеть, что она в токенах восстанавливает ту же систему, которую строила на долларах:

(Будет ли токен новым долларом для Stripe?)

Левый столбец в основном построен самой Stripe, правый ------ Bridge, Privy, Metronome, OpenRouter ------ всё куплено. Одна и та же компания, одна и та же форма, первый раз строила сама, второй раз всё купила. Когда строили в первый раз, форма ещё не существовала, приходилось разбираться самостоятельно; во второй раз форма уже была ясна, оставалось только выяснить, кто первым займет позицию. То, что покупается, — это не доход. Это время.

Stripe купила OpenRouter, можно сказать, что купила счётчик. От счётчика до баланса — это последний шаг.

Сначала посмотрим на аккаунты. Сегодняшний баланс токенов ещё не является аккаунтом, скорее похож на предоплаченную карту: предоплата, непередаваемая, не кроссплатформенная, привязанная к одному эмитенту. Но баланс OpenRouter можно тратить между более чем 400 моделями и десятками поставщиков, что уже на шаг ближе к открытой системе.

Предоплата означает, что платформа сначала получает наличные, а средства остаются на платформе. Двигаясь дальше к открытой системе, мы касаемся определения предоплаченных платежных инструментов. Стоит ли зарабатывать на этом флоте? Это вопрос лицензии.

Теперь посмотрим на кредитование. Не только предоплата, но и послеплатёжные кредитные сроки также распространены. В случаях, с которыми мы сталкивались, кредитные ставки колеблются от 1,5% до 2% в месяц, что соответствует 20% до 27% в год, что соответствует уровню кредитных карт. Это именно та цена, которую должен иметь рынок, не имеющий кредитной истории. Разница в процентах будет сначала сжата на уровне маршрутизации, потому что только этот уровень видит, кто открывает аккаунты в нескольких местах, чья кривая потребления стабильна, кто использует и уходит. Stripe Capital выросла именно так.

Наконец, обмен валют. Более 400 моделей, цены на ввод, вывод и кэширование постоянно меняются, каждая маршрутизация — это обмен. Это похоже на валютный рынок, но не хватает одной вещи: отсутствует базовая валюта. Ни один токен модели не может стать базовым. Это не рынок обменных курсов. Это многосторонний бартер 400 товаров, замаскированный под рынок с помощью единого API.

Держась за замороженные средства и имея на балансе дебиторскую задолженность. Это не баланс разработчиков. Это баланс платежной компании.

Токены измеряются, доллары учитываются.

Шесть, кто предлагает цену за результат и платит за определенность

Платежи потребовали двадцать лет, чтобы выстроить эти пять уровней. Токены не нуждаются в этих двадцати годах.

Поэтому сегодня два популярных вопроса о маршрутизации моделей на самом деле заданы неверно: один — будет ли производительность модели сходиться к тому, что останется только сравнение цен, и если она сойдется, то рентабельность приблизится к нулю; другой — сможет ли независимый маршрутизатор накопить достаточно эксклюзивных данных, чтобы обойти производителей моделей и облачные платформы с их встроенной маршрутизацией.

Первый вопрос касается жизни, второй — финансового состояния.

Но истинным стандартом проверки является: когда маршрутизатор осмелится предложить цену за "выполнение задачи", а не за процент от токенов, и будет платить за определенность.

В этот момент он больше не будет маршрутизатором.

У нефти есть Platts, у кредитов есть S&P, но они не касаются того, что измеряют — Platts не производит нефть, S&P не выдает кредиты.

У интеллекта пока нет такого учреждения, но объем трафика уже составляет триллионы операций ежедневно.

Данная статья является анализом структуры отрасли и предназначена для обсуждения, не является инвестиционным или юридическим советом в рамках какой-либо юрисдикции. Все регуляторные квалификации основываются на последних заявлениях соответствующих регуляторных органов и фактах отдельных случаев; некоторые данные получены из единого источника, различия в интерпретации отмечены в тексте, рекомендуется отдельно проверить конкретные ссылки.