Чамат: Открытая модель весов отстает от лучшей закрытой модели на примерно четыре месяца

Основатель Social Capital Чамат Палихапития опубликовал углубленный исследовательский отчет, в котором говорится: открытые весовые модели приблизились к лучшим закрытым передовым моделям, оцененным публично, примерно на четыре месяца, и разрыв стал увеличиваться. Если открытые модели, приближаясь к передовым показателям, предоставляют компаниям больше контроля над данными, инфраструктурой и кастомизацией, то стоимость, которую компании продолжают платить передовым лабораториям, становится коммерческой проблемой. Открытость существует в спектре, от полностью открытых моделей, которые можно скачать и свободно модифицировать, до открытых весовых моделей с различными ограничениями, в то время как закрытые модели сохраняют веса в частной собственности.

Генеральный директор Palantir Алекс Карп предупредил, что компании могут передать дифференцирующие знания и процессы поставщикам передовых моделей. Генеральный директор Microsoft Сатья Наделла заявил: компании фактически платят за интеллект дважды, один раз деньгами, а другой раз за более ценные знания, которые необходимо раскрыть, чтобы сделать интеллект полезным. Несмотря на существующие опасения, компании все равно готовы платить за передовые показатели, даже если лучшие открытые весовые модели отстают всего на несколько месяцев, доходы передовых лабораторий продолжают ускоряться.

Ведущие компании одновременно используют два типа моделей: открытые модели для получения контроля и кастомизации, и закрытые передовые модели для достижения максимальной производительности, в некоторых случаях сообщается о повышении эффективности инженерных процессов до 12 раз и экономии затрат более чем в 20 раз. Некоторые компании применяют двойную стратегию, Google одновременно предлагает Gemini и Gemma, Meta одновременно предлагает Muse Spark и Llama. Этот 99-страничный отчет также касается затрат на поддержание лидерства передовых лабораторий, пяти факторов конкуренции моделей, местоположения работы моделей, а также инвестиций NVIDIA и Samsung в открытые веса.