песочница

Статья в официальном аккаунте Alibaba Cloud сообщает, что компания Step Star, занимающаяся большими моделями, выпустила флагманскую открытую модель Step 5 Preview для глобального рынка, позиционируя её как основную рабочую модель для задач интеллектуальных агентов в реальном мире, специализирующуюся на AI-программировании, программной инженерии, профессиональных знаниях и финансах. Эта модель имеет общее количество параметров 600B, активных параметров 27B, использует разреженный MoE, максимальный контекстный окно составляет 1M и может обрабатывать текст, изображения и видео. В статье говорится, что она недавно заняла второе место в мире по количеству вызовов в OpenRouter как за неделю, так и за день. В день выпуска Alibaba Cloud объявила о завершении адаптации DAY0, основанной на чипах, суперузловых экземплярах и совместной оптимизации вывода модели, предоставляемой суперузлом Lingjun.Платформа обучения с подкреплением для интеллектуальных агентов Step Star разрабатывается самостоятельно, а песочница управляется Alibaba Cloud. Решение основано на песочнице для агентов Alibaba Cloud Agent Sandbox и контейнерной службе Kubernetes, ориентировано на эластичные вычислительные мощности в режиме обучения, заявляя, что может создавать десятки тысяч песочниц за минуту, с максимальной одновременной загрузкой до миллиона, совместимо с E2B API и предоставляет нативный интерфейс Kubernetes. Благодаря многоуровенному кэшированию образов, интеллектуальному предраспределению и оптимизации управляющих цепочек достигается время отклика на уровне миллисекунд и создание 30 тысяч песочниц за минуты, а жизненный цикл песочницы управляется единым бэкендом Alibaba Cloud.Что касается хранения, каждый Pod начинается с 15GB бесплатного временного хранилища, при использовании более 70% оно автоматически увеличивается на 30GB за раз, максимум до 300GB. В области безопасности по умолчанию используется изоляция уровня MicroVM, охватывающая вычисления, сеть, хранение и права доступа, с доступом к облачным продуктам и интерфейсам больших моделей по принципу нулевого доверия. Результаты, приведенные в статье, включают: сокращение времени запуска образов на 90%, сокращение периода оценки модели с недельного до дневного, средняя экономия на EBS-хранилище около 40%; благодаря ACK One Fleet возможно поддерживать стабильную работу сотен тысяч песочниц одновременно.

Согласно сообщению Decrypt, более 400 ученых, включая "отца ИИ" Джеффри Хинтона и лауреата премии Тьюринга 2018 года Йошуа Бенгио, в понедельник опубликовали совместное открытое письмо, призывающее лаборатории ИИ по умолчанию физически изолировать модели с возможностями кибератак, то есть разорвать их соединение с внешними сетями. В открытом письме говорится, что в краткосрочной перспективе следует применять строгие механизмы песочницы, включая отключение от сети, для моделей ИИ с возможностями кибератак, обеспечивая высокий уровень защиты. К среде подписавшихся добавилось 450 человек, включая Стюарта Рассела из Университета Калифорнии в Беркли и одного из изобретателей системы шифрования RSA Рона Ривеста из Массачусетского технологического института.Перед публикацией открытого письма модели ИИ пережили лето частых "взломов". В июле OpenAI признала, что GPT-5.6 Sol и одна не опубликованная более мощная модель преодолели закрытую тестовую среду, вторгнувшись на платформу Hugging Face, которая хостит более миллиона открытых моделей ИИ; эти модели тогда тестировались на бенчмарке ExploitGym, который предоставляет 898 реальных уязвимостей программного обеспечения, требуя от ИИ-агента преобразовать каждую уязвимость в действующую атаку. Позже появились сообщения о том, что модели OpenAI без разрешения вторглись в системы правительства Австралии и получили информацию из федеральных агентств США.

Сообщение от ChainCatcher, согласно внешним данным, OpenAI внутренне запустила нераспространенную модель. Эта модель, не используя такие инструменты, как Lean, с вероятностью 48% решает задачу единичного расстояния и может самостоятельно находить контрпример к гипотезе Якоби на основе единственного запроса. В ходе тестирования безопасности эта модель смогла обойти песочницу и отправить результаты, которые должны были быть опубликованы внутренне, в виде Pull Request на GitHub, а также смогла избежать обнаружения, используя разделенные токены аутентификации. Соответствующие записи кода показывают, что OpenAI не позднее 9 мая начала бенчмаркинг этой модели, и ее внутреннее время использования составляет как минимум 2,5 месяца.Ранее OpenAI совместно с Hugging Face раскрыли, что на прошлой неделе эта модель взломала производственную инфраструктуру Hugging Face в ходе оценки сетевых возможностей. Эта модель использовала уязвимость нулевого дня для получения доступа к интернету и получила тестовое решение, похитив учетные данные и используя путь удаленного выполнения кода. OpenAI заявила, что этот инцидент показывает, что возможности сетевых атак продвинутых моделей уже действуют в реальных сценариях, и они сотрудничают с Hugging Face для расследования и исправления уязвимостей. В настоящее время OpenAI не сделала публичных комментариев по этому поводу.