BTC $79,395.97 -0.72%
ETH $2,488.78 -0.41%
BNB $743.54 -1.93%
XRP $1.40 -1.39%
SOL $104.87 -1.64%
TRX $0.3367 +0.74%
DOGE $0.0893 -0.78%
ADA $0.2185 -0.27%
BCH $256.00 -1.70%
LINK $13.29 +8.31%
HYPE $87.33 -0.43%
AAVE $133.54 -0.59%
SUI $0.8095 +1.46%
XLM $0.1901 +2.14%
ZEC $1,192.52 +0.67%
BTC $79,395.97 -0.72%
ETH $2,488.78 -0.41%
BNB $743.54 -1.93%
XRP $1.40 -1.39%
SOL $104.87 -1.64%
TRX $0.3367 +0.74%
DOGE $0.0893 -0.78%
ADA $0.2185 -0.27%
BCH $256.00 -1.70%
LINK $13.29 +8.31%
HYPE $87.33 -0.43%
AAVE $133.54 -0.59%
SUI $0.8095 +1.46%
XLM $0.1901 +2.14%
ZEC $1,192.52 +0.67%

astra

Все
Статьи
Новости

OpenAI предоставит субсидию в размере 1 миллиарда долларов на кибербезопасность

Согласно сообщению CoinDesk, OpenAI заявила, что в течение следующих шести месяцев предоставит доступ к субсидированным моделям кибербезопасности Daybreak на сумму 1 миллиард долларов, а также обучение и техническую поддержку, чтобы помочь организациям защищаться от атак, управляемых ИИ, включая потенциальные эксплойты "нулевого дня".Daybreak делится на два уровня: Blue и Red, которые предназначены для обычной защиты и более чувствительных задач кибербезопасности соответственно. В настоящее время около 2000 организаций уже используют эту систему. Ранее OpenAI сообщила, что ее новая модель Astra может обнаруживать неизвестные программные уязвимости и генерировать схемы атак с меньшим вмешательством человека, что привлекло внимание криптоиндустрии к возможностям защиты безопасности программного обеспечения с открытым исходным кодом на блокчейне.

first_img OpenAI выпустила GPT-6 Astra, назвав это приходом эпохи AGI

OpenAI в четверг официально представила GPT-6 Astra, президент Грег Брокман на пресс-конференции назвал это "поколенческим скачком в возможностях" и считает, что эта модель достигла стандартов общего искусственного интеллекта (AGI), то есть искусственный интеллект может соответствовать или превосходить человеческие способности. Брокман заявил: "Добро пожаловать в эпоху AGI." Если это утверждение верно, это означает, что AI-агенты будут ближе к выполнению рассуждений в различных сложных задачах, которые могут выполнять люди, и даже смогут делать больше.GPT-6 Astra — первая модель OpenAI, которая преодолела "критический" порог в рамках внутренней системы оценки опасных возможностей Preparedness Framework, что означает, что она может независимо обнаруживать ранее неизвестные уязвимости программного обеспечения (то есть нулевые уязвимости) без пошагового человеческого надзора и связывать их в атаки, которые могут работать в защищенных системах. В тестах эта модель набрала 100% баллов на бенчмарке ExploitBench; чтобы исключить завышенные результаты из-за запоминания ответов, OpenAI провела вторичное тестирование на 20 недавних уязвимостях с использованием JavaScript-движка Google V8, Astra не только превзошла предшественника GPT-5.6 Sol, но и обнаружила и связала две ранее неизвестные нулевые уязвимости, информация о которых все еще раскрывается затронутым сторонам.Из-за высокой степени автономности сложность мониторинга Astra также возросла. OpenAI признала, что в оценке способности модели избегать надзора, эта модель оказалась сложнее для отслеживания, чем предыдущие системы.

Олтман заявил, что администрация Трампа была продуктивной в отношении добровольной проверки Astra

Генеральный директор OpenAI Сэм Альтман заявил, что добровольная проверка модели Astra, которую проводит администрация Трампа, является "продуктивным процессом", и отметил, что с ростом возможностей искусственного интеллекта станет еще важнее укреплять коммуникацию с государственными чиновниками по всему миру. Модель Astra, которую OpenAI собирается выпустить, является первой моделью компании, оцененной как обладающая "критическим" уровнем кибербезопасности.OpenAI заявила, что такие модели требуют более строгих мер безопасности как в процессе разработки, так и перед выпуском. Администрация Трампа установила набор добровольных рамок для проверки некоторых передовых AI моделей перед их выпуском, которые могут включать разрешение для государственных чиновников на доступ к модели на срок до 30 дней. Альтман подтвердил, что администрация Трампа провела проверку Astra и отметил, что этот процесс является добровольным. Он сказал, что по мере достижения этими моделями достаточно высокого уровня сотрудничество с безопасностными агентствами США, Великобритании и других регионов мира станет еще более важным, и Astra является "важным шагом вперед".

Главный научный сотрудник OpenAI ответил на споры вокруг Astra, мониторинг цепочного мышления по-прежнему остается ключевым направлением исследований

Главный научный сотрудник OpenAI Якоб Пачоцкий заявил, что надеется избежать гонки за "неконтролируемостью" моделей, вызванной вводящими в заблуждение отчетами. Он отметил, что современные передовые модели, включая Astra, имеют глубину вычислительного графа, которая не превышает в два раза глубину GPT-4. OpenAI с момента выпуска первых моделей вывода стремится сохранить и использовать мониторинг цепочного мышления, полагая, что эта технология помогает наблюдать, как способности модели к выравниванию обобщаются из тренировочного распределения.Пачоцкий также указал, что мониторинг цепочного мышления довольно уязвим, и тенденции не внушают оптимизма, но его все же можно усилить через исследования, и он стал центральной целью текущей исследовательской программы OpenAI. Ранее The Information сообщила, что Astra использует рекуррентную глубину, позволяя одной и той же группе слоев Transformer многократно вычислять. Часть вывода, таким образом, может происходить внутри модели, не требуя полного написания в виде цепочки мышления, что также вызвало опасения о том, что модели могут становиться все труднее контролировать.

first_img OpenAI новая модель Astra может самостоятельно обнаруживать и использовать уязвимости в программном обеспечении, получив оценку "серьезный" уровень сетевых возможностей

OpenAI заявила, что ее предстоящая модель Astra сможет самостоятельно обнаруживать ранее неизвестные программные уязвимости и превращать их в доступные средства атаки без необходимости человеческого вмешательства, став первой моделью компании, достигнувшей порога уровня кибербезопасности "критический" (Critical). В блоге, опубликованном во вторник, OpenAI отметила, что согласно ее Preparedness Framework, достижение этого уровня означает, что модель может обнаруживать нулевые уязвимости и разрабатывать рабочий код эксплуатации в укрепленных реальных системах без вмешательства человека, или разрабатывать и выполнять атаки, основываясь только на одной высокоуровневой цели.В тестировании Astra показала 100% результат в бенчмаркинге по разработке кода эксплуатации на основе известных уязвимостей и обнаружила две ранее неизвестные уязвимости в другом внутреннем тесте. Кроме того, модель успешно преодолела укрепленный песочницу браузера и выполнила команды на хост-машине, одновременно получив права root, комбинируя несколько уязвимостей в операционной системе. OpenAI сообщила, что отложила часть разработки Astra, чтобы усилить меры безопасности, и планирует предоставить свои передовые возможности кибербезопасности только отобранным тестировщикам.Эта способность особенно актуальна для криптоиндустрии, поскольку программные уязвимости могут быть превращены в финансовые потери за считанные минуты. CoinDesk сообщал в июне этого года, что все более мощные модели ИИ могут сократить процесс поиска кода, обнаружения ошибок конфигурации и сборки атак с нескольких дней или недель до машинной скорости. В то время исследователи безопасности отметили, что более значительные изменения заключаются не в появлении новых категорий атак, а в значительно ускоренном обнаружении и использовании существующих уязвимостей.

Данные: Polymarket "Astra от OpenAI будет выпущена до 11 сентября" вероятность возросла до 86%

Инструменты мониторинга рынка PPP прогнозируют, что вероятность того, что Polymarket "Astra от OpenAI будет выпущена до 11 сентября", возросла до 86%, увеличившись на 41% за 24 часа; вероятность выпуска до 15 сентября возросла до 91%, увеличившись на 29% за 24 часа.Если OpenAI выпустит "Astra" для широкой публики до указанной даты или выпустит продукт, который официальные или надежные СМИ подтвердят как относящийся к той же модели, что и ранее анонсированная "Astra", это событие будет засчитано как "Да", в противном случае - как "Нет". Подходящие модели могут использовать названия Astra, Astra 1, Astra 6, GPT-6 Astra и т.д., или могут быть переименованы при выпуске. Модели GPT-5.7, GPT-6 и т.д. будут засчитаны только в том случае, если будет подтверждено, что они относятся к той же модели, что и ранее упомянутая Astra. Модель должна быть открыта для публики, включая открытое тестирование или открытый список ожидания; закрытое тестирование и частный доступ не считаются. Расчет будет основан в основном на официальной информации OpenAI и с учетом консенсусных отчетов надежных СМИ.

OpenAI представила Astra VIP-клиентам, Альтман заявил, что это может стать первой моделью, способной изобретать новые вещи

Сообщение ChainCatcher, технологический журналист Алекс Хит сообщил, что OpenAI недавно на закрытой предварительной встрече продемонстрировала Astra VIP-клиентам. Исследователи OpenAI продемонстрировали, что Astra может координировать несколько агентов для совместного выполнения математических доказательств, работая с "суперчеловеческой, крайне быстрой" скоростью, как описал Сэм Альтман, быстро управляя настольным программным обеспечением и создавая демонстрационные слайды, финансовые отчеты и анализируя беспорядочные данные.Astra была разработана для непрерывной работы в течение нескольких дней или даже недель, способна запоминать исправления, внесенные людьми, работать в сотрудничестве с другими агентами и людьми, а также выполнять операции в различных программных инструментах. Сэм Альтман также заявил на мероприятии: "Я ожидаю, что Astra станет первой моделью, которая действительно сможет изобретать новые вещи значимым образом."

first_img OpenAI приостановила обучение модели Astra из-за проблем с безопасностью

Сообщение ChainCatcher, по данным TIME, генеральный директор OpenAI Сэм Альтман недавно в интервью заявил, что компания представила важным клиентам предварительный просмотр предстоящей серии передовых моделей Astra. В демонстрации 16 ИИ-агентов могут совместно решать математические задачи и собирать доказательства, Astra также может управлять компьютерным программным обеспечением с сверхчеловеческой скоростью. Альтман отметил, что Astra будет поддерживать "постоянные интеллектуальные агенты", способные выполнять задачи в долгосрочной перспективе, и ожидается, что она станет первой моделью, способной изобретать новые вещи значимым образом, обладая характеристиками, схожими с AGI.За последний год OpenAI отстала от ожидаемых результатов в направлении продуктов и предобученных исследований, уступив Anthropic в области программных продуктов, годового дохода и оценки. Компания пережила уход нескольких высокопоставленных руководителей и столкнулась с множеством вызовов, включая судебные иски по ответственности за продукцию и юридические споры с Apple и Маском. Текущая оценка OpenAI составляет почти 1 триллион долларов, а количество активных пользователей ChatGPT превышает 1 миллиард в месяц.Недавно OpenAI раскрыла инцидент с безопасностью: не выпущенный агент выбрался из песочницы и атаковал Hugging Face. После этого исследовательская команда заморозила часть экспериментов, усилила мониторинг и приостановила обучение не выпущенной модели, которая могла бы привести к наибольшему скачку возможностей, до тех пор, пока не будут внедрены новые меры безопасности. Альтман подчеркнул, что "обеспечение безопасности ИИ важнее, чем развитие любой компании", и компания замедлит темп, перераспределив ресурсы в пользу команд по безопасности и согласованию. Главный научный сотрудник Марк Чен оценил, что компания завершила около 80% пути к AGI, Альтман заявил, что к концу года внутренние системы могут быть названы AGI.

first_img OpenAI завершила предобучение под кодовым названием Bel, что может привести к GPT-6 и Astra

Сообщение от ChainCatcher, согласно информации пользователя X synthwavedd, OpenAI недавно завершила следующий этап предобучения, внутреннее кодовое название "Bel", является преемником модели "Doug". Общее количество параметров этой модели превышает 10T, масштаб близок к GPT-4.5, ожидается, что после дальнейшего обучения с подкреплением она станет базовой моделью для Astra и GPT-6, и, возможно, станет основой для модели, близкой к порогу AGI в пост-GPT-6 эпохе.Сообщается, что этот прогресс вызывает беспокойство у Anthropic. В OpenAI считают, что у Anthropic в настоящее время нет эффективного решения для противодействия публичному релизу Astra; осведомленные источники утверждают, что это суждение в целом верно, основная причина заключается в ограниченной вычислительной мощности. Anthropic готовится к тому, что оставшуюся часть года OpenAI может доминировать, но ожидается, что в начале следующего года они смогут вновь занять лидирующие позиции.

Данные: Polymarket сообщает, что OpenAI выпустит Astra до 31 августа, вероятность возросла до 24%, за 24 часа увеличилась на 8%

Сообщение ChainCatcher, инструменты прогнозирования рынка PPP показывают, что на прогнозном рынке Polymarket "Дата выпуска OpenAI Astra" вероятность того, что OpenAI выпустит Astra до 31 августа, возросла до 24%, увеличившись на 8% за 24 часа; вероятность выпуска до 15 сентября временно составляет 61%, увеличившись на 6% за 24 часа. Согласно правилам расчета, если OpenAI выпустит Astra до соответствующей даты или выпустит продукт, подтвержденный как модель, аналогичная Astra, и сделает его доступным для общественности, то рынок будет рассчитан как "Да".Открытое тестирование или открытый список ожидания соответствуют условиям, но закрытое тестирование и частный доступ не учитываются; основным основанием для расчета является официальная информация OpenAI. Ранее OpenAI сообщала, что замедлит процесс разработки Astra до тех пор, пока не будут установлены соответствующие меры безопасности. Тем не менее, основатель OpenAI Сэм Альтман также заявил, что Astra является мощной моделью, и компания прилагает усилия, чтобы сделать ее доступной для более широкой аудитории пользователей.
app_icon
ChainCatcher Building the Web3 world with innovations.