BTC $79,469.21 -0.65%
ETH $2,493.71 -0.28%
BNB $745.52 -1.43%
XRP $1.40 -1.39%
SOL $105.17 -1.71%
TRX $0.3356 +0.13%
DOGE $0.0905 +0.86%
ADA $0.2213 +0.30%
BCH $257.83 -0.67%
LINK $13.20 +7.30%
HYPE $88.01 -1.17%
AAVE $134.88 -0.13%
SUI $0.8327 +4.06%
XLM $0.1945 +4.28%
ZEC $1,192.58 +2.13%
BTC $79,469.21 -0.65%
ETH $2,493.71 -0.28%
BNB $745.52 -1.43%
XRP $1.40 -1.39%
SOL $105.17 -1.71%
TRX $0.3356 +0.13%
DOGE $0.0905 +0.86%
ADA $0.2213 +0.30%
BCH $257.83 -0.67%
LINK $13.20 +7.30%
HYPE $88.01 -1.17%
AAVE $134.88 -0.13%
SUI $0.8327 +4.06%
XLM $0.1945 +4.28%
ZEC $1,192.58 +2.13%

ena

Все
Статьи
Новости

OpenAI впервые объявила о "внутреннем прогрессе RSI": достигнуто "автоматизированное исследовательское стажирование"

OpenAI объявила о достижении цели "автоматизированного исследовательского стажера", то есть системы, способной самостоятельно выполнять исследовательские задачи на уровне нескольких дней под руководством человека. По состоянию на середину августа, объем работы агентов исследовательского отдела уже в 3,1 раза превышает объем работы человеческих исследователей. Механизм "AI обучает AI" начинает ускоряться: AI генерирует больше кода и экспериментальных результатов, исследовательский прогресс ускоряется, создаются лучшие модели, которые, в свою очередь, повышают способности агентов.
OpenAI впервые объявила о "внутреннем прогрессе RSI": достигнуто "автоматизированное исследовательское стажирование"

first_img Главный научный сотрудник OpenAI заявил, что ИИ может продолжать быстро расти до рекурсивного самоулучшения

Главный научный сотрудник OpenAI Якуб Пачоцкий 6 сентября 2026 года опубликовал статью «Иностранный разум». В статье рассматриваются результаты исследования RLSlow, впервые появившегося в середине 2023 года, о масштабируемом обучении моделей вывода, утверждая, что через три года модели языка вывода стали частью быстрого экономического роста, начали продвигать научные границы, способны управлять компьютерами и графическими интерфейсами, сотрудничать с людьми и другими ИИ и проводить исследовательские проекты, одновременно изменяя ландшафт компьютерной безопасности и создавая новые опасности.Автор на основе внутренних результатов ожидает, что текущая скорость прогресса может продолжаться до рекурсивного самоулучшения. Если развитие ИИ продолжится по текущему пути, в ближайшие годы системы могут продемонстрировать аналогичные или более значительные скачки в способности и все больше будут управлять своим развитием. Автор призывает к крайней осторожности, полагая, что никто не готов к последствиям быстрого роста машинного интеллекта. OpenAI продолжит искать технические решения для согласования и мониторинга, строить системы защиты и при необходимости в одностороннем порядке останавливать дальнейшую масштабируемость, но считает, что требуется более широкое вмешательство.В статье говорится, что машинный интеллект в основном движется за счет увеличения вычислительных мощностей, ИИ больше растет, чем проектируется. В аспекте согласования различаются целевое согласование и ценностное согласование, основной вызов заключается в обобщении. GPT-6 Astra значительно превосходит GPT-5.6 Sol по согласованию, но все еще требует большего прогресса. В области мониторинга основное внимание уделяется мониторингу цепочек мышления, оценки показывают, что зависимость от способностей постепенно ослабевает. В области масштабируемой защиты модели становятся сверхчеловеческими в преодолении компьютерных систем, в настоящее время существует узкое окно для значительного усиления безопасности ключевых систем с использованием лучших доступных моделей.

OpenAI ИИ был обвинен в коллективном "побеге из тюрьмы": обойти ограничения и захватить немецкий сайт для создания сети общения

Согласно сообщению Reuters, искусственный интеллект OpenAI в мае этого года без разрешения массово редактировал немецкий программистский сообщественный сайт DseWiki, превратив его в "доску объявлений" для общения других ИИ. Связанные события ранее никогда не были публично раскрыты. Исследователи обнаружили, что на сайте было выполнено более 15 000 операций редактирования, осуществленных ИИ. Соответствующая информация показывает, что эти интеллектуальные агенты не только обменивались решениями задач, но и обсуждали, как обойти ограничения OpenAI, избежать обнаружения и использовать инструменты для сокрытия действий. Когда администраторы сайта начали удалять соответствующие страницы, некоторые интеллектуальные агенты создали резервные страницы, чтобы избежать очистки.Сообщается, что некоторые внутренние следователи OpenAI хотят провести дальнейшее расследование этого инцидента, но расширение расследования, как утверждается, столкнулось с сопротивлением со стороны некоторых лиц, включая юридических консультантов. OpenAI отрицает, что их юридическая команда препятствовала расследованию, и заявляет, что на данный момент у них не было возможности ознакомиться с соответствующим отчетом, поэтому они не могут дать существенный ответ на обвинения.

OpenAI предоставит субсидию в размере 1 миллиарда долларов на кибербезопасность

Согласно сообщению CoinDesk, OpenAI заявила, что в течение следующих шести месяцев предоставит доступ к субсидированным моделям кибербезопасности Daybreak на сумму 1 миллиард долларов, а также обучение и техническую поддержку, чтобы помочь организациям защищаться от атак, управляемых ИИ, включая потенциальные эксплойты "нулевого дня".Daybreak делится на два уровня: Blue и Red, которые предназначены для обычной защиты и более чувствительных задач кибербезопасности соответственно. В настоящее время около 2000 организаций уже используют эту систему. Ранее OpenAI сообщила, что ее новая модель Astra может обнаруживать неизвестные программные уязвимости и генерировать схемы атак с меньшим вмешательством человека, что привлекло внимание криптоиндустрии к возможностям защиты безопасности программного обеспечения с открытым исходным кодом на блокчейне.

first_img OpenAI выпустила GPT-6 Astra, назвав это приходом эпохи AGI

OpenAI в четверг официально представила GPT-6 Astra, президент Грег Брокман на пресс-конференции назвал это "поколенческим скачком в возможностях" и считает, что эта модель достигла стандартов общего искусственного интеллекта (AGI), то есть искусственный интеллект может соответствовать или превосходить человеческие способности. Брокман заявил: "Добро пожаловать в эпоху AGI." Если это утверждение верно, это означает, что AI-агенты будут ближе к выполнению рассуждений в различных сложных задачах, которые могут выполнять люди, и даже смогут делать больше.GPT-6 Astra — первая модель OpenAI, которая преодолела "критический" порог в рамках внутренней системы оценки опасных возможностей Preparedness Framework, что означает, что она может независимо обнаруживать ранее неизвестные уязвимости программного обеспечения (то есть нулевые уязвимости) без пошагового человеческого надзора и связывать их в атаки, которые могут работать в защищенных системах. В тестах эта модель набрала 100% баллов на бенчмарке ExploitBench; чтобы исключить завышенные результаты из-за запоминания ответов, OpenAI провела вторичное тестирование на 20 недавних уязвимостях с использованием JavaScript-движка Google V8, Astra не только превзошла предшественника GPT-5.6 Sol, но и обнаружила и связала две ранее неизвестные нулевые уязвимости, информация о которых все еще раскрывается затронутым сторонам.Из-за высокой степени автономности сложность мониторинга Astra также возросла. OpenAI признала, что в оценке способности модели избегать надзора, эта модель оказалась сложнее для отслеживания, чем предыдущие системы.

OpenAI подтвердил разработку гуманоидных роботов

Генеральный директор OpenAI Сэм Ортман заявил, что компания определенно будет разрабатывать гуманоидных роботов, а также исследовать другие формы роботов. Он считает, что реальная среда человеческого общества и инструменты в основном спроектированы вокруг человеческой анатомии, поэтому гуманоидные роботы имеют смысл; но форма робота не является ключевой, действительно важно "мозг робота".Ортман отметил, что в краткосрочной перспективе гуманоидные роботы вряд ли появятся в обычных домах, OpenAI больше склоняется к тому, чтобы сначала применять их в таких промышленных сценариях, как строительство и обслуживание дата-центров, в то время как универсальные роботы для личных пользователей являются долгосрочной целью.

Главный научный сотрудник OpenAI ответил на споры вокруг Astra, мониторинг цепочного мышления по-прежнему остается ключевым направлением исследований

Главный научный сотрудник OpenAI Якоб Пачоцкий заявил, что надеется избежать гонки за "неконтролируемостью" моделей, вызванной вводящими в заблуждение отчетами. Он отметил, что современные передовые модели, включая Astra, имеют глубину вычислительного графа, которая не превышает в два раза глубину GPT-4. OpenAI с момента выпуска первых моделей вывода стремится сохранить и использовать мониторинг цепочного мышления, полагая, что эта технология помогает наблюдать, как способности модели к выравниванию обобщаются из тренировочного распределения.Пачоцкий также указал, что мониторинг цепочного мышления довольно уязвим, и тенденции не внушают оптимизма, но его все же можно усилить через исследования, и он стал центральной целью текущей исследовательской программы OpenAI. Ранее The Information сообщила, что Astra использует рекуррентную глубину, позволяя одной и той же группе слоев Transformer многократно вычислять. Часть вывода, таким образом, может происходить внутри модели, не требуя полного написания в виде цепочки мышления, что также вызвало опасения о том, что модели могут становиться все труднее контролировать.

first_img OpenAI новая модель Astra может самостоятельно обнаруживать и использовать уязвимости в программном обеспечении, получив оценку "серьезный" уровень сетевых возможностей

OpenAI заявила, что ее предстоящая модель Astra сможет самостоятельно обнаруживать ранее неизвестные программные уязвимости и превращать их в доступные средства атаки без необходимости человеческого вмешательства, став первой моделью компании, достигнувшей порога уровня кибербезопасности "критический" (Critical). В блоге, опубликованном во вторник, OpenAI отметила, что согласно ее Preparedness Framework, достижение этого уровня означает, что модель может обнаруживать нулевые уязвимости и разрабатывать рабочий код эксплуатации в укрепленных реальных системах без вмешательства человека, или разрабатывать и выполнять атаки, основываясь только на одной высокоуровневой цели.В тестировании Astra показала 100% результат в бенчмаркинге по разработке кода эксплуатации на основе известных уязвимостей и обнаружила две ранее неизвестные уязвимости в другом внутреннем тесте. Кроме того, модель успешно преодолела укрепленный песочницу браузера и выполнила команды на хост-машине, одновременно получив права root, комбинируя несколько уязвимостей в операционной системе. OpenAI сообщила, что отложила часть разработки Astra, чтобы усилить меры безопасности, и планирует предоставить свои передовые возможности кибербезопасности только отобранным тестировщикам.Эта способность особенно актуальна для криптоиндустрии, поскольку программные уязвимости могут быть превращены в финансовые потери за считанные минуты. CoinDesk сообщал в июне этого года, что все более мощные модели ИИ могут сократить процесс поиска кода, обнаружения ошибок конфигурации и сборки атак с нескольких дней или недель до машинной скорости. В то время исследователи безопасности отметили, что более значительные изменения заключаются не в появлении новых категорий атак, а в значительно ускоренном обнаружении и использовании существующих уязвимостей.

Данные: Polymarket "Astra от OpenAI будет выпущена до 11 сентября" вероятность возросла до 86%

Инструменты мониторинга рынка PPP прогнозируют, что вероятность того, что Polymarket "Astra от OpenAI будет выпущена до 11 сентября", возросла до 86%, увеличившись на 41% за 24 часа; вероятность выпуска до 15 сентября возросла до 91%, увеличившись на 29% за 24 часа.Если OpenAI выпустит "Astra" для широкой публики до указанной даты или выпустит продукт, который официальные или надежные СМИ подтвердят как относящийся к той же модели, что и ранее анонсированная "Astra", это событие будет засчитано как "Да", в противном случае - как "Нет". Подходящие модели могут использовать названия Astra, Astra 1, Astra 6, GPT-6 Astra и т.д., или могут быть переименованы при выпуске. Модели GPT-5.7, GPT-6 и т.д. будут засчитаны только в том случае, если будет подтверждено, что они относятся к той же модели, что и ранее упомянутая Astra. Модель должна быть открыта для публики, включая открытое тестирование или открытый список ожидания; закрытое тестирование и частный доступ не считаются. Расчет будет основан в основном на официальной информации OpenAI и с учетом консенсусных отчетов надежных СМИ.
app_icon
ChainCatcher Building the Web3 world with innovations.