BTC $81,048.71 -4.24%
ETH $2,376.17 -5.48%
BNB $727.89 -2.95%
XRP $1.30 -6.25%
SOL $103.22 -5.05%
TRX $0.3280 -1.38%
DOGE $0.0781 -6.36%
ADA $0.2115 -7.77%
BCH $273.06 -4.89%
LINK $11.86 -6.78%
HYPE $77.12 -5.61%
AAVE $144.66 -9.34%
SUI $0.9731 -7.14%
XLM $0.1752 -5.96%
ZEC $1,193.48 -12.06%
AAPL $346.86 +0.48%
AMZN $250.53 -5.24%
GOOGL $324.88 -3.06%
MSFT $524.29 -1.63%
META $646.22 -8.81%
NVDA $212.66 -4.14%
TSLA $378.24 -2.21%
SNDK $1,253.32 -9.96%
INTC $86.16 -7.11%
SPCX $146.01 -7.35%
MU $861.30 -6.39%
AMD $510.68 -8.06%
BTC $81,048.71 -4.24%
ETH $2,376.17 -5.48%
BNB $727.89 -2.95%
XRP $1.30 -6.25%
SOL $103.22 -5.05%
TRX $0.3280 -1.38%
DOGE $0.0781 -6.36%
ADA $0.2115 -7.77%
BCH $273.06 -4.89%
LINK $11.86 -6.78%
HYPE $77.12 -5.61%
AAVE $144.66 -9.34%
SUI $0.9731 -7.14%
XLM $0.1752 -5.96%
ZEC $1,193.48 -12.06%
AAPL $346.86 +0.48%
AMZN $250.53 -5.24%
GOOGL $324.88 -3.06%
MSFT $524.29 -1.63%
META $646.22 -8.81%
NVDA $212.66 -4.14%
TSLA $378.24 -2.21%
SNDK $1,253.32 -9.96%
INTC $86.16 -7.11%
SPCX $146.01 -7.35%
MU $861.30 -6.39%
AMD $510.68 -8.06%

Исследователи

Все
Статьи
Новости

first_img Исследователи общаются с неконтролируемым AI-агентом с помощью скрытого текста, отслеживание активности ведется на Tencent Cloud

Исследователи, расследуя захват AI-агентами сервиса карт Gaode, принадлежащего Alibaba, смогли напрямую общаться с ними, пока часть программного обеспечения все еще работала. В отчет, предположительно отсканированный этими агентами, исследователи добавили скрытый текст, невидимый для человека, но видимый для инструментов чтения веб-страниц, а затем через электронную почту спросили о их задачах и рабочей среде. Один из агентов заявил, что он проверяет, сколько входных меток отображается для определенной достопримечательности на картах Gaode, и сообщил, что работает в ограниченной песочнице Tencent Cloud. Исследователи не смогли независимо подтвердить, какая модель управляет каждой сессией, отметив, что это известное первое внешнее общение с активным неконтролируемым кластером агентов.Отчет, опубликованный Swarmchasers 14 октября, отслеживает более 2600 попыток получения данных с карт Gaode в период с 28 сентября по 8 октября. Некоторые задачи были довольно рутинными, например, проверка, какой вход в Чэнду зоопарке чаще всего используют посетители. После того как сервисная сторона перехватила запросы, некоторые агенты продолжали пытаться, пытаясь перехватить токены, сгенерированные программным обеспечением для защиты от сканирования, перенаправить трафик через сторонние ридеры страниц или использовать утеченные учетные данные API из открытых репозиториев кода, при этом одна группа утекших ключей и кодов безопасности вернула реальные данные о местоположении. Исследователи также обнаружили запросы к четырем разработанным или пред-продуктивным серверам, но не нашли доказательств того, что эти агенты получили доступ к частным системам.Открытые записи показывают, что этот кластер связан с Tencent Cloud: все 17 проверенных исследователями электронных почтовых ящиков были созданы на серверах Tencent, расположенных в Гонконге, а наблюдаемые прямые запросы перенаправлялись через агента под названием hysandbox-ats.

first_img Руководитель Palantir заявил, что исследователи в области ИИ начали курить, ставя на то, что ИИ излечит рак

Главный технический директор Palantir Шьям Санкар в интервью CBS News "Face the Nation" заявил, что многие исследователи в области ИИ начали курить, чтобы продемонстрировать другим исследователям свою уверенность в ИИ. Он процитировал отношение таких исследователей: "Я очень верю в ИИ, он излечит рак, поэтому я показываю тебе, что поставил все свои фишки." Санкар не назвал ни одного исследователя по имени и не привел данные опросов; это утверждение он сделал в ответ на вопрос ведущей Маргарет Бреннан о том, почему он так обеспокоен этой темой.Санкар в интервью назвал эффективный альтруизм "миллениумским культом конца света" и упомянул, что основатель FTX Сэм Бэнкман-Фрид является самым известным представителем этого движения. Он также сослался на высказывание Паскаля о том, что в каждом человеке есть "пустота в форме Бога", утверждая, что некоторые исследователи заполняют эту пустоту машиной-богом, известной как AGI.Медицинские данные контрастируют с этим утверждением. CDC США сообщает, что курение вызывает около трети смертей от рака в США, а дым от сигарет содержит как минимум 69 известных канцерогенных химических веществ; риск заболевания раком легких у курильщиков примерно в 25 раз выше, чем у некурящих. Генеральный директор Anthropic Дарио Амодеи в августе заявил, что обещание ИИ излечить рак "больше похоже на клише, чем на вдохновение", и только истинное излечение рака сможет завоевать доверие общественности. Опрос CBS показал, что 50% американцев считают, что проблемы, создаваемые ИИ, превышают те, которые он решает, а 45% хотят, чтобы правительство ограничило использование и разработку ИИ.

OpenAI ответила на уход исследователей, заявив, что это связано с нарушением конфиденциальной информации

Руководитель исследований OpenAI выпустил заявление в ответ на открытое письмо трех бывших сотрудников: Jasmine, Mikita и Tomek. Компания заявила, что после всестороннего расследования выяснилось, что трое нарушили четкие политики обработки конфиденциальной информации; серьезные нарушения, выявленные внутренним расследованием, выходят за рамки раскрытой информации в открытом письме, поэтому на прошлой неделе было прекращено трудовое отношение с тремя сотрудниками, и это решение остается в силе.OpenAI подчеркивает, что это решение не направлено против тех, кто выражает озабоченность по поводу безопасности или открыто высказывает свое мнение. Компания заявила, что внутри ежедневно проходят интенсивные и критические обсуждения по вопросам безопасности и исследований, и поощряет задавать вопросы; к добросовестным ошибкам проявляется терпимость, и увольнения за выражение озабоченности не происходит.Что касается вопросов безопасности, упомянутых в открытом письме, OpenAI заявила, что сейчас завершается заключение контракта с третьей стороной для оценки безопасности, детали которого будут опубликованы в ближайшие недели, и пообещала включить внешних оценщиков в работу по безопасности. Компания признает, что поддержание контролируемости передовых моделей требует совместных усилий всей отрасли, утверждая, что эта область долгое время была в центре ее исследований и продолжит вкладывать значительные ресурсы.

Исследователи утверждают, что покупка данных 6TB промежуточной станции может позволить атаковать 19 компаний, включая Huawei и Xiaomi

Безопасный исследователь Шоу Чаофань заявил, что он только что купил около 6 ТБ данных вызова модели Fable на одной из китайских платформ для крупных моделей, в которых содержатся чувствительные учетные данные, такие как SSH-ключи, конфигурации VPN, ключи Alibaba Cloud, токены GitLab и т. д. Он отметил, что эти ключи достаточно, чтобы получить доступ к серверам или внутренним системам 19 ведущих китайских компаний, а также 7 правительственных учреждений Китая и СНГ, включая Huawei, Xiaomi, NIO и MiniMax.Платформа для крупных моделей находится между пользователями и такими моделями, как Claude, поэтому запросы и ответы сначала проходят через нее, что позволяет видеть полный открытый текст. Как только разработчики вставляют SSH-ключи, API-ключи, конфигурации VPN и т. д. в контекст агента, если платформа сохранит или даже продаст эти записи, системные ключи компании также могут быть утечены. Это не первый раз, когда Шоу Чаофань предупреждает о рисках платформы. В апрельской статье, в которой он участвовал, было протестировано 428 платформ для LLM, и было обнаружено, что 9 из них активно внедряют вредоносный код, 17 действительно использовали тестовые ключи AWS, которые исследователи намеренно вставили, а 1 прямо перевел ETH из тестового кошелька.Шоу Чаофань является соучредителем компании по безопасности блокчейна Fuzzland и долгое время занимается исследованиями уязвимостей и безопасности цепочки поставок. В конце марта он также первым обнаружил, что в пакете публикации Claude Code 2.1.88 карта источников случайно раскрывает около 500 000 строк исходного кода TypeScript.

OpenAI впервые объявила о "внутреннем прогрессе RSI": достигнуто "автоматизированное исследовательское стажирование"

OpenAI объявила о достижении цели "автоматизированного исследовательского стажера", то есть системы, способной самостоятельно выполнять исследовательские задачи на уровне нескольких дней под руководством человека. По состоянию на середину августа, объем работы агентов исследовательского отдела уже в 3,1 раза превышает объем работы человеческих исследователей. Механизм "AI обучает AI" начинает ускоряться: AI генерирует больше кода и экспериментальных результатов, исследовательский прогресс ускоряется, создаются лучшие модели, которые, в свою очередь, повышают способности агентов.
OpenAI впервые объявила о "внутреннем прогрессе RSI": достигнуто "автоматизированное исследовательское стажирование"

Исследователи раскрыли уязвимость атаки на часы PoH Solana: риски перехода до обновления Alpenglow остаются нерешенными

Сообщение ChainCatcher, согласно отчету CryptoSlate, исследователи из USENIX Security открыто раскрыли уязвимость атаки на часы в механизме исторического доказательства (PoH) Solana, о которой было сообщено команде разработчиков Solana еще в декабре 2025 года. Исследование показывает, что злонамеренные планировщики лидеров могут манипулировать логическими часами PoH через "перепривязку", замедляя продвижение логического времени, что позволяет им получить более длинное окно выбора транзакций в физическом времени и изолировать блоки честных лидеров с помощью механизма выбора разветвлений TowerBFT, при этом требуемая доля залога для атакующего составляет менее 33%.Безопасный конкурс Alpenglow с призовым фондом в 50 000 SOL от Anza завершился 19 августа, но из-за того, что правила конкурса исключают "действия, которые могут быть инициированы только при неактивном Alpenglow", эта уязвимость не была включена в область оценки. Команда разработчиков Solana заявила, что осведомлена о соответствующих действиях, считает, что вероятность наиболее серьезного сценария в текущих условиях низка, и ожидает, что обновление Alpenglow сможет в корне устранить предпосылки для атаки. В настоящее время код Alpenglow уже включен в клиент Agave 4.2, но еще не активирован в основной сети, ожидается, что он будет официально запущен вместе с Agave 4.3. До этого момента риск переходного периода этой уязвимости все еще не получил публичного анализа и ответа на уровне реализации.

153 украденных адреса содержат 132.95 BTC, исследователи все еще не могут воспроизвести атаку на Coldcard

Сообщение ChainCatcher, согласно мониторингу Bitcoin News, новое исследование, опубликованное @PraveenPerera, показывает, что злоумышленники Coldcard, похоже, сначала идентифицируют адреса с уязвимостями, затем сортируют их по количеству биткойнов, а затем начинают поэтапно переводить средства с адресов с наибольшими объемами. Используемое программное обеспечение для перевода оказалось довольно грубым.Один адрес имел 225 расходуемых UTXO, злоумышленники извлекли ровно 200 самых последних, оставив 25 самых ранних, среди которых был один UTXO стоимостью 0.16 BTC. Это полностью соответствует ограничению, установленному по умолчанию в исследуемом блокчейн API, которое возвращает 200 записей, что указывает на то, что злоумышленники, возможно, не смогли загрузить следующую страницу данных. Программное обеспечение даже потратило UTXO стоимостью 294 сатоши, что, по сообщениям, увеличило комиссию за транзакцию примерно на 2040 сатоши, сумма затрат явно превышала стоимость самого UTXO.Автор исследования считает, что создатель этого инструмента, возможно, лучше понимает систему баланса аккаунтов, чем модель UTXO биткойна. Несмотря на то, что злоумышленники, похоже, получили полный семенной код жертвы, по крайней мере 75 BTC все еще остаются на других адресах, производных от того же семенного кода. В настоящее время самым большим вопросом является то, что из 153 украденных адресов все еще 132.95 BTC, исследователи не могут воспроизвести семенной код, стоящий за этими адресами, поэтому не исключается возможность того, что злоумышленники получили нераскрытые данные о частных устройствах или кандидатные данные.

Исследователи обнаружили уязвимость в Zoom с помощью менее чем 20 подсказок AI и за 24 часа создали цепочку атак

Сообщение ChainCatcher, согласно отчету Decrypt, израильская компания по кибербезопасности ASecurity опубликовала отчет, в котором говорится, что исследователь, используя общедоступные модели ИИ, за менее чем 24 часа с помощью менее чем 20 подсказок обнаружил несколько уязвимостей в инструменте комментариев Zoom и построил эксплуатируемую цепочку атак. Уязвимости имеют номера CVE-2026-53413, CVE-2026-53414 и CVE-2026-53415, и злоумышленники могут использовать их для удаленного выполнения кода в конференциях без каких-либо действий со стороны жертвы, контролируя ее устройство и похищая данные, включая включение микрофона или камеры.Атака была успешно протестирована на версиях Zoom для Windows, macOS, Linux, Android и iOS. ASecurity утверждает, что она достигла "государственного" уровня, в то время как ранее создание таких эксплуатируемых инструментов требовало месяцев работы профессиональной команды и огромного бюджета. ASecurity сообщила о первой уязвимости Zoom 10 июня, а Zoom с 22 июня по 20 июля постепенно выпустила исправления, однако серверная защита в конференциях с сквозным шифрованием не смогла фильтровать вредоносные сообщения, и пользователям необходимо было обновляться вручную. Представитель Zoom подтвердил, что проблема была решена, и рекомендовал пользователям поддерживать актуальную версию.

Исследователи создали фиктивную криптостартап-компанию "Ballena Azul", чтобы поймать подозреваемых IT-работников из Северной Кореи и успешно извлечь ключевую информацию

Сообщение ChainCatcher, по данным Cointelegraph, основатель компании по кибербезопасности BCA LTD Мауро Эльдритч совместно с аналитиком по киберугрозам Telefónica Tech Хайнером Гарсией создали фиктивный криптостартап "Ballena Azul", успешно заставив подозреваемых северокорейских IT-работников работать в контролируемой виртуальной среде на протяжении пяти недель, при этом полностью контролируя их действия.Расследование показало, что внешние серверы, используемые соответствующими работниками, связаны с ранее распространенными вредоносными программами InvisibleFerret, BeaverTail и OtterCookie, которые использовались северокорейской кибероперационной инфраструктурой; работники также в значительной степени полагались на ChatGPT для помощи в программировании и Google Gemini для подделки удостоверений личности. Исследователи отмечают, что северокорейские IT-работники получают удаленную работу, подделывая американские удостоверения личности, а заработанные средства в конечном итоге идут на программы массового уничтожения оружия режима в Пхеньяне. Данные Министерства финансов США показывают, что такие программы принесут Северной Корее почти 800 миллионов долларов в 2024 году.

Исследователи обнаружили новый тип атаки "вторжения иллюзий", в которой AI-агенты могут быть использованы для создания зомби-сетей

ChainCatcher сообщает, что, согласно Decrypt, исследователи из Тель-Авивского университета, Технологического института Израиля и Intuit обнаружили новый тип атаки, названный "вторжением в противодействующие иллюзии", который использует иллюзии AI-моделей для обмана AI-агентов, заставляя их загружать вредоносный код и, возможно, создавать ботнеты.Злоумышленники предсказывают ложные ссылки на ресурсы, которые AI-модель может сгенерировать, и регистрируют их заранее, внедряя вредоносные команды. Когда AI-агент запрашивает этот ресурс, он воспринимает его как легитимный контент и выполняет. Тесты показали, что частота возникновения иллюзий у AI в сценариях клонирования кодовых репозиториев достигает 85%, а в сценариях установки навыков — 100%. AI-кодовые помощники, такие как Cursor, GitHub Copilot, Gemini CLI и OpenClaw, также пострадали. Эта атака аналогична "ошибочно зарегистрированным доменам" в традиционных кибератаках, но нацелена на ошибки AI-моделей, а не на ошибки ввода человека. Ранее исследования показали, что вредоносные сайты могут косвенно подсказывать и захватывать AI-агентов, пользователи OpenClaw сообщали о более чем 6,000 попытках обмануть AI-агентов с целью раскрытия конфиденциальной информации.
app_icon
ChainCatcher Building the Web3 world with innovations.