OpenAIの新しいモデルAstraは、自主的にソフトウェアの脆弱性を発見し利用することができ、「深刻な」ネットワーク能力レベルに評価されました。

OpenAIは、同社が近日中に発表するAstraモデルが、人工的な介入なしに以前は知られていなかったソフトウェアの脆弱性を自律的に発見し、それを利用可能な攻撃手段に変換できることを示しています。このモデルは、同社が「重大」（Critical）なサイバーセキュリティ能力レベルの閾値に達した初のモデルとなります。OpenAIは火曜日に発表したブログ記事で、同社のPreparedness Frameworkに基づき、このレベルに達することは、モデルが人工的な介入なしに、強化された実際のシステム内でゼロデイ脆弱性を発見し、利用可能なエクスプロイトコードを開発できることを意味すると述べています。また、高レベルの目標のみで攻撃を設計し実行できることも含まれます。

テストでは、Astraは既知の脆弱性に基づいて開発されたエクスプロイトコードのベンチマークテストで100%の成績を収め、別の内部テストでは以前は知られていなかった2つの脆弱性を発見しました。さらに、このモデルは強化されたブラウザサンドボックスを突破し、ホストマシン上でコマンドを実行することに成功し、オペレーティングシステム内の複数の弱点を組み合わせることでroot権限を取得しました。OpenAIは、セキュリティ対策を強化するためにAstraの一部の開発進捗を遅らせており、最先端のサイバーセキュリティ能力を選ばれたテスターのみに開放する計画を立てています。

この能力は暗号業界に特に関連性が高く、ソフトウェアの脆弱性は数分で資金の損失に変わる可能性があります。CoinDeskは今年6月に、ますます強力なAIモデルがコードの検索、誤った設定の発見、攻撃の組み立てを数日または数週間から機械の速度に圧縮できると報じました。当時、セキュリティ研究者は、より大きな変化は新しい攻撃のカテゴリーが出現することではなく、既存の脆弱性が発見され利用される速度が大幅に向上することだと指摘しました。