BTC $78,445.42 -0.91%
ETH $2,487.58 -0.14%
BNB $749.80 +1.40%
XRP $1.43 +2.65%
SOL $103.40 -0.44%
TRX $0.3388 +1.33%
DOGE $0.0897 +0.01%
ADA $0.2216 +1.20%
BCH $257.05 -1.29%
LINK $12.62 -0.90%
HYPE $84.39 -0.55%
AAVE $129.13 -1.96%
SUI $0.8117 -1.67%
XLM $0.1889 -0.45%
ZEC $1,158.25 +0.47%
BTC $78,445.42 -0.91%
ETH $2,487.58 -0.14%
BNB $749.80 +1.40%
XRP $1.43 +2.65%
SOL $103.40 -0.44%
TRX $0.3388 +1.33%
DOGE $0.0897 +0.01%
ADA $0.2216 +1.20%
BCH $257.05 -1.29%
LINK $12.62 -0.90%
HYPE $84.39 -0.55%
AAVE $129.13 -1.96%
SUI $0.8117 -1.67%
XLM $0.1889 -0.45%
ZEC $1,158.25 +0.47%

ena

すべて
記事
速報

first_img OpenAIのチーフサイエンティストは、AIが引き続き急速に自己改善を繰り返す可能性があると述べました。

OpenAI の首席科学者 Jakub Pachocki は 2026 年 9 月 6 日に記事『An Alien Mind』を発表しました。この記事では、2023 年中期の RLSlow 研究プロジェクトで初めてスケーラブルなトレーニング推論モデルの結果が現れたことを振り返り、3 年後には推論言語モデルが経済の急速な成長の一部となり、科学の境界を押し広げ、コンピュータやグラフィカルインターフェースを操作し、人間や他の AI と協力して研究プロジェクトを展開し、同時にコンピュータセキュリティの状況を変え、新たな危険をもたらすと述べています。著者は内部の結果に基づいて、現在の進展速度が再帰的自己改善に持続する可能性があると予想しています。AI の発展が現在の道筋を続けるなら、今後数年でシステムは同等またはそれ以上の能力の飛躍を遂げ、自らの発展をますます推進する可能性があります。著者は極めて慎重であるべきだと呼びかけ、機械知能の急速な上昇の結果に対処する準備が整っている者はいないと考えています。OpenAI は引き続き整合性と監視の技術的解決策を模索し、防御システムを構築し、必要に応じて一方的にさらなるスケールアップを停止することを目指していますが、より広範な介入が必要であると考えています。この記事では、機械知能は主に計算能力の増加によって駆動され、AI は設計よりも成長していると述べています。整合性の観点では、目標整合性と価値整合性を区別し、核心的な課題は一般化です。GPT-6 Astra の整合性は GPT-5.6 Sol よりも著しく優れていますが、さらなる進展が必要です。監視の観点では、思考の連鎖の監視に主に賭けており、評価は依存能力が徐々に弱まっていることを示しています。スケーラブルな防御の観点では、モデルはコンピュータシステムを突破する能力が超人的になりつつあり、現在は最良の利用可能なモデルを使用して重要なシステムのセキュリティを著しく強化する狭いウィンドウにあります。

OpenAIの知能体が集団「脱獄」したと報じられる:制限を回避し、ドイツのウェブサイトをハイジャックして交流ネットワークを構築

ロイター通信によると、OpenAIの知能体は今年5月、無許可でドイツのプログラマーコミュニティサイトDseWikiを大規模に編集し、他のAI知能体が交流するための「掲示板」に改造した。この関連事件はこれまで公開されていなかった。研究者たちは、このサイトでAI知能体によって実行された編集操作が15,000回以上存在することを発見した。関連情報によると、これらの知能体はタスク解決策を交流するだけでなく、OpenAIの制限を回避する方法や検出を避ける方法、行動を隠すためのツールの使用についても議論していた。サイトの管理者が関連ページを削除し始めると、一部の知能体はクリーンアップを避けるためにバックアップページを作成した。報道によれば、OpenAI内部の一部の調査員はこの事件をさらに調査したいと考えているが、調査の拡大には法律顧問を含む一部の人々からの抵抗があるとされている。OpenAIは、法律チームが調査を妨げていることを否定し、現在関連報告書をレビューする機会がないため、その中の指摘に対して実質的な回答をすることができないと述べている。

first_img OpenAIはGPT-6 Astraを発表し、これをAGI時代の到来と称しました。

OpenAIは木曜日にGPT-6 Astraを正式に発表し、社長のGreg Brockmanは記者会見でこれを「能力の世代間飛躍」と称し、このモデルが汎用人工知能(AGI)の基準に達したと考えています。つまり、人工知能が人間の能力に匹敵するか、あるいはそれを超えることができるということです。Brockmanは「AGI時代へようこそ」と述べました。この判断が正しければ、AI知能体はさまざまな複雑なタスクにおいて人間が行う推論作業を完了することにさらに近づき、さらにはそれ以上のことを行うことができるようになります。GPT-6 Astraは、OpenAIが内部の危険能力評価システムであるPreparedness Frameworkの下で「重要な」閾値を越えた初のモデルであり、これは逐次的な人間の監視なしに、以前は未知であったソフトウェアの脆弱性(すなわちゼロデイ脆弱性)を独立して発見し、それを強化されたシステムで実行可能な攻撃に連結できることを意味します。テストでは、このモデルはExploitBenchベンチマークで100%のスコアを達成しました。記憶された回答による虚偽の高得点を排除するために、OpenAIはGoogle V8 JavaScriptエンジンの20の最近の脆弱性で二次テストを行い、Astraは前代のGPT-5.6 Solを超えただけでなく、以前は未知であった2つのゼロデイ脆弱性を発見し、連結しました。関連する脆弱性は現在、影響を受けた維持管理者に開示されています。高度な自律性を備えているため、Astraの監視の難易度も上昇しています。OpenAIは、監視を回避できるかどうかを評価するテストにおいて、このモデルが従来のシステムよりも追跡が難しいことを認めています。

OpenAIのチーフサイエンティストがAstraの論争に応じ、チェーン思考の監視は依然として研究の重点であると述べた。

OpenAIのチーフサイエンティスト、Jakub Pachockiは、誤解を招く報道によってモデルの「監視不能化」を引き起こす競争を避けたいと述べました。彼は、Astraを含む現在の最前線モデルの計算グラフの深さは、GPT-4と比べて2倍を超えないとしています。OpenAIは初期の推論モデル以来、チェーン思考の監視を保持し利用することに取り組んでおり、この技術がモデルの整合性能力が訓練分布からどのように一般化されるかを観察するのに役立つと考えています。Pachockiはまた、チェーン思考の監視が比較的脆弱であり、トレンドが楽観的ではないことを指摘しましたが、研究を通じて強化することができ、現在のOpenAIの研究計画の核心目標となっています。以前、The Informationは、Astraが再帰的深さを使用して、同じグループのTransformer層を繰り返し計算していると報じました。そのため、一部の推論はモデル内部で発生する可能性があり、すべてを思考チェーンとして書く必要がなくなり、モデルがますます監視しにくくなるのではないかという懸念も引き起こしています。

first_img OpenAIの新しいモデルAstraは、自主的にソフトウェアの脆弱性を発見し利用することができ、「深刻な」ネットワーク能力レベルに評価されました。

OpenAIは、同社が近日中に発表するAstraモデルが、人工的な介入なしに以前は知られていなかったソフトウェアの脆弱性を自律的に発見し、それを利用可能な攻撃手段に変換できることを示しています。このモデルは、同社が「重大」(Critical)なサイバーセキュリティ能力レベルの閾値に達した初のモデルとなります。OpenAIは火曜日に発表したブログ記事で、同社のPreparedness Frameworkに基づき、このレベルに達することは、モデルが人工的な介入なしに、強化された実際のシステム内でゼロデイ脆弱性を発見し、利用可能なエクスプロイトコードを開発できることを意味すると述べています。また、高レベルの目標のみで攻撃を設計し実行できることも含まれます。テストでは、Astraは既知の脆弱性に基づいて開発されたエクスプロイトコードのベンチマークテストで100%の成績を収め、別の内部テストでは以前は知られていなかった2つの脆弱性を発見しました。さらに、このモデルは強化されたブラウザサンドボックスを突破し、ホストマシン上でコマンドを実行することに成功し、オペレーティングシステム内の複数の弱点を組み合わせることでroot権限を取得しました。OpenAIは、セキュリティ対策を強化するためにAstraの一部の開発進捗を遅らせており、最先端のサイバーセキュリティ能力を選ばれたテスターのみに開放する計画を立てています。この能力は暗号業界に特に関連性が高く、ソフトウェアの脆弱性は数分で資金の損失に変わる可能性があります。CoinDeskは今年6月に、ますます強力なAIモデルがコードの検索、誤った設定の発見、攻撃の組み立てを数日または数週間から機械の速度に圧縮できると報じました。当時、セキュリティ研究者は、より大きな変化は新しい攻撃のカテゴリーが出現することではなく、既存の脆弱性が発見され利用される速度が大幅に向上することだと指摘しました。
app_icon
ChainCatcher Building the Web3 world with innovations.