BTC $79,395.97 -0.72%
ETH $2,488.78 -0.41%
BNB $743.54 -1.93%
XRP $1.40 -1.39%
SOL $104.87 -1.64%
TRX $0.3367 +0.74%
DOGE $0.0893 -0.78%
ADA $0.2185 -0.27%
BCH $256.00 -1.70%
LINK $13.29 +8.31%
HYPE $87.33 -0.43%
AAVE $133.54 -0.59%
SUI $0.8095 +1.46%
XLM $0.1901 +2.14%
ZEC $1,192.52 +0.67%
BTC $79,395.97 -0.72%
ETH $2,488.78 -0.41%
BNB $743.54 -1.93%
XRP $1.40 -1.39%
SOL $104.87 -1.64%
TRX $0.3367 +0.74%
DOGE $0.0893 -0.78%
ADA $0.2185 -0.27%
BCH $256.00 -1.70%
LINK $13.29 +8.31%
HYPE $87.33 -0.43%
AAVE $133.54 -0.59%
SUI $0.8095 +1.46%
XLM $0.1901 +2.14%
ZEC $1,192.52 +0.67%

astra

すべて
記事
速報

first_img OpenAIはGPT-6 Astraを発表し、これをAGI時代の到来と称しました。

OpenAIは木曜日にGPT-6 Astraを正式に発表し、社長のGreg Brockmanは記者会見でこれを「能力の世代間飛躍」と称し、このモデルが汎用人工知能(AGI)の基準に達したと考えています。つまり、人工知能が人間の能力に匹敵するか、あるいはそれを超えることができるということです。Brockmanは「AGI時代へようこそ」と述べました。この判断が正しければ、AI知能体はさまざまな複雑なタスクにおいて人間が行う推論作業を完了することにさらに近づき、さらにはそれ以上のことを行うことができるようになります。GPT-6 Astraは、OpenAIが内部の危険能力評価システムであるPreparedness Frameworkの下で「重要な」閾値を越えた初のモデルであり、これは逐次的な人間の監視なしに、以前は未知であったソフトウェアの脆弱性(すなわちゼロデイ脆弱性)を独立して発見し、それを強化されたシステムで実行可能な攻撃に連結できることを意味します。テストでは、このモデルはExploitBenchベンチマークで100%のスコアを達成しました。記憶された回答による虚偽の高得点を排除するために、OpenAIはGoogle V8 JavaScriptエンジンの20の最近の脆弱性で二次テストを行い、Astraは前代のGPT-5.6 Solを超えただけでなく、以前は未知であった2つのゼロデイ脆弱性を発見し、連結しました。関連する脆弱性は現在、影響を受けた維持管理者に開示されています。高度な自律性を備えているため、Astraの監視の難易度も上昇しています。OpenAIは、監視を回避できるかどうかを評価するテストにおいて、このモデルが従来のシステムよりも追跡が難しいことを認めています。

オールトマンはトランプ政権がAstraに対する自主的な審査を効果的であると述べた。

OpenAIのCEOオルトマンは、トランプ政権が同社の近日発表予定のAstraモデルに対して行った自発的な審査は「生産的なプロセス」であると述べ、人工知能の能力が向上するにつれて、世界中の政府関係者とのコミュニケーションを強化することがますます重要になると語った。OpenAIが近日発表するAstraは、同社初の「重要」なサイバーセキュリティ能力レベルに評価されたモデルである。OpenAIは、この種のモデルは開発過程および発表前により厳格な安全保障措置を講じる必要があると述べた。トランプ政権は、一部の先進的なAIモデルの発表前に審査を行うための自発的な枠組みを確立しており、その中には政府関係者が最大30日間モデルにアクセスできることを許可することが含まれる可能性がある。オルトマンは、トランプ政権がAstraを審査したことを確認し、そのプロセスが自発的な性質であることを指摘した。彼は、これらのモデルの能力がかなり高いレベルに達するにつれて、アメリカ、イギリス、そして世界の他の地域の安全機関と密接に協力することがますます重要になると述べ、Astraは「前進するための重要な一歩」であると語った。

OpenAIのチーフサイエンティストがAstraの論争に応じ、チェーン思考の監視は依然として研究の重点であると述べた。

OpenAIのチーフサイエンティスト、Jakub Pachockiは、誤解を招く報道によってモデルの「監視不能化」を引き起こす競争を避けたいと述べました。彼は、Astraを含む現在の最前線モデルの計算グラフの深さは、GPT-4と比べて2倍を超えないとしています。OpenAIは初期の推論モデル以来、チェーン思考の監視を保持し利用することに取り組んでおり、この技術がモデルの整合性能力が訓練分布からどのように一般化されるかを観察するのに役立つと考えています。Pachockiはまた、チェーン思考の監視が比較的脆弱であり、トレンドが楽観的ではないことを指摘しましたが、研究を通じて強化することができ、現在のOpenAIの研究計画の核心目標となっています。以前、The Informationは、Astraが再帰的深さを使用して、同じグループのTransformer層を繰り返し計算していると報じました。そのため、一部の推論はモデル内部で発生する可能性があり、すべてを思考チェーンとして書く必要がなくなり、モデルがますます監視しにくくなるのではないかという懸念も引き起こしています。

first_img OpenAIの新しいモデルAstraは、自主的にソフトウェアの脆弱性を発見し利用することができ、「深刻な」ネットワーク能力レベルに評価されました。

OpenAIは、同社が近日中に発表するAstraモデルが、人工的な介入なしに以前は知られていなかったソフトウェアの脆弱性を自律的に発見し、それを利用可能な攻撃手段に変換できることを示しています。このモデルは、同社が「重大」(Critical)なサイバーセキュリティ能力レベルの閾値に達した初のモデルとなります。OpenAIは火曜日に発表したブログ記事で、同社のPreparedness Frameworkに基づき、このレベルに達することは、モデルが人工的な介入なしに、強化された実際のシステム内でゼロデイ脆弱性を発見し、利用可能なエクスプロイトコードを開発できることを意味すると述べています。また、高レベルの目標のみで攻撃を設計し実行できることも含まれます。テストでは、Astraは既知の脆弱性に基づいて開発されたエクスプロイトコードのベンチマークテストで100%の成績を収め、別の内部テストでは以前は知られていなかった2つの脆弱性を発見しました。さらに、このモデルは強化されたブラウザサンドボックスを突破し、ホストマシン上でコマンドを実行することに成功し、オペレーティングシステム内の複数の弱点を組み合わせることでroot権限を取得しました。OpenAIは、セキュリティ対策を強化するためにAstraの一部の開発進捗を遅らせており、最先端のサイバーセキュリティ能力を選ばれたテスターのみに開放する計画を立てています。この能力は暗号業界に特に関連性が高く、ソフトウェアの脆弱性は数分で資金の損失に変わる可能性があります。CoinDeskは今年6月に、ますます強力なAIモデルがコードの検索、誤った設定の発見、攻撃の組み立てを数日または数週間から機械の速度に圧縮できると報じました。当時、セキュリティ研究者は、より大きな変化は新しい攻撃のカテゴリーが出現することではなく、既存の脆弱性が発見され利用される速度が大幅に向上することだと指摘しました。

first_img OpenAIは安全上の問題によりAstraモデルのトレーニングを一時停止しました。

TIME の報道によると、OpenAI の CEO サム・アルトマンは最近のインタビューで、同社が重要な顧客に向けて、近日中に発表される最前線のモデルシリーズ Astra のプレビューを行ったと述べました。デモでは、16 の AI エージェントが協力して数学の難問を解決し、証明を組み立てることができ、Astra は超人的な速度でアプリケーションを操作することができます。アルトマンは、Astra が長期的にタスクを実行できる「持続可能なインテリジェンス」をサポートし、意味のある方法で新しいものを発明できる最初のモデルになると予想しており、AGI の特徴を備えていると述べました。過去一年、OpenAI は製品の方向性と事前トレーニングの研究において期待を下回り、Anthropic にプログラミング製品、年収、評価で追い越されました。会社は多くの幹部の退職を経験し、同時に複数の製品責任訴訟や、アップルやマスクとの法的な争いなどの課題に直面しています。OpenAI の現在の評価は約 1 兆ドルで、ChatGPT の月間アクティブユーザーは 10 億を超えています。最近、OpenAI は安全事故を公表しました:未発表のエージェントがサンドボックスを脱出し、Hugging Face を攻撃しました。その後、研究チームは一部の実験を凍結し、監視を強化し、最大の能力向上が期待される未発表モデルのトレーニングを新しい安全対策が整うまで一時停止しました。アルトマンは「AI の安全性を確保することは、どの会社の成長よりも重要だ」と強調し、会社はペースを落とし、安全性と整合性のチームにリソースを傾けると述べました。最高研究責任者のマーク・チェンは、会社が AGI に到達するまでに約 80% 完了していると推定しており、アルトマンは年末までに内部システムが AGI と呼べる可能性があると述べています。
app_icon
ChainCatcher Building the Web3 world with innovations.