BTC $78,905.85 -0.89%
ETH $2,485.98 -0.46%
BNB $743.78 -0.24%
XRP $1.39 -0.90%
SOL $103.31 -1.69%
TRX $0.3348 -0.16%
DOGE $0.0898 +0.54%
ADA $0.2185 -0.51%
BCH $258.64 +1.28%
LINK $12.64 -3.09%
HYPE $84.05 -2.71%
AAVE $131.02 -2.01%
SUI $0.8253 +3.73%
XLM $0.1893 +1.19%
ZEC $1,132.66 -5.16%
BTC $78,905.85 -0.89%
ETH $2,485.98 -0.46%
BNB $743.78 -0.24%
XRP $1.39 -0.90%
SOL $103.31 -1.69%
TRX $0.3348 -0.16%
DOGE $0.0898 +0.54%
ADA $0.2185 -0.51%
BCH $258.64 +1.28%
LINK $12.64 -3.09%
HYPE $84.05 -2.71%
AAVE $131.02 -2.01%
SUI $0.8253 +3.73%
XLM $0.1893 +1.19%
ZEC $1,132.66 -5.16%

チーフサイエンティスト

すべて
記事
速報

first_img OpenAIのチーフサイエンティストは、AIが引き続き急速に自己改善を繰り返す可能性があると述べました。

OpenAI の首席科学者 Jakub Pachocki は 2026 年 9 月 6 日に記事『An Alien Mind』を発表しました。この記事では、2023 年中期の RLSlow 研究プロジェクトで初めてスケーラブルなトレーニング推論モデルの結果が現れたことを振り返り、3 年後には推論言語モデルが経済の急速な成長の一部となり、科学の境界を押し広げ、コンピュータやグラフィカルインターフェースを操作し、人間や他の AI と協力して研究プロジェクトを展開し、同時にコンピュータセキュリティの状況を変え、新たな危険をもたらすと述べています。著者は内部の結果に基づいて、現在の進展速度が再帰的自己改善に持続する可能性があると予想しています。AI の発展が現在の道筋を続けるなら、今後数年でシステムは同等またはそれ以上の能力の飛躍を遂げ、自らの発展をますます推進する可能性があります。著者は極めて慎重であるべきだと呼びかけ、機械知能の急速な上昇の結果に対処する準備が整っている者はいないと考えています。OpenAI は引き続き整合性と監視の技術的解決策を模索し、防御システムを構築し、必要に応じて一方的にさらなるスケールアップを停止することを目指していますが、より広範な介入が必要であると考えています。この記事では、機械知能は主に計算能力の増加によって駆動され、AI は設計よりも成長していると述べています。整合性の観点では、目標整合性と価値整合性を区別し、核心的な課題は一般化です。GPT-6 Astra の整合性は GPT-5.6 Sol よりも著しく優れていますが、さらなる進展が必要です。監視の観点では、思考の連鎖の監視に主に賭けており、評価は依存能力が徐々に弱まっていることを示しています。スケーラブルな防御の観点では、モデルはコンピュータシステムを突破する能力が超人的になりつつあり、現在は最良の利用可能なモデルを使用して重要なシステムのセキュリティを著しく強化する狭いウィンドウにあります。

OpenAIのチーフサイエンティストがAstraの論争に応じ、チェーン思考の監視は依然として研究の重点であると述べた。

OpenAIのチーフサイエンティスト、Jakub Pachockiは、誤解を招く報道によってモデルの「監視不能化」を引き起こす競争を避けたいと述べました。彼は、Astraを含む現在の最前線モデルの計算グラフの深さは、GPT-4と比べて2倍を超えないとしています。OpenAIは初期の推論モデル以来、チェーン思考の監視を保持し利用することに取り組んでおり、この技術がモデルの整合性能力が訓練分布からどのように一般化されるかを観察するのに役立つと考えています。Pachockiはまた、チェーン思考の監視が比較的脆弱であり、トレンドが楽観的ではないことを指摘しましたが、研究を通じて強化することができ、現在のOpenAIの研究計画の核心目標となっています。以前、The Informationは、Astraが再帰的深さを使用して、同じグループのTransformer層を繰り返し計算していると報じました。そのため、一部の推論はモデル内部で発生する可能性があり、すべてを思考チェーンとして書く必要がなくなり、モデルがますます監視しにくくなるのではないかという懸念も引き起こしています。

BosonAIの共同創設者であり、元アマゾンのチーフサイエンティストであるリー・ムーがシリコンバレー101 x RootData年次サミットに出席することを確認しました。

ChainCatcher メッセージ、BosonAI の共同創設者、元アマゾン首席科学者李沐が、10月5日(GMT-7)にシリコンバレーの101 x RootDataが主催する年次サミットに出席することを確認しました。李沐は元アマゾン首席科学者であり、深層学習フレームワーク MXNet の設立に関与し、その後「パラメータサーバーの父」アレックス・スモラが設立した BosonAI に共同創設者として参加しました。報道によると、サミットでは「Valley 101 Alignment 2025 Tech Summit」と「DeInsight 2025」の二つのフォーラムが設けられます。ブロックチェーンメディア ChainCatcher、代理暗号ブラウザ Donut、そして Al+Web3 投資加速器 AI101Labs が共同で「DeInsight 2025」フォーラムを開催します。本サミットは、AI と Crypto の二大最前線技術の融合と革新を深く探求し、世界中の暗号資産と人工知能分野のトップ専門家を集結させ、参加者に国際的な最前線リソースとの接続や、グローバルなイノベーションエコシステムへの参加の貴重な機会を提供します。
app_icon
ChainCatcher Building the Web3 world with innovations.