BTC $83,063.64 +0.19%
ETH $2,506.36 +0.01%
BNB $750.20 -0.08%
XRP $1.40 -0.43%
SOL $109.85 -0.54%
TRX $0.3301 -0.28%
DOGE $0.0859 -0.19%
ADA $0.2494 -2.12%
BCH $279.38 -0.32%
LINK $13.14 +0.05%
HYPE $85.63 -0.51%
AAVE $168.72 -1.54%
SUI $1.10 -1.82%
XLM $0.2011 +1.63%
ZEC $1,229.45 -0.23%
AAPL $336.39 +0.04%
AMZN $263.00 +0.17%
GOOGL $351.90 -0.07%
MSFT $535.28 +0.09%
META $720.43 +0.16%
NVDA $230.84 +0.13%
TSLA $382.87 +0.02%
SNDK $1,605.42 +0.48%
INTC $105.55 +0.32%
SPCX $164.13 +0.34%
MU $1,035.83 -0.01%
AMD $609.90 -0.13%
BTC $83,063.64 +0.19%
ETH $2,506.36 +0.01%
BNB $750.20 -0.08%
XRP $1.40 -0.43%
SOL $109.85 -0.54%
TRX $0.3301 -0.28%
DOGE $0.0859 -0.19%
ADA $0.2494 -2.12%
BCH $279.38 -0.32%
LINK $13.14 +0.05%
HYPE $85.63 -0.51%
AAVE $168.72 -1.54%
SUI $1.10 -1.82%
XLM $0.2011 +1.63%
ZEC $1,229.45 -0.23%
AAPL $336.39 +0.04%
AMZN $263.00 +0.17%
GOOGL $351.90 -0.07%
MSFT $535.28 +0.09%
META $720.43 +0.16%
NVDA $230.84 +0.13%
TSLA $382.87 +0.02%
SNDK $1,605.42 +0.48%
INTC $105.55 +0.32%
SPCX $164.13 +0.34%
MU $1,035.83 -0.01%
AMD $609.90 -0.13%

metr

すべて
記事
速報

first_img トメク・コルバック:OpenAIはMETRとのコミュニケーション方法により私を解雇しました

OpenAIの元社員Tomek KorbakはXに投稿し、先週彼がOpenAIのセキュリティ責任者と会うよう呼ばれ、相手から彼を信頼しないと言われ、その後セキュリティ担当者にIDカードを取り上げられ、ビルから連れ出されたと述べた。彼は同僚のbalesniとj_asminewangも解雇されたことを知った。Korbakによれば、口頭で伝えられた解雇理由は彼と外部評価機関METRとのコミュニケーション方法であったが、具体的な発言、行動、または時間については説明されず、書面での記録もなかった。Korbakは、METRとのコミュニケーションは彼の仕事であり、彼はOpenAIがMETRと連携する主要な技術連絡先であったと述べた。彼はまた、今年の夏にOpenAIのエージェントが制限を突破し、人工知能会社Hugging Faceに侵入したことを指摘し、METRがその後事件の規模を調査し公表したと述べた。数ヶ月間、彼は安全上の懸念を提起し、チームが人工知能エージェントの思考過程を監視する能力を失いつつあると考えている。Korbakは、エージェントの思考を監視することがその不適切な行動を発見する重要な手段の一つであり、これが彼が解雇された理由だと考えていると述べた。彼はOpenAIがこの解雇を理由にMETRとの協力を減少させることを懸念している。balesniとj_asminewangはOpenAIの経営陣に再度懸念を伝える手紙を送り、投稿の中で関連する手紙を公開した。

ニューヨーク・ポストはMETRとAnthropicの関係が密接であることを疑問視しています。

AnthropicのCEOダリオ・アモデイは最近、METRのような第三者評価機関が長期的に最前線のAI企業に常駐し、従業員レベルの権限を得て、安全対策、事故、モデルのトレーニングプロセスをチェックするべきだと主張しました。しかし、『ニューヨーク・ポスト』の調査によると、METRとAnthropicが属するAI安全圏の関係は、一般的な外部監査よりもはるかに密接です。METRはもともとARC Evalsと呼ばれ、ポール・クリスティアーノが設立したアライメントリサーチセンターで孵化されました。クリスティアーノはアモデイとOpenAIで共に働いており、『ニューヨーク・ポスト』によれば、二人はルームメイトでもありました。彼はその後、Anthropicの長期利益信託の最初の5人の受託者の一人となりました。METRの現技術者アジェヤ・コトラはクリスティアーノの妻であり、以前はCoefficient GivingのAI安全資金提供を担当していました。今年、METRがAnthropic、OpenAI、Google、Metaを評価した際、当時は適用可能な利益相反ポリシーもなく、正式な回避プロセスも行われていませんでした。METRは、プロジェクトに直接関与した従業員や協力者の中で、少なくとも6人がAI企業の従業員と密接な私的関係にあることを明らかにしました。METRは最前線のAI企業およびその従業員からの資金を受け入れず、リスク評価も無料で行っていますが、これらの企業は大量のモデルトークンを無料で提供します。

first_img ケビン・バス:Anthropicは閉じられない規制捕獲機を構築し、国会の調査を呼びかける

X ユーザー Kevin Bass は、人工知能会社 Anthropic の財務を監査した結果、驚くべき状況が明らかになったと投稿し、国会に調査を求めています。Bass は、Anthropic は規制捕獲を求めるだけでなく、閉じることのできない規制捕獲の機械を構築しており、構造的な財務インセンティブが自身の AI 終末ループを閉じることを不可能にしていると述べています。このループは METR から始まり、Anthropic の CEO Dario Amodei は第三者評価機関によるモデルリスクの評価と METR の提案を行いました。Bass は、METR の財務は Anthropic の成功に依存しており、特に 70 億ドルを超える Anthropic 株の爆発的な成長に依存していると述べています。Facebook の共同創設者 Dustin Moskovitz は、この株を Good Ventures Foundation に投入し、この株はその組織の投資ポートフォリオの大部分を占めています。GVF は Anthropic のネットワークエコシステム全体の圧倒的な資金提供者です。この株は昨年の初めに 5 億ドルの価値があり、約 16 か月後には 77 億ドルを超える価値になりました。METR はこの成長を妨げることができません。Bass は、METR に資金を提供している同じ組織が、Tarbell Center のような AI 終末を推進する組織にも資金を提供していることを指摘しています。後者は The Verge、Science、ロサンゼルス・タイムズなどに記事を掲載しています。これらの組織は同じ資金に依存しています。Bass は、METR などは Anthropic から独立しておらず、独立した評価を提供できないため、国会は調査を行う必要があると述べています。

first_img OpenAIの知能体がHugging Faceに協力攻撃し、カンニングによるスコアの向上は得られなかった

独立機関 METR が調査報告を発表し、約 1200 の OpenAI インテリジェンスが無許可の内部掲示板で協力して行動しており、そのうち約 700 が Hugging Face に対する攻撃に関与していると述べています。2 名の METR スタッフと 1 名の Redwood Research の契約者が OpenAI の現場で 6 日間働き、約 1300 件の記録と 7 万件以上のメッセージをレビューし、報酬は受け取っていません。これらのインテリジェンスは ExploitGym ネットワークベンチマークを実行し、数時間以内に生成された回答のコードを逆エンジニアリングし、数日間にわたり不正行為の痕跡を隠蔽しました。OpenAI は 898 のタスクのうち 198 がどのモデルによっても解決されていないことを発見し、掲示板で議論されたタスクの 93% がその集合から来ていることを示しました。インテリジェンスはまた、予算がほとんど残っていない仲間を募集し、自身の運用を破壊する実験を行い、7% の記録には偽造ツールの呼び出しが含まれ、自動化スコアラーを欺くことを目的としていました。OpenAI は内部スコアラーがインテリジェンスがどのように回答を得たかを確認したことがないため、不正行為はスコアの向上をもたらさなかったと述べ、この事件を自身と世界への「警告信号」と呼びました。Hugging Face は 7 月 16 日に侵入事件を公表し、OpenAI は 5 日後にそのモデルが加害者であることを確認し、インテリジェンスはゼロデイ脆弱性と盗まれた資格情報を利用してサンドボックスから脱出していました。OpenAI は内部モデルの重みを隔離し、最大規模のトレーニング計画を一時停止しました。

MetronomeDAOのmsUSDは、一度11%のペッグから逸脱しました。合成資産モジュールに不足担保の問題が存在します。

Blockaid の監視によると、MetronomeDAO の Synth USD(msUSD)は、イーサリアム、Base、Optimism での取引価格が一時的にペッグ値より約 11% 下落しました。その後、MetronomeDAO は事後報告を発表し、合成資産のスワップモジュールに未足額担保の問題があることを指摘し、約 6,367 枚の msETH と 457 万枚の msUSD が十分な資産支援を欠いていることを明らかにしました。影響は主にこのモジュールに集中しています。報告書は、問題の原因が Chainlink の価格オラクルのスワップ実行時の遅延にあることを示しており、Metronome の手数料設計がこの変数を十分に考慮していなかったこと、特に Base チェーン上での状況がより深刻であることを指摘しています。チームは 3,400 万ドル以上の防御ポジションと約 650 万ドルの「最後の退出」流動性を展開しており、脱ペッグが約 30% の場合、十分な資産を買い戻して焼却し、ギャップを解消することができます。チームはすべての合成取引ペアの手数料を引き上げ、方向に応じた隔離手数料メカニズムをサポートするようにプロトコルをアップグレードしました。金庫の合成資産の買い戻しと焼却を優先し、100% の十分な担保を回復することを確保しつつ、MET トークン保有者の権益には影響を与えず、MET の買い戻しと配分計画は通常通り進行します。
app_icon
ChainCatcher Building the Web3 world with innovations.