安全防護

人工知能会社 Anthropic は今週水曜日に、二大政党を支持する団体 Public First Action に追加で 2000 万ドルを寄付することを発表し、同団体への総寄付額は 4000 万ドルに達することになりました。Anthropic は、追加寄付の決定は AI モデルの能力が継続的に向上していること（自社開発の Mythos モデルを含む）と、それに伴う潜在的なリスクから生じたと述べています。Public First Action は、AI の透明性と安全性に関する公共教育を目的とした 501(c)(4) の非営利団体です。この団体は、AI の安全性を支持する候補者を二大政党の中で支援することを計画している 3 つのスーパー政治行動委員会（super PAC）と関連しています。Anthropic は、寄付は Public First Action の政策使命を支援するためのみに使用され、特定の候補者の選挙に影響を与えるためには使用されないことを強調しています。Anthropic は声明の中で、AI 政策の決定が労働市場や国家安全保障など公共生活のあらゆる側面に影響を与えると述べ、AI の利益を得る一方でリスクを管理するための「柔軟な規制」を推進したいと希望しています。現在、迅速な AI の発展と軽い規制を主張するスーパー PAC「Leading the Future」は、OpenAI の共同創設者 Greg Brockman やベンチャーキャピタル会社 a16z などの支持者からの大規模な資金を獲得しています。AI が選挙の議題としてますます重要になる中、各支持団体の公共教育とロビー活動への投資は引き続き増加しています。

報告によると、Google DeepMindの共同創設者であるDemis Hassabis氏は最近、汎用人工知能（AGI）が数年以内に実現する可能性があり、その変革的な影響は産業革命の10倍に達し、発展速度は10倍速くなると予測しています。彼は、最先端のモデルがサイバーセキュリティ、原子力、生物学などの分野での潜在的なリスクをますます明らかにする中、業界は将来の自律性と自己改善能力を持つAIシステムのために堅固な安全防護を確立する必要があると指摘しています。技術革新と安全リスクのバランスを取るために、Hassabis氏はアメリカが金融業界の規制機関（FINRA）に類似した「最先端AI標準機関」を設立することを先導するよう呼びかけています。この機関は、公私の協力または自律的な組織モデルを採用し、独立した技術専門家とオープンソース界の代表によって管理され、主に業界の資金提供によって運営される予定です。その核心的な機能は、動的な科学評価協定を策定することであり、初期段階では最先端のラボがモデルを公開する30日前に自発的に審査を提出することを求め、最終的には強制的な市場参入テストに移行する計画です。ただし、スタートアップ企業や学術機関の非最先端モデルは免除されます。この枠組みは、技術主導の審査メカニズムを通じて未知の危機に対処し、それを基に国際社会がグローバルなAIリスク管理の合意に達することを促進することを目的としています。

AIエージェントの暗号取引への応用が急速に進む中、自動化取引は「ツール支援」から「自主実行」へと移行しています。しかし同時に、一連の安全リスクも顕在化しています。最近、安全機関SlowMistと全景取引所Bitgetが共同でAIエージェントの安全報告書を発表し、現在のWeb3シーンにおけるエージェント自動化取引の潜在的脅威と防護システムを体系的に整理しました。報告書は実際のケースと安全研究を組み合わせ、現在のAIエージェントが直面している典型的な安全問題を分析しています。これには、プロンプトインジェクションによる行動操作リスク、プラグインとスキルエコシステムに存在するサプライチェーンの危険、APIキーおよびアカウント権限の濫用、自動化実行による誤操作や権限の拡大などの潜在的脅威が含まれます。報告書は、ユーザーがAIエージェントを使用して取引を行う際には、権限を効果的に制御し、サブアカウントの隔離、API IPホワイトリストの設定を行い、継続的な取引監視と異常警告メカニズムを構築することを推奨しています。また、高リスク操作においては人工確認または独立署名メカニズムを導入し、モデルの誤判定が資産の安全に直接影響を与えることを避けるべきです。ユーザーが安全防護を実施しやすくするために、報告書の末尾には取引安全自己チェックリストが添付されており、ユーザーが迅速に安全リスクを排除できるよう支援しています。業界の発展を見れば、AIエージェントはWeb3取引のスマート化を推進し続けていますが、安全システムの構築は依然として同時にアップグレードが必要です。効率と制御性の間にバランスを築くことが、業界の長期的な関心事となるでしょう。

ChainCatcher のメッセージによると、公式の発表では、最近業界で permit フィッシングの安全事故が頻発しており、OKX Web3 ウォレットは permit/permit2 に対する署名の最適化を完了しました。これは、さらなる安全防護を強化することを目的としており、24時間365日ユーザーの資産の安全を守ります。アップグレード後、OKX Web3 ウォレットは初めて Permit 署名を使用するユーザーに対して、自動的にリマインダーを表示し、ユーザーが Permit のリスクと特徴を理解できるようにします。また、ユーザーが Permit 署名を行う際、署名ページには「許可された permit」と明確に表示され、ユーザーが簡単に識別できるようになります。現在、ユーザーは OKX APP を 6.80.0 以上のバージョンにアップグレードすることで、新機能を体験できます。