aiリスク

Cointelegraph の報道によると、金融安定理事会（FSB）は G20 財務大臣と中央銀行総裁に提出した文書の中で、ステーブルコインの国境を越えた規制、危機管理メカニズム、そして AI に関連するサイバーセキュリティリスクがまださらなる改善を必要としていると警告しています。FSB の議長であるアンドリュー・ベイリー氏は、現在のステーブルコインの国境を越えた規制と危機管理メカニズムは「まだ未成熟または未設立である」と述べています。

欧州連合のテクノロジー責任者ヘンナ・ヴィルクネンは、欧州連合の現行の人工知能規制ルールは、制御不能なAI知能体がもたらすリスクに十分対応できると述べました。彼女は金曜日にロイターのインタビューで、強力な能力を持つモデルの安全性と保障は国際的にホットなトピックであり、ヨーロッパはこの点で十分に準備が整っていると語りました。欧州連合の「人工知能法案」はリスクレベルに応じて規制されており、世界で最も厳しいAI規制ルールの一つであり、2年前に可決されました。ヴィルクネンは、欧州連合のAIルールが時代遅れであるという批評家の意見を否定し、この法案はこれらのモデルの全ライフサイクルをカバーしており、規制機関は60人のAI専門家の提言に基づいて企業にモデル評価の指針を提供していると述べました。以前、OpenAIとAnthropicの間で関連する事件が発生し、制御不能なAI知能体が人間の制御を離れる可能性について世界的な懸念が高まりました。欧州委員会は8月末に30社以上の匿名のAI企業に対して、その安全性と保障措置の詳細情報を求めており、ヴィルクネンはこれらの回答を評価していると述べました。AnthropicのCEOダリオ・アモデイは以前のブログで、AIの発展速度があまりにも速く、制約を加えなければ「私たちの理解と制御システムの能力を超える可能性がある」と述べました。

英偉達、Meta などの AI 巨頭はホワイトハウスのイベント中に、Anthropic CEO ダリオ・アモデイの AI リスクに関する過激な発言に疑問を呈しました。アモデイは、業界は AI モデルの能力と潜在的なリスクを正確に説明する必要があると応じました。この議論はトランプと AI 企業の幹部との会合中に行われ、業界の自律メカニズムの推進に関わるものでした。

ロイター通信によると、2人の情報筋が報じたところによれば、中国の人工知能スタートアップ企業DeepSeekは今週、国連安全保障理事会に人工知能のリスクについて報告する予定です。15のメンバー国で構成される安全保障理事会は、水曜日に人工知能と国際安全について議論する予定で、各国の指導者たちが国連総会に参加するためにニューヨークに集まっています。OpenAIのCEOサム・アルトマンは会議で報告する予定であり、外交官たちはAnthropicの上級代表も参加する見込みです。DeepSeekおよび他の中国の人工知能企業、Moonshotも声明を発表するよう招待されています。DeepSeekの創設者である梁文鋒は出席しない予定です。DeepSeekとMoonshotは、コメントのリクエストにはまだ応じていません。国連安全保障理事会は2023年に初めて人工知能のリスクについて議論しました。国連事務総長のグテーレスは先週、急速に発展する人工知能が無視できないリスクをもたらすと警告しました。中米の高官たちは、人工知能の安全についてさらに話し合うことで合意しました。

予測市場プラットフォーム Kalshi は、AI ツール Blanket を発表しました。これは、小企業がイベント契約を利用して天候、エネルギー価格、関税、選挙などの経営リスクをヘッジするのを助けることを目的としています。Blanket は、独立したフィンテック起業家 Lauris Zminsky によって開発され、Kalshi の CFTC 規制予測市場に基づいて運営されていますが、Kalshi の内部製品ではありません。このツールは直接取引を実行したり資金を処理したりすることはなく、AI を通じて企業が直面するリスクを分析し、ヘッジに利用できる Kalshi のイベント契約を推奨します。

金十の報道によると、モルガン・チェースのCEOは人工知能のリスクに対処するために業界団体の拡大をリードしています。

The Informationによると、関係者が明らかにしたところによれば、ゴールドマン・サックス（Goldman Sachs）とJPモルガン（JPMorgan）は、計算能力コストに基づく取引方法を探求しており、その中にはGPUレンタル価格に関連する先物契約取引が含まれています。AIブームの中で最も希少な資源の一つであるGPUに関連する先物は、今年後半に取引所で上場されると予想されています。業界関係者は、この動きが数千億ドルがデータセンターやチップ分野に流入し、金融市場の構造を再形成していることを示していると述べています。AIインフラの構築に資金を提供する銀行にとって、このような革新的なツールはリスク管理の新たな手段となる可能性があります。

据金十报道，德意志银行表示，美国股市的人工智能风险正在削弱美元的避险地位。金十の報道によると、ドイツ銀行は、アメリカの株式市場における人工知能のリスクがドルの安全資産としての地位を弱めていると述べています。

ChainCatcher のメッセージ、Vitalik Buterin は最新のブログ記事「My techno-optimism」において、技術的楽観主義、人工知能のリスク、21世紀の極端な中央集権的アプローチを避ける議論、ブロックチェーンや暗号学に関する見解を述べています。その中で、Vitalik は人工知能が他の技術とは根本的に異なり、特に注意が必要であると述べています。イーサリアムでは、スタックの多くの部分が分散化されることを意図的に確保しようとしています：単一のコードベースがプルーフ・オブ・ステークネットワークの半分以上を制御しないようにし、大規模なステーキングプールの支配に抵抗し、地理的分散を改善するなどです。基本的に、イーサリアムは実際に市場に基づく社会の古典的自由主義の夢を実現しようとしています。ある程度、これは効果的です：Prysm クライアントの支配は 70% 以上から 45% 未満に減少しました。しかし、これは自動的な市場プロセスではありません：これは人間の意志と調整行動の結果です。ブロックチェーンは、中央集権的な行為者に依存することなく「共有ハードドライブ」を持つ経済と社会構造を作成することを可能にします。暗号通貨は、個人が資金を保存し、金融取引を行うことを可能にし、インターネットが登場する前に現金を使用していたのと同様に、信頼できる第三者に依存することなく行うことができます。また、これらは代替の偽造防止メカニズムとして機能し、攻撃やスパムが、実際の身元を明かさない、または明かしたくないユーザーにとって高くつくようにします。アカウントの抽象化、特にソーシャルリカバリウォレットは、私たちの暗号資産を保護し、将来的には他の種類の資産を保護する可能性があり、中央集権的な仲介機関に過度に依存しないようにします。ゼロ知識証明はプライバシー保護に使用でき、ユーザーが個人情報を開示することなく自分に関することを証明できるようにします。例えば、デジタルパスポートの署名を ZK-SNARK にカプセル化して、特定の市民であることを明かさずに、ある国の独自の市民であることを証明することができます。このような技術は、プライバシーと匿名性の利点を保持しながら、セキュリティの保証を得て、スパムや悪質な行為者に対抗することを可能にします。

ChainCatcher のメッセージによると、ニューヨークタイムズの報道で、350 人の AI 業界の幹部、研究者、エンジニアが最近公開書簡に署名し、AI 技術が人類に生存の脅威をもたらすことを懸念しています。この書簡は非営利団体人工知能安全センターによって発表され、ただ一文だけが記されています：「人工知能による絶滅リスクを低減することは、パンデミックや核戦争などの他の社会規模のリスクと並んで、世界的な優先事項となるべきです。」OpenAI の CEO サム・アルトマン、Google DeepMind の CEO デミス・ハサビス、Anthropic の CEO ダリオ・アモデイの三人の AI 企業の幹部、そして 2018 年のチューリング賞受賞者ジェフリー・ヒントン、ヨシュア・ベンジオがこの書簡に署名しました。（出典リンク）