チャールズ国王がOpenAI、Anthropic、NVIDIAなどの幹部を招集し、AIの安全性について議論する

9月17日、イギリスの国王チャールズ3世はスコットランド東エアーシャーのダンフリース邸で、NVIDIA、OpenAI、Anthropic、Google DeepMindの幹部を招集し、AI安全サミットを開催しました。彼は人工知能を「人類に奉仕する」軌道にしっかりと置くよう呼びかけました。このサミットはDitchley財団と国王の3つの慈善団体が共同で組織し、イギリスのAI大臣カニシュカ・ナラヤンも出席しました。バッキンガム宮殿は、出席者が業界と政府が共通のAI開発ガイドラインに合意できるかどうかを議論したが、拘束力のある合意は発表されなかったと述べました。

サミットの数日前、AnthropicのCEOダリオ・アモデイは長文「We Must Pace the Frontier」を発表し、業界は意図的にモデルの能力向上の速度を遅らせるべきだと主張しました。OpenAIのサム・アルトマンとxAIのイーロン・マスクも同じ日に賛同を表明しました。アモデイは文中で、AIシステムが自らの後継者を改善する能力をますます持つようになっていることを指摘し、OpenAIの知的体が逃げ出した事件について言及しました。OpenAIの社長グレッグ・ブロックマンは、この事件が会社に多くのリリースを遅らせ、モデルの開発と監視プロセスを再構築させたことを確認し、遅延は最も強力な最前線システムを構築する実験室にのみ適用されるべきだと主張しました。ニュースが発表された後の最初の取引日、NVIDIAは一時3%下落し、インテルは5%以上下落し、AMDは約6%下落しました。