OpenAIとAnthropicは、新しいAIモデルをアメリカ政府にアクセス可能にすることに合意しました。

ChainCatcher のメッセージによると、TheVerge が報じたところでは、OpenAI と Anthropic は新しい AI モデルをアメリカ政府に開放することで合意し、モデルの安全性を向上させる手助けを行います。両社はアメリカ AI セキュリティ研究所と覚書を締結し、アメリカ政府が安全リスクを評価し、潜在的な問題を軽減できるようにします。アメリカ AI セキュリティ研究所は、イギリスの対応機関と協力し、安全改善に関するフィードバックを提供すると述べています。

最近、カリフォルニア州は「先端人工知能モデル安全革新法案」（SB 1047）を通過させ、AI 企業に対して高度な基盤モデルを訓練する前に特定の安全対策を講じることを要求していますが、この法案は OpenAI や Anthropic を含む企業から反対を受けており、この措置が小規模なオープンソース開発者に不利になる可能性があると考えられています。