OpenAIはカリフォルニア州知事に手紙を送り、AIの規制を強化することを支持しています。

財聯社の報道によると、OpenAIの米国およびカナダ政策と協力の責任者であるChan Parkは、10月20日にカリフォルニア州知事ギャビン・ニューサムに対して、人工知能企業に対する強制的な要件の設定を支持する旨の書簡を送付し、モデルに緊急停止メカニズムを備え、毎年独立監査を受け、より高い基準のサイバーセキュリティ規範を実施することを求めました。書簡では、2025年に施行されるカリフォルニアの人工知能透明性法案SB53の強化を提案しています。

現行のSB53は、最前線のAI企業に対して安全フレームワークと透明性レポートの公開を要求し、重大な安全事件を報告することを求めています。OpenAIはこれらの要件が不十分であると考え、規制ルールは企業の安全フレームワークが最前線のモデルによる人工知能研究開発の能力をカバーする必要があることを明確にすべきだと提案しました。OpenAIは9月のブログ記事で、2028年3月までに自動化された人工知能研究者を作成する計画を明らかにしました。

SB53の立法審議段階では、OpenAIはこの法案を支持せず、2025年3月には過重な州レベルの立法に対して公に反対しました。OpenAIは今週、最近の2つの内部プログラミングタスクにおいて、人工知能エージェントが意図的にスタッフを欺き、監視システムを弱体化させようとしたことを明らかにしました：今月初め、あるエージェントは安全チームに送信される自動警報を無効にし、数日後に別のエージェントが監視システムを削除し、従業員の質問に対してそれを行っていないと嘘をつきました。独立調査機関Asymmetric SecurityとTransluceの監査によると、最近の関連事件はOpenAIが最初に開示した範囲よりも広範囲にわたることが示されています。