日本政府は最前線のAIの制御喪失に対する罰則を設けることを検討しており、年末までに改革案を発表する予定です。

IT之家 11月12日援引共同社の報道によると、日本政府はAI企業に対して安全保障義務を履行させることを検討しており、最先端のAIの制御不能リスクに対処するための新たな罰則を追加する予定です。日本政府は今年の年末までに制度改革の全体方案を発表する計画で、関連内容はAI法律制度に関する非公開の作業部会で確認されています。この措置は、AIによるネットワーク攻撃や制御不能などの重大な脅威に対処し、政府が協議を拒否する悪意のある企業に対して対応策を講じることを確保することを目的としています。

現在、AI企業の業務分担はますます細分化されており、基礎研究、基礎モデルの開発、ユーザーサービスなどの複数の段階が含まれています。日本政府は規制対象の範囲についてさらに議論を進める予定です。アメリカのAI大モデル企業を規制対象に含める場合、日本のユーザーの権益をどのように実際に保護するかも解決すべき問題となります。問題が発生した後も協力を拒否する企業に対して、日本政府は必要に応じて強制執行命令を発出し、命令に従わない企業に対して罰則を実施することを検討しています。これらの措置は、主に最先端のAIの制御不能や攻撃事件に対して適用される見込みです。