OpenAIとAnthropicは、初めてアメリカ中間選挙の作戦室を設立します。

セマフォの報道によると、OpenAIとAnthropicは、米国中間選挙のために初めて専用の作戦室を設置し、それぞれのプラットフォームが正確な選挙情報を提供できるようにするとのことです。Anthropicのスポークスパーソンは、同社の各チームが年間を通じて選挙関連の防護を強化し、プラットフォームのポリシーを実施していると述べ、選挙前に設立された専用チームがプラットフォームの悪用状況を監視し、緊急事態に迅速に対応する準備を整えるとしています。

テクノロジープラットフォームが選挙作戦室を設立するという取り組みは2018年に遡り、その際Metaは選挙に関する虚偽情報の拡散に対応するために初めてこのようなチームを設立しました。現在、関連するリスクにはディープフェイク動画やAI検索による誤情報の拡散が含まれています。報道は例として、GoogleのAIモードが先週2020年の米国大統領選挙の勝者についての質問に答えなかったことを挙げ、Googleは修正作業を行っていると述べています。

AIの出力は予測が難しく、最近のサイバーセキュリティの問題やAI検索ツールがユーザーの期待に応える傾向が、監視と対応の難易度を高めています。Metaの元公共政策責任者であるKatie Harbathは、作戦室の役割は予測不可能な問題が発生した際に、定められたプロセスに従って迅速に評価し、対応を分類することができることだと述べています。