OpenAI 與 Anthropic 將首次設立美國中期選舉作戰室

ChainCatcher 消息，据 Semafor 報導，OpenAI 和 Anthropic 將首次為美國中期選舉設立專門的作戰室，以確保各自平台提供準確的選舉資訊。Anthropic 發言人表示，公司各團隊全年都在加強選舉相關防護並執行平台政策，選舉前設立的專門團隊將監測平台濫用情況，並準備快速應對突發事件。

科技平台設立選舉作戰室的做法可追溯至 2018 年，當時 Meta 為應對選舉不實資訊擴散首次設立此類團隊。如今相關風險還包括深度偽造視頻和 AI 搜尋傳播錯誤資訊。報導舉例稱，谷歌 AI Mode 上週沒有回答誰贏得了 2020 年美國總統選舉的問題，谷歌表示正在修復。

AI 輸出難以預測、近期網路安全問題，以及 AI 搜尋工具傾向於迎合用戶預期，都会增加監測和響應的難度。Meta 前公共政策主管 Katie Harbath 表示，作戰室的作用是在出現難以預料的問題時，能夠按既定流程快速評估並分級處置。