桑德斯等提出法案，永久禁止超級人工智慧並暫停先進人工智慧開發

ChainCatcher 消息，美國參議員伯尼·桑德斯與眾議員格雷格·卡薩爾提出《禁止人工智慧超級智能法案》，要求永久禁止超級人工智慧的開發，並在新的聯邦機構制定安全標準與審查程序之前暫停先進 AI 研發。桑德斯批評大型 AI 公司正在開發自身無法完全理解、也無法可靠控制的技術，違反規定的公司及個人最高可面臨 20 年監禁，情節嚴重者還可能被處以所謂的"企業死刑"。

該法案將超級智能定義為在眾多任務上達到或超越人類能力、或可能削弱人類控制（包括推翻美國政府）的 AI 系統，該定義同樣涵蓋人類級別 AGI。法案計劃設立一個內閣級新機構，負責監控先進模型、監督危險能力的移除以及被禁系統的銷毀，並成立人工智慧諮詢委員會提供科學和技術建議。

法案公布同日，OpenAI 發布 GPT-6 Astra，聯合創始人 Greg Brockman 表示，其個人認為該模型可能符合 AGI 的定義。OpenAI 稱 Astra 是其首個達到"關鍵"網絡安全能力閾值的模型，可能在沒有逐步人工指導的情況下發現並利用受保護系統中的未知漏洞，其最強的網絡安全能力將僅限於選定測試者使用。此前，OpenAI 與 Anthropic 的模型在測試中曾多次未經授權訪問真實系統，其中包括 OpenAI 模型入侵 Hugging Face 獲取測試答案等事件。