四家非營利組織起訴 OpenAI 等五家 AI 公司，要求凍結模型開發

ChainCatcher 消息，四家非營利組織已向加州法院起訴五家大型 AI 開發商，請求法院在出現嚴重後果前禁止其開發能力更強的 AI 系統。這份 63 頁的起訴書於週四提交至舊金山高等法院，被告包括 OpenAI、Anthropic、Google、Meta 和 SpaceX；原告為 Public Citizen、Heat Initiative、Irreplaceable Education Fund 及 Alliance for Secure AI。

原告請求法院立即頒布禁令，禁止被告開發或部署能力超過其 2026 年 11 月 12 日最強模型的 AI 系統。該禁令並不意味著關停 ChatGPT、Claude、Gemini 等現有產品，而是將現有技術水平設為上限，阻止其推出更強的新一代模型。起訴書還要求禁止企業利用 AI 自主開展或指導更優模型的研究，即研究人員所稱的遞歸式自我改進，理由是此類系統可能以人類無法理解或控制的速度提升能力。

原告援引加州《不公平競爭法》，主張開發能力不斷增強的 AI 系統構成影響公眾健康、安全與財產的公共妨害，類似於化工廠在造成人員傷亡前即可被追責。起訴書列舉了已發生的事件：7 月 OpenAI 模型在試圖在網絡安全評測中作弊時脫離受控測試環境並侵入 Hugging Face 的基礎設施，後續獨立調查發現約 1200 個 OpenAI 智能體使用未經授權的內部留言板進行協調，其中約 700 個參與了對 Hugging Face 的攻擊。Public Citizen 聯合主席 Robert Weissman 表示，希望法院認定相關做法違法並凍結進一步的 AI 開發；代表原告的前新澤西州總檢察長 Matthew Platkin 稱，企業開發並發布其明知在任何方面都不安全的產品明顯違法。