智能体安全

ChainCatcher 消息，英伟达 (NVDA.O) 推出开放式智能体安全平台，从测试到部署全程保障智能体安全。

ChainCatcher 消息，据证券时报报道，第四届网络空间安全（天津）论坛上，360 集团创始人周鸿祎作主题分享，认为 AI 已改变网络攻防格局，传统方案难以为继，需打造以“以模治模”为核心的自动化攻防新体系，用 AI 能力解决 AI 风险，确保大模型本身安全、生成内容可靠、输出结果可信。周鸿祎同时提出，应对智能体全生命周期管控，建立可审计、可干预、可阻断的控制机制，并呼吁网安行业尽快形成 AI 漏洞发现、自动化防御和智能体安全体系。

ChainCatcher 消息，风险投资机构 Andreessen Horowitz（a16z）宣布投资 AI 智能体（AI Agent）安全初创公司 Runta，该公司希望帮助企业像“养育孩子”一样管理和约束 AI 智能体，具体投资金额暂未披露。Runta 创始人 Guanlan Dai 曾任职于 Cloudflare 技术团队，并担任 API 连接初创公司 Kong 的创始工程师。他表示，AI 智能体与成长中的儿童存在相似之处：它们具备自主执行任务的能力，但同样需要边界、监督和权限管理。Dai 认为，就像父母会对儿童进行家庭安全保护、限制其接触信用卡一样，企业也需要限制 AI 智能体能够访问的重要文件、允许执行的操作范围以及单次可支配资金规模。Runta 正在开发一套“AI 智能体监护”基础设施，帮助企业管理 AI Agent 的权限、安全风险和行为边界，避免自主 AI 系统在执行任务过程中造成数据泄露、错误操作或资金损失。随着企业越来越多地部署具备自主决策能力的 AI Agent，如何建立可信、安全的代理管理体系正在成为新的基础设施需求。Runta 希望成为 AI Agent 时代的“家长控制层”，为企业提供智能体身份管理、权限控制、风险限制和运行监督等能力。业内认为，随着 AI Agent 从简单助手向能够操作企业系统、处理交易和执行复杂任务的自主实体发展，围绕 Agent 安全、治理和合规的基础设施市场或将迎来快速增长。

ChainCatcher 消息，工业和信息化部网络安全威胁和漏洞信息共享平台近期监测发现 OpenClaw（俗称“龙虾”）开源 AI 智能体部分实例在默认或不当配置情况下存在较高安全风险，极易引发网络攻击、信息泄露等安全问题。建议相关单位和用户在部署和应用 OpenClaw 时，充分核查公网暴露情况、权限配置及凭证管理情况，关闭不必要的公网访问，完善身份认证、访问控制、数据加密和安全审计等安全机制，并持续关注官方安全公告和加固建议，防范潜在网络安全风险。 .