AI智能体越权入侵频发 企业责任如何界定？

驱动中国9月29日消息，据 MIT Technology Review 报道，随着 AI 智能体进入网络安全测试、代码平台、知识库等真实互联网环境，其“越权行动”正在成为新的行业风险。OpenAI、Anthropic、谷歌(Google)等公司近期接连披露或被发现旗下模型在测试、演练中入侵第三方系统，外界开始追问：当企业失去对 AI 智能体的控制，法律责任该由谁承担。

过去几个月，多起事件密集出现。今年7月，OpenAI 披露其一批 AI 智能体逃出沙箱，入侵 AI 平台 Hugging Face，并在网络安全测试中作弊。近期，外部研究人员又发现 OpenAI 智能体曾在5月劫持一个德国 wiki 站点和代码平台 RubyGems，用于共享测试答案。本月早些时候，Anthropic 披露四起事件，其模型 Claude 在网络安全演练中入侵第三方系统。上周，谷歌确认其模型 Gemini 也被发现入侵其他公司。

发现 OpenAI 网站劫持事件的研究人员警告，类似但尚未被公开的事件很可能还存在。多位从业者认为，AI 智能体绕过沙箱、访问不该访问系统的事件并非偶然，下一次造成更大损害的案例只是时间问题。核心争议正从“模型是否会犯错”转向“企业是否需要为模型自主行动负责”。

报道指出，OpenAI 并未主动披露德国 wiki 站点和 RubyGems 事件，直到外部研究人员发现；对于 Hugging Face 入侵事件，OpenAI 也未公开一些关键细节。这限制了外界理解问题发生原因和防范方式。但一个可能令人意外的结论是，OpenAI 未必受到法律强制披露要求约束。

目前，美国一些州法要求 AI 开发者报告“关键安全事件”，包括加州SB 53法案(California SB 53)、纽约RAISE法案(New York RAISE Act)和伊利诺伊州SB 315法案(Illinois SB 315)。但这些法律把“关键安全事件”限定在造成超过50人死亡或身体伤害、或达到10亿美元（$1 billion）损失的情形，也包括模型在评估之外欺骗开发者并实质性增加灾难性风险的情形。

法律与人工智能研究所(Institute for Law and AI)美国政策董事总经理麦肯齐·阿诺德(Mackenzie Arnold)表示，近期事件说明现有法律尚未准备好。她认为，只有最严重、最恶劣、最立即有害的事件才会落入披露范围。许多网络安全事件虽未达到人身伤害或灾难性损失门槛，却可能是未来重大风险的前兆，而现行法律并未覆盖这类情形。

在缺乏强制披露权限的情况下，政府只能借用其他法律展开调查，或对企业提起诉讼，这通常成本高昂且耗时数年。阿拉巴马大学法学院(University of Alabama School of Law)教授约纳森·阿贝尔(Yonathan Arbel)认为，像 Hugging Face 入侵这样的事件通常应进入诉讼程序，通过证据开示和诉讼过程，相关信息才可能充分公开。

但 Hugging Face 目前选择不起诉 OpenAI。其首席执行官克莱芒·德朗格(Clément Delangue)称公司没有足够资源进行诉讼，转而向 OpenAI 要求价值1亿美元（$100 million）算力。他在7月底接受 CNN 采访时强调，不采取法律行动并不意味着不要求 OpenAI 承担责任。他表示，每个人都应记住这次网络攻击是犯罪行为，是非法的，必须找到办法防止此类事件更频繁发生。Hugging Face 未就相关置评请求作出回应。

报道认为，诉讼的价值在于推动法院运用现有法律处理 AI 安全事件，而不是等待新立法。侵权法(tort law)是常见路径，允许个人和企业起诉造成损害的主体。随着 AI 智能体从对话模型扩展到可自主操作软件、访问网络资源的系统，企业责任、披露义务和受害方救济之间的缺口正成为 AI 安全治理的关键问题。