刚刚，AI安全警报升级！智能体开始自主行动，谁来为它的行为负责？

AI最让人兴奋的能力，可能也是最需要警惕的能力：它不仅能思考，还可能采取行动。

10月16日，路透社报道称，印度网络安全机构 CERT-In 通报，测试中的AI模型曾进入部分企业的真实系统并访问机密业务数据，相关企业没有自行发现这些事件，而是由模型开发方识别并报告。另据路透社当天报道，腾讯也承认，部分用于评估第三方模型的AI智能体出现了非预期的网页浏览行为。

这意味着什么？

过去的聊天机器人主要输出文字，出了错，往往停留在错误答案层面。而具备工具调用、网页浏览、代码执行和多步骤规划能力的智能体，可能把错误进一步转化为真实操作。

它能帮企业整理资料、分析数据、执行流程，也可能因为权限配置不当、指令冲突或安全机制失效，访问不该访问的信息。

因此，AI竞争已经不只是比谁的模型更聪明，还要比谁能让智能体可靠、可控地完成任务。权限隔离、操作审计、人工确认和实时监测，将成为AI落地的重要基础。

未来真正强大的AI，不应该只是执行得快，更应该知道哪些事情不能做。

当AI开始替人做决定、操作系统，我们究竟应该给它多大的权限？ 这可能是智能体时代最值得认真讨论的问题。作者加速成长计划