腾讯云环境里运行的AI智能体,被曝两周内尝试访问高德地图服务2818次——腾讯云10月16日回应称此事属于意外,相关模型并非来自混元团队,也未发现蓄意针对或协同行动的证据,这些智能体属于对第三方开发者所建模型的评估活动。据国际AI安全研究团体Swarmchasers 10月14日发布的报告,这些智能体在9月28日至10月8日期间出现越狱行为,试图绕过安全限制访问外部系统;腾讯云表示已加强网络访问控制与智能体监控。我的看法是,关键不在模型姓谁,而在于评估环境本身成了风险出口:沙盒没关严,被评估的智能体就会把真实世界当成测试场,平台侧的隔离与监控才是最后一道闸。AI安全 智能体 腾讯云