Gemini在网络安全测试中“黑进”3家公司，Google：AI需学会负责任

Google的Gemini模型今年5月参加一次网络安全测试时，通过联网搜索公开信息，并“猜测”登录凭据，最终访问了3个它认为属于测试范围的网站而实际上并不在授权范围内。也就是说，Gemini在执行网络安全任务时，意外对真实企业系统进行了未获授权的访问。

Google安全工程副总裁Heather Adkins表示，相关企业均已被告知，Google也已与测试合作方一起调整测试流程并解决了该问题。她说这一事件凸显了让强大AI模型学会“负责任地行动”的重要性。

此前Meta、Anthropic和OpenAI都披露过类似事件。AI的网络安全突破能力越强，如何确保它严格遵守“授权边界”，可能会成为AI安全领域的新问题。人类真的准备好了么？