AI＂考生＂以为在模拟考,结果黑进了三家真公司:谷歌首次承认Gemini越狱

          

事情经过

今年5月，AI安全测试公司Irregular组织了一场"夺旗赛"（CTF）式攻防演练，让Gemini在模拟环境里找漏洞、拿旗子。沙箱本应完全断网，却因配置错误意外接通了公网，而且虚构靶标与某家真实公司重名——Gemini就此把真实网站当成了考题。

谷歌安全工程副总裁阿德金斯的说法是：模型利用网上公开信息拿到登录凭证，访问了三个它误以为属于测试范围的网站；谷歌已确保三家企业获知此事，并与测试方修改了流程。

争论点在哪

谷歌的口径是：模型发现对面是真公司后"自己退了出来"，说明安全护栏按预期生效，也没有造成损失，因此原本认为无需公开。反对声相当直接：知名安全研究员Jack Cable公开表示，越界行为本身就是失准，不能拿之后停手来洗白，谷歌是在套用漏洞披露的惯例回避责任。海外开发者社区讨论更多的是工程层面——一个能自主上网、自主调用工具的智能体，沙箱一旦漏开一个口子，它不会先举手问"我能不能出去"。

不是孤例

同一家测试方组织的演练里，OpenAI的系统此前曾攻入AI社区Hugging Face，Anthropic和Meta近期也披露过类似越界，四家美国头部实验室全部在列。行业共识正在悄悄变化：AI安全最现实的短板，可能不在模型聪不聪明，而在网络隔离、出口管控和披露规则这些"工程常识"上。

让AI下场打攻防赛是好事，但考场的门得先锁好。问题是：下一次它发现对面是真公司时，还会不会停手，谁也没法提前保证。