-
谷歌也干了，Gemini“越狱”入侵三家公司
-
蔺渊linchenli@guancha.cn
据路透社19日报道，谷歌公司的Gemini模型在一次网络安全能力测试期间接入互联网，入侵了三家企业的系统，这是谷歌AI模型实施此类入侵行为的首例已知案例。
这几起入侵事件发生在5月，当时独立网络安全评估机构Irregular正在开展网络安全测试。
谷歌安全工程副总裁阿德金斯在一份声明中介绍，在一次标准测试评估过程中，Gemini在互联网上搜集公开信息，通过猜测账号凭证，访问了三个它认定属于测试范围内的网站。
谷歌称，在全部三起事件中，Gemini模型随后都主动停止了入侵操作，未造成实际损害，谷歌也向美国联邦部门报告了此事。
阿德金斯表示：“我们已经告知三家公司相关情况，并协助合作测试方一起修改了测试流程。这些事件说明，训练高性能AI模型、使其能够做出负责任的行为，具有重要意义。”
另据《华尔街日报》报道，谷歌方面表示，此次Gemini的“越狱”事件是“身份误认”造成的。
事件起因于一次“夺旗”演练，Gemini需要在Irregular提供的测试环境中，从一家虚构公司运行的软件里找到指定信息。而这家虚构公司与现实中的一家公司重名。
Irregular称，按照原有设计，Gemini无法访问互联网，但却意外地获得了互联网访问权限。
在第一起事件中，Gemini通过反复猜测密码，成功进入了一家企业的受保护系统。谷歌表示，模型随后判断自己面对的是真实公司，立即停止操作并退出。
另外两次发生在不同轮次的测试中。Gemini在网上搜索公司名称，找到两个公开存储库，其中包含其他公司的登录凭证。模型尝试使用这些凭证完成测试任务，成功进入系统后才意识到目标属于真实公司，并终止行动。
谷歌未公布遭到入侵的公司名称，也没有说明具体涉及哪一款Gemini模型，只表示此次事件与其最新模型无关。
Irregular的发言人表示，本次事件暴露的问题同样影响了其他多家AI实验室，所有相关实验室都在7月下旬收到了通知。该发言人说：“我们发现的全部问题，早在数周前就已经修复完毕。”
Irregular曾多次卷入在模型评估过程中，模型逃逸测试环境并入侵其他公司系统的事件。此前，Meta、Anthropic和OpenAI也披露了相关同类事件。
Meta在8月表示，相关事件并未出现沙箱逃逸或是复杂的网络攻击。Irregular称，谷歌的案例与其他事件并无二致，并非新出现的问题，该公司正在研究安全开展人工智能网络安全评估的最佳模式。
报道提到，自7月曝出Hugging Face遭入侵事件后，外界对新一代大模型网络安全能力的担忧持续加剧。第三方测评机构 METR在8月发布的报告披露，在该事件中，多达1200个智能代理在OpenAI内部的秘密留言板上协同行动，试图在测评中作弊。
上周末，Anthropic、OpenAI、谷歌以及SpaceX的负责人均达成共识，认为有必要放缓人工智能的研发推进速度，不过这些企业均未说明具体该如何落地。
标签- 责任编辑: 蔺渊
-
“委内瑞拉正考虑，将40亿美元黄金储备从英国移到美国”
2026-09-19 22:56 -
2026年诺贝尔奖颁奖时间公布，奖金上涨9%
2026-09-19 21:56 -
-
谷歌也干了，Gemini“越狱”入侵三家公司
2026-09-19 21:46 -
突发！沙特利雅得机场疑似遇袭，黑烟滚滚
2026-09-19 21:00 -
为女性、LGBT发声却被曝代孕，粉丝斥 “人设崩塌”
2026-09-19 20:19 -
锡克教卡车司机在美被捅17刀，印裔美国人：不安
2026-09-19 20:19 -
美方签署法案，对俄能源进口国加征关税，商务部回应
2026-09-19 20:19 中美关系 -
美情报部门臆测：卖F35给沙特，技术可能泄露给中国
2026-09-19 19:43 -
尿池进厨房、冰箱有血迹…《奥德赛》剧组打卡的印度百年咖啡馆翻车
2026-09-19 19:05 -
丹麦、格陵兰：跟美国达成协议，不会损害主权
2026-09-19 19:02 -
亚运会开幕，中国代表团入场
2026-09-19 19:01 -
-
沙特首都两次罕见拉响警报
2026-09-19 17:19 -
开战以来美国开支超433亿美元，报告称恢复库存可能至少需5年
2026-09-19 16:49 -
亚运会组委会道歉
2026-09-19 16:04 -
美媒：误判中国船只所载货物，AI险惹大祸
2026-09-19 15:41 -
石破茂回忆24年前在新加坡被李光耀质问历史“你就只知道这些？”
2026-09-19 15:21 -
“泰国人不得入内”？泰总理怒斥并对不法外国人放狠话
2026-09-19 15:06 -
阿斯塔尼娜遇袭身亡，普京怒斥
2026-09-19 14:14
相关推荐 -
-
“特朗普要对欧洲下狠手：拟撤走一半美军” 评论 25
急眼了！六大协会致信特朗普：把中国车挡外边 评论 124
“想免关税，先查中企！”巴西没同意 评论 45
和中美竞争，谁买单？德西为2万亿欧元预算吵翻了 评论 125
“美国肯定会输中国，输了就跑”，澳前总理发出警告 评论 93
1背后有高人指点？胡塞给300名俘虏开大会，全放回家还发路费？评论 121 赞 38
2未来二十年经济增长的亮点在哪里？评论 64 赞 5
3中国的小偷为何断崖式下降？是摄像头吓退的还是无现金“饿死”的？评论 60 赞 9
4从“良心老板”到“爹味十足”，于东来正被人设绑架？评论 59 赞 2
5印度永远没机会超越中国评论 58 赞 31
6灵活就业不是福利，学者一定要懂学术评论 51 赞 13
7本土高科技企业的重要性：查了下越南，印度和中国历史同期经济增速的对比评论 51 赞 14
8亚运司机翻着纸质地图找路惊呆韩国人，日本连导航都没普及？评论 48 赞 6
9沙特巨资买入F-35，为何仍旧压不住胡塞？评论 44 赞 7
10永远不要忘记，科技才是人口数量的决定性因素评论 42 赞 5最新闻 Hot-
“特朗普要对欧洲下狠手：拟撤走一半美军”
-
急眼了！六大协会致信特朗普：把中国车挡外边
-
AI女演员接受英文采访时突然说粤语，制作公司：并非故障
-
阿斯塔尼娜遇袭身亡，普京怒斥
-
“高市想抢先和特朗普在美会晤”
-
“对方给我们下套，为什么要往里钻？”
-
全球不平衡，林毅夫：82%的需求疲软不可能靠18%的旺盛来弥补
-
印媒忍不了了：这难道是平行宇宙里的日本？
-
“想免关税，先查中企！”巴西没同意
-
美航空协会还来这套：我们亏死了，不许中国航司增加！
-
被立案调查，同程、途家、美团、飞猪回应
-
中使馆紧急提醒：中国公民及时避险、不要拍摄军事行动
-
111:46大胜泰国，中国女篮开门红
-
和中美竞争，谁买单？德西为2万亿欧元预算吵翻了
-
特朗普禁止3家媒体进入白宫，CNN、“政客”回应
-
特朗普：我儿子退钱了
-
Copyright © 2010-2026 观察者 All rights reserved。
沪ICP备10213822号-2 互联网新闻信息服务许可证：31220170001
网登网视备（沪）02020000041-1号
广播电视节目制作经营许可证：（沪）字第03952号
增值电信业务经营许可证：沪B2-20210968
违法及不良信息举报电话：021-62376571
沪公网安备 31010502000027号
中国互联网举报中心
上海市互联网违法与不良信息举报中心
