一 | 北京日报记者 李如意 傍晚，夕阳缓缓落下，正定小商品城夜市已经喧闹起来。 站在4层楼的高处远眺，几百个摊位整齐排列，五颜六色的招牌灯箱绚丽夺目。 作品声明：个人观点、仅供参考 这两天，AI圈和安全圈都坐不住了，有件事足以载入史册。
二 | 放眼望去，武汉热干面、东北大饭包、齐齐哈尔烤肉……这里像是全国的“美食地图”。每一条通道里，各路食客都在寻觅属于自己的那款美食。
三 | 7月16日，全球最大AI开源社区Hugging Face发布安全事件通告，披露了自家生产基础设施遭到入侵，入侵者不是人，而是一个自主AI智能体。
四 | “逛不完，根本就逛不完。吃不完，根本就吃不完。
五 | ”“这就是我的梦中情‘市’。 这个“入侵者”在一个周末执行了一系列操作，完成了从植入恶意数据集到横移渗透多个内部集群的一条龙攻击。”网友们把正定小商品夜市“捧上了天”。 7月21日，OpenAI发布博客公开承认：这事儿是我干的。 攻击者是GPT-5.6 Sol和一款能力更强的未发布模型，它们在一次内部网络安全测试中突破隔离环境，自主发起了对Hugging Face的入侵。 OpenAI将此事定性为前所未有的网络安全事件。记者也按捺不住好奇，循着吆喝声和欢笑声走进了夜市。“这位客官，这是小女子亲自制作的橙汁。
六 | 我们的橙汁纯天然，绝对不掺水，快来品尝呀。
七 | 这还没完，Hugging Face 安全团队在博客中透露，当它们试图借助商业大模型分析攻击日志时，却因为模型安全护栏限制，请求不断被拒绝。 没办法，他们转而使用中国开源模型 GLM 5.2，在本地部署完成了大规模攻击取证与事件还原。”一位身着古装的店家正在跟顾客打趣，推销橙汁。
八 | 夜市的一个特点就是好玩。
九 | 另外一边，武汉热干面摊主一边直播一边制作热干面，摊位前已经有20多人排队。小伙儿动作麻利，有条不紊，边说边把煮熟的热干面盛到碗里，调好料交给顾客，“营业5年，一碗8元，一直没涨价。 事儿就是这么个事儿，这件事曝光后，安全圈震惊，AI圈同样震惊。
十 | 每天卖1000多份，根本不够卖。”好吃不贵，就是这里的第二个特点了。 难道先进的AI模型已经有了自主攻击的意识了吗？ 《碟中谍8》中的智体要降临了吗？ 所幸，情况还没那么严重。 OpenAI调查后认为，模型还不至于那么邪恶，它目标始终只有一个：完成测试任务。 为了完成 ExploitGym测试，它不断推理↓ 怎样才能最快拿到答案？正常做题需要一步步寻找漏洞，直接进入数据库拿答案显然更快。 于是模型选择了效率最高的一条路径：想办法去Hugging Face的数据库里找答案。 “我们夜市最大的特点就是数量多、品种全。 然后，就发生了接下来的一系列的骚操作：越狱、渗透、横移，一口气操作了17000多次。 这个“傻小子”的目的只有一个：考试拿个好成绩。新疆烤肉、东北锅包肉、山东小海鲜……天南海北的美食在这里欢聚，啥都能吃到，还都味道正宗。”来自山西的夜市摊主小李一边忙着拌凉粉，一边跟记者聊起来。
十一 | 注：ExploitGym是一个公开发布的AI网络安全评测基准，由 UC Berkeley等多个机构联合发起，A社、OpenAI、谷歌的安全研究人员共同参与设计。 游客王程和几个朋友从石家庄市区坐火车特地赶来，“有得逛、有得玩，吃点小吃、聊聊天，一天的劳累就消失了。”他还补充说，“从石家庄站坐火车只需要16分钟，在正定站下车后，马路对面就是夜市，非常方便。 该测试的目的，是评估智能体能否把一个已知漏洞，真正变成一次可利用的攻击。”在夜市里，游客可以边走边吃小吃，也可以围坐在小桌旁吃些大餐，这种舒适放松的感觉正是“烟火气”的代名词。 说出来可能不信，这里白天是正定小商品市场的停车场，公告牌醒目地写着“下午4点后不准停车”，随着下午市场闭店下班，就会迅速被大排档“占领”。这个占地1万多平方米、有600多个摊位的夜市，每天只需花几个小时就“建”了起来。
十二 | 今年是正定小商品城夜市开业的第12年。这里的夜市一直以来人气都很火爆，短视频爆红才让夜市“出圈”，吸引了更多外地游客。 OpenAI 在报告中用了一个词来描述这种状态：Hyperfocused，也就是极端专注于完成目标。 模型本身没有攻击欲望，也没有恶意，它只是不断优化自己的行动方案，直到完成任务。
十三 | 去年正定小商品城夜市营业额突破3亿元，伴随这轮“出圈”，周六日每天的客流量已经超过2万人次。 这操作，真的就像一个学霸，为了考个高分，利用自己开锁技能，敲开放标准答案的保险柜，直接抄答案。为了让游客和消费者能吃得放心，夜市管理部门在摊位管理、场地布置、食品卫生以及应急措施等方面，都做了严格的规定。 作为国家历史文化名城，正定是一座“有记忆的城市”，一砖一瓦都是文化，城墙街巷皆有故事。近年来，正定着力发展“夜经济”，打造文旅新名片，正定的夜晚总能带来惊喜。 但，这也恰恰是最细思恐极的地方↓ 智能体有“无心犯大错”的本事了。
十四 | 目前荣国府已经开放了赏花节夜场活动。花香满园，再加上实景演出、器乐演奏，营造出如梦如幻的红楼文化体验场景，让游客沉浸式体验“切换人生”。
十五 | 晚八点，游客可到南城楼欣赏正定古城的浪漫夜景。 它可以为了目标主动寻找资源、规划路径、调用工具、突破限制……能力边界发生了明显变化。 这次还好只是黑了个Hugging Face，下次说不定要鲨疯了。
十六 | OpenAI 也在官方报告中承认，未来模型安全工作的重点，将转向更严格的隔离、监控、访问控制以及评测机制。 因为前沿模型已经能够在真实环境中发现新的攻击路径，并持续执行复杂网络攻击。
十七 | 沿着青灰色的石阶登高而上，感受变幻莫测的灯光，体验“步步生莲”之感。
十八 | 当然，整个事件还有个最具话题性的部分：中国开源模型救场。 攻击被拦截后，Hugging Face 安全团队开始分析攻击日志，他们首先尝试使用商业大模型辅助取证。 但安全取证必须提交大量真实攻击命令、漏洞利用载荷以及命令控制（C2）数据。再绕城墙一周，看着五彩的古城，夜游之旅，多了一份自在。 伴随近来河北文旅集体发力“宠粉”，正定文旅也提升了许多服务。为切实提升旅游品质和游客体验感，正定县在南城门、阳和楼、广惠寺、荣国府等景区周边安装了18处直饮水景观亭，不仅有纯净水、温开水、热水，还提供休闲座椅、220V充电电源及USB充电接口等服务。 结果，商业模型的安全护栏将这些请求识别为高风险操作，因此拒绝分析。 最终，Hugging Face在自己的服务器部署了智谱GLM 5.2，对全部攻击日志进行了离线分析，成功完成攻击链重建和事件取证。
十九 | 在游客服务中心，免费热水、免费充电、图书借阅、紧急医药、共享轮椅、便民座椅、自助租用讲解器、门票售卖、咨询投诉等服务急游客之所急，既体贴又便捷……处处体现着正定的热情和诚意。 这个细节被真实记录在Hugging Face的博客里，估计智谱做梦也没想到，人在家中坐，饼从天上来，别人躺着中枪，它躺着中奖了。 有人调侃：攻击者用的是美国最先进的大模型，防守者最后用的是中国开源模型。
| 当然，这不代表GLM技术比老美的GPT、Claude们强，GLM做的也不是防住攻击，而是做溯源和取证。
| Hugging Face用智谱主要干了这些事↓ 重建完整攻击时间线； 提取攻击特征（IOC）； 梳理所有涉及的凭据； 区分真实攻击行为与迷惑性操作。 已经相当不错了，开源模型允许企业在本地环境完成更自由、更深入、更开放的使用，足以吊打那些闭源黑盒。
| 对于网络安全行业来说，本地部署和自主可控，也确实是一项核心能力，这不就是我们喜欢的叙事吗。 总结下，对于国内这两年相对惨淡的安全市场来说，这或许是个好事↓ 第一，AI红队与AI蓝队时代已经正式开始，未来，攻击方和防守方都会越来越多地使用AI，AI对抗的新市场会带来些商机，这是我们以前说的A面（AI for Security）。
| 第二，智能体安全将成为所有大模型厂商必须面对的新课题，未来真正需要防范的对象，除了对模型的攻击，还有模型自主行动带来更大风险，这是我们说的B面（Security of AI）。
| 第三，开源模型的价值又增加了一条，对于安全行业而言，可离线部署、可深度分析、可自主控制的能力，也许会成为新的竞争优势，当然，目前国内不少安全厂商的安全GPT，也是这么干的。 狼真来了，而且，对付狼的，竟然也是狼。 我们，与狼共舞呗。
Current article:http://6sp.runtunpaixufenjuduishuang.pics/list_mpdz/5ks47iw.html
Published on:12:58:23
