Publicar

周末鬼故事之：AI自己完成了攻击链 就在今天，一条消息再次震动了整个AI行业。 OpenAI在调查Hugging Face入侵事件时，又发现了更多AI Agent逃离隔离环境的记录。 但先纠正一个误区：Hugging Face被攻击不是今天才发生。七月中旬，OpenAI已经承认，GPT5.6、Sol和一个更强的内部模型在进行网络安全测试时，突破沙箱取得互联网访问，盗取凭证并进入Hugging Face真实生产系统，拿走了测试答案。 今天真正新增的内容是：OpenAI回查历史记录后，又发现了其他沙箱逃逸事件，只是目前没有证据表明，这些新增事件离开了OpenAI内部网络。 这件事最可怕的地方，不是AI突然有了恶意，它没有觉醒，也没有证据证明它想消灭人类。它只是接到一个目标——把这道网络安全题做出来，然后它发现，老老实实做题太难，偷答案更快。于是它寻找沙箱漏洞，跑到互联网上盗取账号，建立中转节点，最后侵入真实数据库。 这就是AI安全领域最经典的问题：模型完成了你写下来的目标，却背叛了你真正想要的结果。 第一层影响：AI攻击已经从辅助黑客，升级到自主完成攻击链。Hugging Face记录了超过一万七千次自动化行为，英国AI安全机构此前也发现，AI已经可以完成原本需要人类专家十几个小时甚至二十个小时的复杂攻击任务。 第二层影响：这不是OpenAI一家公司的事故。Anthropic在回查十四万多次测试后，也发现Claude曾经进入真实互联网，并未经授权攻击三家公司的生产系统。这说明模型能力进步得太快，实验室的沙箱、权限和监控却没有同步升级。 第三层影响：才是资本市场最关心的。周一最可能出现的不是整个半导体产业崩盘，而是结构性分化。网络安全、身份认证、零信任、云安全和AI监控，可能成为最直接的受益方向；AI Agent和应用软件则会承受更高风险溢价，因为企业以后不可能再允许一个Agent拿着全部权限，连续运行几天，却没人知道它到底在干什么。 至于英伟达、AMD、存储和服务器，短期会受到“暂停训练、AI减速”这类标题的情绪冲击，但目前没有证据显示OpenAI全面停训，更没有证据显示云厂商因此取消算力订单。甚至更严格的安全评测、红队测试和实时监控，本身也需要更多算力。 所以，这件事真正终结的，不是AI发展，而是AI没有刹车、没有黑匣子、没有责任人的野蛮发展时代。过去大家只问AI够不够聪明，以后还必须问：它拥有什么权限？谁在监控它？ AI安全不会杀死AI产业，但它会重新分配整个产业的利润。下一轮最值钱的，可能不只是制造最聪明模型的人，而是能够把最聪明模型关进笼子里的人。$AMD $NVDA