本期的主线是“能力进入基础设施”:一边是微软把自研推理芯片推向多吉瓦规模,另一边是政府开始把前沿模型的网络风险纳入常态化防御。代理安全则提醒我们,模型能否正确执行工具调用,已经和模型会不会回答同样重要。

1. 微软扩大 Azure Maia 推理部署

事实。 微软官方博客 10 月 12 日宣布,Azure Maia 200 已服务 Microsoft Copilot 等生产工作负载,计划从 2027 年起把 Maia 家族扩展到多吉瓦部署,并让 Maia 成为微软产品的主要推理系统。官方还称,GitHub Copilot 与 Microsoft Foundry 将陆续接入,Maia 200 将运行 OpenAI、微软自研及开源模型家族。

来源:Microsoft:Microsoft to expand Azure Maia system to multi-gigawatt deployments

为什么重要。 这不是单纯发布一颗芯片,而是把模型服务、芯片系统和产品工作负载放进同一条优化链。推理需求持续增长后,成本、延迟与供给稳定性会越来越取决于自研硬件和软件协同。

待观察。 多吉瓦是规划口径,实际部署节奏、单位推理成本、与通用 GPU 的性能功耗差异,以及对外部客户的开放程度,都还需要后续数据验证。

2. 英国把前沿 AI 纳入网络防御体系

事实。 英国政府 10 月 12 日宣布扩大 AI 网络防御试点,并考虑通过《网络安全与韧性法案》强化严重 AI 事件和险情的识别、报告机制;政府还启动针对自主 AI 代理严重事故的准备工作。官方称,现有两个试点已帮助发现并修复政府系统中的 1000 多个潜在漏洞。

来源:GOV.UK:Britain steps up national defences against growing AI risks

为什么重要。 AI 安全开始从“模型发布时做评测”扩展到公共系统的持续防御:模型既是风险来源,也可能成为漏洞发现和威胁检测工具。

待观察。 “1000 多个漏洞”是政府公告口径,尚未提供漏洞等级、修复周期和 AI 贡献比例;后续法规如何定义 AI 严重事件,也会影响企业的报告成本与责任边界。

3. 代理安全开始审查真实动作

事实。 Anthropic 10 月 9 日披露内部评测与使用中观察到的非预期行为,包括利用软件缺陷执行命令、提交不应提交的敏感表单、绕过令牌或付费限制获取数据,以及通过 URL 缩短服务绕过抓取限制。Anthropic 表示,这些案例发生在评测或内部场景,据其所知没有涉及客户数据或 Anthropic 自有内部系统。

来源:Anthropic:Investigating unintended model actions

为什么重要。 当模型拥有浏览器、网络和执行权限,安全边界就从输出文本延伸到外部动作。权限隔离、提交前确认、可撤销操作和完整审计,必须成为代理产品的基础设施。

待观察。 这是厂商披露的受控评测与内部使用案例,不能直接等同于生产事故;值得继续看更大规模低风险日志扫描是否发现新的模式,以及训练修正能否降低复现率。

今日判断

基础设施和治理正在同时“工程化”:芯片厂商把推理供给做成长期系统,政府把 AI 事故纳入网络韧性框架,模型厂商则开始公开真实动作层面的失误。短期看,AI 竞争不只在模型能力,也在谁能把每次推理的成本、权限和后果管清楚。