新闻公告使用手机扫一扫查看
< 返回

大模型API曝推理信息泄露风险

2026-08-13 16:49 作者:数掘云算 阅读量:7

近期全球网络安全领域持续出现新的攻击方式与高危漏洞。从大模型 API 安全、Windows 零日漏洞,到容器逃逸、AI Agent 提示注入以及软件供应链攻击,AI 与传统网络基础设施之间的安全边界正在进一步交织。

以下为本期全球网络安全动态速览。

1. 大模型 API 安全缺陷或导致隐藏推理信息泄露

安全研究人员发现,部分大模型 API 的推理数据保护机制存在潜在风险。攻击者可能通过重放特定加密推理数据,并利用不同模型之间的处理差异,使原本不应对外暴露的内部推理信息被还原。

此类问题的危险之处不仅在于模型内部信息泄露。如果推理上下文中包含用户输入、身份凭据、个人信息或其他敏感数据,还可能进一步扩大数据泄露和提示注入攻击风险。

相关厂商已针对发现的问题进行修复。对于使用大模型 API 的企业而言,仍应避免在提示词、上下文及 Agent 工作流中直接传递长期有效的密钥和高敏感数据,同时加强模型调用链路的权限隔离。

2. Windows AFD.sys 零日漏洞遭 Lazarus 利用

Windows 内核安全再次受到关注。Lazarus 黑客组织被发现利用 Windows AFD.sys 中的零日漏洞实施攻击,并将其用于部署 FudModule Rootkit。

相关攻击与 Operation Dream Job 活动存在关联,攻击目标涉及国防等敏感领域。攻击者在获得初始访问权限后,可进一步利用内核漏洞提升权限,并借助 Rootkit 隐藏恶意活动。

微软已经发布对应安全修复。对于 Windows 企业环境,应尽快完成安全更新,并重点排查异常驱动加载、权限提升行为以及可疑内核级活动。

3. 网络安全专用AI模型进一步强化漏洞研究能力

面向网络安全场景的大模型正在快速发展,其在代码审计、漏洞定位、攻击路径分析和安全研究等方面的能力不断增强。

更强的网络安全模型可以帮助研究人员缩短漏洞分析周期,并提高复杂安全任务的自动化程度。但另一方面,这类能力同样可能降低高级漏洞研究和攻击技术的使用门槛。

随着 AI 开始深度参与漏洞挖掘与安全测试,模型权限控制、使用审计、沙箱隔离以及高风险能力治理将成为新的安全重点。

4. USB 自动安装机制可能成为 SYSTEM 权限突破口

研究人员针对 Windows 11 即插即用设备安装机制进行了安全研究,发现攻击者在特定条件下可以利用设备自动安装流程扩大权限。

攻击场景不仅可能涉及物理接入的恶意 USB 设备,还可能与远程桌面设备重定向等功能结合,最终形成 SYSTEM 级权限获取路径。

企业可通过限制设备安装策略、控制 USB 外设接入以及关闭非必要的远程设备重定向功能降低风险。对于终端数量较多的组织,还应通过统一策略限制未经授权的硬件设备。

5. CopyEscape漏洞威胁Docker宿主机安全

容器环境同样出现值得关注的安全风险。CopyEscape(CVE-2026-17106)可能使恶意容器突破原有隔离边界,并对宿主机文件产生影响。

一旦攻击者能够利用相关文件复制机制覆盖宿主机关键文件,风险可能从单个容器进一步扩展至整个宿主系统,严重情况下甚至获得 Root 级控制能力。

使用 Docker 及相关容器运行环境的企业应及时检查受影响版本并完成升级,同时减少容器不必要的宿主机权限以及敏感目录映射。

6. 制冷控制系统漏洞可能造成现实物理影响

针对 Copeland XWEB Pro 监控控制器的安全研究发现多个漏洞,其中部分问题可能允许未经认证的攻击者获得较高系统权限。

与传统信息系统漏洞不同,工业和环境控制设备一旦遭到攻击,其影响可能直接延伸至现实世界。例如攻击者可能干扰制冷设备运行,同时对监控数据进行操纵,使管理人员难以及时发现异常。

对于此类设备,应优先升级至安全版本,并避免直接暴露于互联网,通过网络隔离、访问控制和工业防火墙限制管理接口访问。

7. AI渗透测试正在带来新的“验证债务”

AI 可以快速生成大量漏洞候选结果,但漏洞发现效率提升并不意味着整体安全测试效率能够同步提高。

当 AI 在短时间内发现数十甚至数百个疑似漏洞后,安全团队仍需要人工判断漏洞是否真实存在、是否能够利用,以及实际业务影响有多大。

如果人工验证能力无法跟上 AI 发现漏洞的速度,就会形成新的“验证债务”。因此企业引入 AI 渗透测试平台时,不应只关注发现数量,还应评估误报率、验证成本以及与现有安全流程的协同能力。

8. LiteLLM供应链事件再次敲响依赖安全警钟

软件供应链攻击继续成为企业安全的重要威胁。LiteLLM 相关供应链安全事件显示,即使恶意软件包只存在较短时间,也可能通过自动化构建、依赖更新以及 CI/CD 流程迅速扩大影响范围。

AI 开发环境通常同时连接云平台、代码仓库、模型服务以及自动化部署系统,因此一旦核心依赖遭到污染,攻击者可能进一步接触云访问凭据、API Key、CI/CD Token 等敏感信息。

企业应加强依赖版本锁定、软件包来源验证和构建环境隔离。若确认使用过受影响版本,还应及时排查并轮换可能暴露的敏感凭据。

9. Adobe修复多个最高风险级别漏洞

Adobe近期针对 ColdFusion、Campaign Classic 等产品发布安全更新,其中涉及多个严重安全漏洞,部分漏洞风险评分达到 CVSS 10.0。

相关问题在特定情况下可能造成任意代码执行、权限提升等严重后果。对于仍在生产环境运行相关产品的组织,应根据官方安全公告确认受影响版本,并尽快安排补丁升级。

对于无法立即更新的业务系统,可临时通过网络访问限制、WAF策略以及管理端隔离等方式降低暴露面。

10. 恶意MCP服务器可利用碎片化指令诱导AI Agent泄密

随着 MCP 与 AI 编程 Agent 被大量应用,一种新的提示注入思路开始受到关注。

攻击者可以将完整恶意指令拆分成多个看似正常的内容片段,再通过不同上下文逐步传递给 AI Agent。当模型重新组合这些信息后,可能形成完整的恶意操作意图,从而诱导 Agent 读取环境变量、SSH 密钥、源代码或其他敏感数据。

这意味着 MCP Server 返回的内容不能天然被视为可信指令。对于具备文件读取、Shell 执行、代码仓库访问等权限的 AI Agent,应进一步实施工具权限最小化、敏感操作确认以及外部内容与系统指令隔离。

优质安全技术文章

Godzilla FileManager HTML渲染问题可能触发外部资源加载

相关研究针对 Godzilla FileManager JTable 的 HTML 内容处理机制展开分析。当恶意文件名未经充分过滤直接进入客户端渲染流程时,可能触发外部资源请求,并在用户几乎没有交互的情况下造成部分环境信息泄露。

从防御角度看,应对文件名等外部输入进行严格转义,同时避免在不必要的组件中启用 HTML 自动渲染能力。

小程序登录接口仍是安全测试高频风险点

小程序安全问题仍主要集中在身份认证、敏感信息暴露、调试接口以及弱口令等环节。

部分案例显示,错误的客户端设计可能导致 appsecret、session_key 等敏感参数暴露,而遗留调试接口甚至可能形成绕过正常认证流程的入口。

开发团队应避免在客户端保存长期敏感凭据,同时在正式发布前关闭测试接口,并对登录、授权、Token管理和用户数据访问权限进行专项审计。

AGENTS.md配置投毒扩大AI编程助手攻击面

AI 编程工具正在引入一种新的软件供应链风险:项目仓库中的配置文件本身可能成为攻击载体。

攻击者可以将恶意指令隐藏在 AGENTS.md 等智能体规则文件中。当开发人员使用具备较高系统权限的 AI 编程助手打开恶意项目后,Agent可能读取这些规则并将其作为任务上下文的一部分。

如果智能体同时具备终端执行、文件读取和网络访问能力,风险就可能从单纯的提示注入进一步升级至凭据泄露甚至主机权限失陷。

随着 AI Agent 深度进入开发、运维和安全工作流,未来企业需要保护的不只是代码和依赖包,还包括能够影响智能体行为的规则文件、MCP服务器、工具调用权限以及上下文数据。

安全趋势观察: AI 正同时成为安全能力的放大器和新的攻击入口。传统的漏洞修复、补丁管理与供应链治理仍然重要,但围绕模型上下文、Agent权限、MCP信任边界以及AI开发工具配置文件的新型攻击面,也正在成为企业安全体系必须覆盖的部分。

  • 上一篇:没有了
  • 上一篇:AI模型安全、KVM逃逸、0Day漏洞集中爆发
  • 联系我们
    返回顶部