2026年9月15日,2026年人工智能大模型安全众测结果在国家网络安全宣传周人工智能安全治理论坛揭晓。活动共动员2467名白帽子,对国内25家AI厂商的54款大模型及智能体应用产品进行了漏洞测试,累计发现各类安全漏洞873个,其中大模型及智能体应用特有漏洞608个、传统漏洞265个。提示注入类漏洞仍是大模型最常见的安全风险,信息泄露类漏洞多发。本文从AI治理与安全视角解读。

提示注入:仍是大模型最普遍的风险

通报显示,提示注入(prompt injection)类漏洞普遍,仍是大模型最常见漏洞风险,主要通过构造特定输入直接或间接操纵模型行为、诱导其绕过安全限制执行恶意操作。例如模型把读取到的网页、文档等外部内容误当可信指令执行,即可造成提示注入。对开发大模型应用与Agent的团队,这是必须优先防护的AI安全威胁。

信息泄露与其他大模型特有风险

信息泄露类漏洞多发并存在较大安全风险,是仅次于提示注入的高频问题;此外被测出的大模型特有漏洞还包括越权、生成有害内容等在自主AI与智能体场景下的风险。这类风险共同说明,AI安全的评测与治理不能只依赖传统漏洞清单,而应针对模型与智能体特有行为建立专门的评估维度。

规模化的众测与AI安全治理实践

此次以2467名白帽子对54款产品进行众测、累计发现873个漏洞,是一次大规模的外部安全验证。它对AI安全治理的启示在于:把“白帽众测+第三方评测”纳入AI产品上线前的AI安全评估流程,有助于在真实使用场景中发现提示注入、信息泄露等隐性问题,并推动安全能力建设与治理共识的形成。

对AI安全与合规团队的启示

对构建大模型应用与Agent的企业,应把提示注入、信息泄露等典型风险纳入红队与上线检查清单,在Prompt输入边界、外部内容读取与敏感数据访问上强化控制;同时可结合官方通报的典型漏洞及应对建议,完善自身的AI监管合规与内部审计流程,提升对AI安全风险的体系化防范能力。

小结

《2026年人工智能大模型安全众测结果》于2026年9月15日发布,以873个安全漏洞、提示注入与信息泄露为高频风险为核心看点,是2026年9月AI治理与安全领域的重要实践与指引。

觉得有帮助?

联系我们,获取更多技术解决方案

免费咨询