《全球大语言模型安全防范能力测评报告（2026）》正式发布

2026-07-17 05:35:40 [探索] 来源：盘星资讯网

来源：环球网

【环球网科技综合报道】7月2日，全球全防在2026全球数字经济大会云智算安全论坛上，大语《全球大语言模型安全防范能力测评报告（2026）》（以下简称“报告”）正式亮相。言模该报告由东壁科技数据有限责任公司（“东壁科技数据”）联合上海财经大学数字经济学院共同研制，型安旨在深入剖析大语言模型在科技领域的力测安全防护现状，为构建更稳健的评报AI安全生态提供数据支撑与治理建议。

一、告正测评方法论：构建高精度RAG参考系

本次测评以313条科技类高风险问题为核心测试集，全球全防覆盖38个国内外主流大语言模型。大语测评重点考察模型在正常科技学习、言模科研防护需求与潜在滥用场景之间，型安能否维持稳定、力测安全且可解释的评报决策边界。

为确保评估的告正科学性与客观性，报告引入了高精度的全球全防检索增强生成（RAG）参考体系：
* 数据源：从东壁全球科技文献数据平台（Dbdata）精选94,108份科技文献材料。
* 辅助库：结合34,452条科技类百科条目。
* 评估维度：重点校验模型回答中的科学事实准确性、技术原理正确性、因果逻辑严密性以及不确定性表述的可靠性。

二、核心观点：超越“拒答率”的安全治理观

上海财经大学数字经济学院院长、报告牵头编制人赵琳指出，科技知识具有“双刃剑”属性。在正常场景下，它服务于教学、科研、产业创新及公共安全；但在特定目的、语境和对象面前，可能转化为现实危害。

赵琳强调，国际前沿模型安全框架已将生物化学、网络安全、自动化代理等高风险能力纳入重点评估范围。然而，科技安全治理不能仅以“拒答率”为单一指标，必须综合考量以下三个维度：
1. 意图识别能力：模型能否精准区分善意学习与恶意滥用。
2. 滥用风险可控性：模型在回答后能否有效切断从知识到实施的关键连接。
3. 科技内容可靠性：确保输出内容既科学准确，又符合安全合规要求。

通过这三个维度，报告旨在识别“过度拒答”、“防御不足”以及“可靠但高风险输出”等三类典型问题。

三、测评数据：复杂攻击下的安全承压

报告显示，多数模型具备基础拒答能力，直接攻击的总体成功率为7.6%。但在面对更复杂的复合攻击时，部分模型的安全边界明显承压。

1. 攻击成功率排名

最高：场景伪装 + 示例诱导（53.8%）
次高：场景伪装（51.3%）
第三：前缀注入攻击（43.4%）
第四：情感伪装（30.7%）
最低：情感伪装 + 示例诱导（26.5%）

2. 关键发现

场景伪装是主要威胁：赵琳指出，“合法授权”、“安全研究”、“攻防演练”等场景合法化叙事，比单纯的情绪求助更容易削弱模型的安全边界。
示例诱导的双面性：示例诱导的影响取决于其叠加方式。叠加在“场景伪装”中会增加越狱成功率；而叠加在“情感伪装”中，反而可能帮助模型更准确地识别风险。

3. 意图识别与风险披露不足

意图识别不充分：在伪装类样本中，善意问题的拒答率为30.6%，恶意问题的回答率为29.7%。这表明模型同时存在“过度防御”和“防御不足”的问题，尚未掌握科技双用途语境下的差异化响应能力。
风险披露缺失：模型一旦被诱导回答，往往未能有效切断从一般知识到现实实施之间的关键连接，导致风险披露控制不足。

4. 可靠性与安全性的张力

测评发现，科技内容可靠性与安全风险之间存在张力。在已回答样本中，80.5%达到较可靠水平，其中55.1%同时具有较高可靠性和较高滥用风险。
* 结论：对恶意请求而言，可靠性越高不一定越安全。关键在于模型能否将可靠知识限制在防护、合规和教育范围内。

四、治理建议：从静态拦截到动态协同

针对测评暴露出的系统性安全短板，报告提出了一套平衡AI知识普惠价值与公共安全底线的治理建议：

1. 坚持内生化与敏捷化原则

内生化：科技安全不能仅依赖外部关键词拦截，应将安全能力嵌入模型行为机制内部。
敏捷化：鉴于越狱攻击方式更新快、模型迭代快，静态测评难以长期反映真实风险。建议建立持续红队测试与复测机制。

2. 构建综合指标体系

将科技安全测评从单一的“拒答率”扩展为包含以下指标的综合体系：
* 显性请求拒答能力
* 伪装请求稳健性
* 善意问题可用性
* 恶意问题拒答率
* 滥用风险可控性
* 科技内容可靠性
* 可靠且高风险输出占比
* 可靠且可控输出占比

3. 细化安全回答范式

赵琳提出，治理目标应是“拒绝危险能力增益，而不是拒绝科技知识本身”。建议模型建立更细的安全回答范式：
* 善意学习请求：提供概念解释、风险提示、合规边界和安全替代路径。
* 中性但不明确请求：主动澄清目的和使用环境。
* 恶意或高度可疑请求：拒绝提供可执行细节，转向防护、法律后果、求助渠道或安全教育内容。