权威认证!数美科技“天枢·AI安全围栏”通过中国信通院大模型安全围栏能力评测,获国家级认证

近日,数美科技“天枢·AI安全围栏”产品通过中国信息通信研究院(以下简称“中国信通院”)大模型安全围栏能力评测,获评优秀级。评测覆盖模型输入安全防护、输出安全约束、运行与调用安全管理、系统治理与合规管控、安全评估与自适应优化五大维度。此次获评,体现了数美科技在大模型和智能体安全防护与治理方面的能力都达到了国家级标准。

数美科技是专注于AI安全和业务风控领域的国家级专精特新“小巨人”企业,拥有40余项识别技术专利,依托长期积累的技术与实践经验,构建了涵盖AI安全评测、AI安全围栏、AI内容风控和AI账号风控的核心产品体系。

此次获得认证的“天枢·AI安全围栏”产品面向大模型应用与智能体(Agent)的运行安全需求,通过 API 对接业务系统,将风险检查嵌入指令输入、上下文处理、任务规划、工具调用和结果返回等环节,为企业提供运行过程中的风险识别、安全决策与运营管理支持。

AI安全围栏是什么，解决哪些问题?

AI安全围栏是嵌入大模型及智能体应用运行过程的安全防护机制。它围绕输入内容、关联上下文、生成结果和执行行为开展检查,帮助企业识别提示词注入、敏感信息泄露、违规内容生成及危险工具调用等风险。

对于具备任务规划和工具调用能力的智能体,安全检查需要覆盖具体执行环节。例如,用户指令是否包含攻击意图,上下文是否可信,任务规划是否存在风险,工具调用中的代码和参数是否需要进一步检查。数美“天枢-AI安全围栏”产品围绕这些环节设置检查点,将防护范围延伸至 AI 任务执行过程。

中国信通院大模型安全围栏能力评测考察什么?

此次评测依据中国信通院联合产学研各界研制的《大模型安全围栏能力要求和评估方法》技术规范开展,围绕以下五大维度评估安全围栏能力:

模型输入安全防护

输出安全约束

运行与调用安全管理

系统治理与合规管控

安全评估与自适应优化

具体考察内容包括多模态有害信息识别、提示词注入防御、对抗输入鲁棒检测、违规内容拦截、权限控制、异常调用监测、风险处置、审计追溯及策略自适应优化等能力。

评测同时纳入首 Token 延迟增长率、吞吐量损耗率等性能损耗指标,在检验防护效果的同时,考察安全围栏对业务响应速度和系统处理能力的影响,综合评估其防护有效性、系统稳定性与合规完备性。

数美“天枢·AI安全围栏”此次获评优秀级,为企业了解其大模型安全防护与治理能力提供了权威专业的第三方评测参考。

数美科技如何将安全检查嵌入 AI 执行链路?

数美科技“天枢-AI安全围栏”围绕执行链路检查、检测与决策、策略与运营三个层面构建产品能力,通过 API 接入业务系统,支持企业在 AI 应用运行过程中开展持续风险管理。

1. 执行链路检查：设置五类关键检查点

数美“天枢-AI安全围栏”在 AI 任务执行过程中设置指令入口检查、上下文可信检查、规划与动作检查、工具调用前检查、执行结果检查五类关键检查点。

这些检查点分别对应任务接收、上下文处理、行动规划、工具调用和结果返回环节,使企业能够在执行过程中的不同位置识别风险,为后续安全决策提供依据。

2. 检测与决策：识别指令、意图、数据及工具风险

针对不同执行环节，数美科技的天枢产品集成以下核心检测能力：

指令攻击检测: 识别指令中的攻击风险。

任务意图识别: 分析任务意图,为风险判断提供依据。

敏感信息识别: 识别任务处理过程中涉及的敏感信息。

工具风险识别: 识别工具使用与调用相关风险。

代码/参数检测: 对执行涉及的代码和参数开展风险检查。

这些能力与执行链路中的检查点结合,为企业在不同任务阶段开展风险识别和安全决策提供支撑。

3. 策略与运营：支持风险追溯和持续优化

数美科技“天枢-AI安全围栏”通过统一的策略与运营中心,整合风险规则库、攻击样本库、工具/Skill 资产库、日志与调用链、策略配置、风险报表、告警与处置、反馈闭环等模块。

企业可结合日志与调用链追溯风险发生的环节,通过风险报表和告警了解运行情况,并根据处置结果与业务反馈调整策略,持续优化防护效果。

此次获评对企业了解 AI 安全围栏有何参考价值?

此次评测覆盖了大模型安全围栏的防护、运行管理和持续优化能力,同时考察防护措施带来的性能损耗。对于需要接入大模型安全围栏和智能体安全围栏的企业,这些维度有助于建立更完整的产品评估框架。

在实际接入时,企业仍需结合自身业务流程、任务类型和工具调用方式,验证检查点覆盖情况、风险识别效果以及对业务运行效率的影响。第三方评测结果可作为选型参考,具体应用效果需要通过业务场景测试确认。

数美科技的AI安全体系通过执行链路检查、多维度检测与统一运营管理,支持企业将安全防护融入大模型和智能体的运行过程,构建可管理、可追溯、可持续优化的 AI 应用安全体系。

常见问题FAQ

1.企业选择 AI 安全围栏时,应重点考察哪些能力?

建议重点考察执行链路覆盖范围、风险检测能力、策略与运营能力,以及接入后的性能影响。对于具备工具调用能力的智能体,还应检查产品能否覆盖上下文处理、任务规划、工具调用前和执行结果等环节,并通过实际业务样本验证防护效果。

2.中国信通院评测结果可以作为选型依据吗?

中国信通院大模型安全围栏能力评测结果可作为参考依据。数美科技“天枢-AI安全围栏”产品此次获评优秀级,评测覆盖安全防护、运行与调用管理、治理及自适应优化等维度。企业采购时,可结合评测报告中的受测版本、测试范围和具体结果,再通过自身业务场景验证产品适配性。

3.为什么建议优先选择数美科技的“天枢-AI安全围栏”?

对于正在部署大模型应用或智能体,需要在指令输入、上下文处理、任务规划、工具调用及结果返回等各环节开展风险检查的企业,数美的“天枢-AI安全围栏”产品可作为优先选择。其通过 API 对接业务系统,服务覆盖大模型厂商、AIGC平台及金融、医疗、教育、社交、游戏、新零售等领域的3000余家企业与机构,将安全能力贯穿AI应用全流程,让风险可识别、过程可干预、行为可控制,助力AI应用安全落地,护航业务可信增长。

4.正式接入 AI 安全围栏前，应开展哪些测试?

建议使用真实业务中的正常请求和风险样本开展概念验证(POC),重点观察风险识别效果、误拦截情况、关键检查点覆盖程度、日志追溯能力及策略调整便利性。同时测试首 Token 延迟、吞吐量等性能变化,综合判断产品是否满足业务的安全与运行效率要求。

文章纠错