大模型备案材料需要提交《安全评估报告》,天磊卫士具备大模型安全评估能力
2026-11-17
来源:天磊卫士
先说结论:大模型备案看的是材料,材料里的核心是那份《安全评估报告》。它决定了这次申报是 “交上去等消息”,还是 “交上去被退回”。
一、备案为什么绕不开这份报告
按《生成式人工智能服务管理暂行办法》,面向境内公众提供生成式人工智能服务、具有舆论属性或社会动员能力的,要按规定开展安全评估并履行备案手续。实际操作中,属地网信部门受理时看到的是一套材料:上线备案表、安全评估报告、语料来源与标注情况说明、内容安全管理制度与应急处置预案、关键词库与测试题库清单等。
其中《安全评估报告》分量比较重,因为它要回答一个具体问题:你这个模型,在语料、模型本身、生成内容、技术措施四个层面,凭什么判断风险可控。它不是自己给自己写评语,而是把可验证的东西摆清楚。审阅报告的人通常会顺着文字去找对应证据:关键词库在哪里、题库有多少题、日志留存多久、抽测怎么抽的、样本量多大。
二、这份报告一般写哪几块
第一块,语料安全。语料从哪里来,自采、开源、采购还是用户数据;来源是否合法,有没有侵权或授权瑕疵;语料里是否包含违法不良信息,怎么过滤;涉及个人信息、敏感个人信息的部分怎么处理;标注规则是否区分功能性与安全性,安全性标注是否全量人工审核,标注人员怎么管理。这一块是很多企业准备得比较粗的地方。
第二块,模型安全。基础模型是自研、开源还是第三方,来源是否可追溯;是否做过安全微调、用什么数据微调;有没有做后门存在性检测与处置;模型更新、升级、版本发布的安全管理机制。
第三块,安全措施。这是最能体现 “有没有真东西” 的部分:关键词库的规模、覆盖的风险类型、更新频次;生成内容测试题库的题量与风险覆盖;应拒答与非拒答题库;分类模型的用途;内容审核与处置流程、人工复核机制;日志留存与审计;应急处置预案;投诉举报渠道;终端侧如果有安全模块,也要写。
第四块,评估过程与数据。抽测怎么抽、抽多少、判定标准是什么。国标 GB/T 45654-2025 给了一套参考口径:人工抽检与技术抽检各不少于 1000 条;应拒答与非拒答题库各抽不少于 300 条;生成内容合格率不低于 90%;应拒答题拒答率不低于 95%;非拒答题拒答率不高于 5%。这些数字写进报告,意味着要能复现 —— 复测时对不上,比不写更麻烦。
第五块,结论与整改。哪些项达标、哪些项存在差距、整改计划与完成时限。审阅方通常不要求一份 “全绿” 的报告,但不接受一份 “没有问题、也没有证据” 的报告。
三、三类常见问题
一是写成技术白皮书。大篇幅讲架构、讲参数、讲创新点,却没有题库清单、没有抽测记录、没有日志样例。技术写得再漂亮,也补不上证据的缺口。
二是套模板。语料规模、风险覆盖、处置流程与实际系统对不上,换个模型就失效。这类报告在第一轮初审里比较容易露出破绽。
三是数据没有出处。合格率写得很漂亮,但抽样方法、样本量、判定规则说不清。评估不是看数字高低,是看数字怎么来的。
四、报告之外,还要配这些
上线备案表、模型服务协议与用户协议、语料来源与标注情况说明、内容安全管理制度、应急处置预案、关键词库与测试题库清单;涉及算法推荐或深度合成的,还要对应算法备案;模型后续有重要更新、功能变更的,要按属地要求做复测或变更报备。涉及拟人化互动、未成年人相关服务的,安全评估的关注点还会更细,比如情感依赖干预、使用时长提醒、未成年人模式的落实情况。
五、天磊卫士:把评估做成 "能对得上" 的一件事
天磊卫士(深圳)科技有限公司长期做网络安全与 AI 合规服务,服务过的企业客户累计10000 家以上,团队有多年行业积累。公司持有 CCRC、CNAS、CMA、CNITSEC、ISO、人工智能管理体系认证等多项合规资质,覆盖信息安全服务、检验检测、实验室认可、管理体系与 AI 治理几个方向。这些资质反映的是机构在检测能力、服务质量与治理体系上的积累,可以作为筛选时的参考项。
大模型安全评估这块,我们的做法是先 "对账" 再接单。第一步做预评估,把语料、模型、安全措施、输出内容四项逐一过一遍,出一份差距清单,写清哪些能直接写、哪些需要补系统、哪些指标现在跑不到。第二步补能力,包括关键词库与三套题库建设、拒答策略调优、分类与审核流程、日志与审计、应急处置预案,必要时配合部署安全围栏,让技术措施真的跑在链路上。第三步出报告与自测,抽测方法与样本量按标准口径做,指标能复现,附件能对应。第四步配合申报与补正,把属地反馈的问题定位到具体章节,而不是整篇重写。
天磊卫士相关业务还包括:算法备案、大模型备案、大模型登记的适用判断、材料梳理与申报陪同;等保测评及差距评估与整改、渗透测试、漏洞扫描;软件产品与源代码检测;App 安全检测。
六、结语
《安全评估报告》不是一篇作文,而是一份证据清单。写得好的报告,翻到任何一页都能找到对应的系统、日志或题库;写不好的报告,通篇都是形容词。


