
很多在做大模型备案的朋友，几乎都会被同一批材料卡住——除了看似简单的**拦截关键词列表（附件4）**&zwj;，还有一份更考验专业功底的**语料安全评估报告（附件3）**&zwj;。

大家常有的困惑：
- "拦截关键词列表不就是一堆敏感词吗？网上抄几千个行不行？"
- "为什么偏偏是10000个？少一个会不会被退回？"
- "语料安全评估到底评估什么？是逐条看每条训练数据吗？"
- "关键词库和语料过滤，这两件事到底什么关系？"

这篇文章把**拦截关键词列表**与**语料安全评估**两件事串起来讲透，告诉你它们在备案里各自的分工、硬性指标和搭建/撰写方法论。

## 一、先说结论：这两份材料各管什么？

在《生成式人工智能服务管理暂行办法》和《生成式人工智能服务安全基本要求》中，**拦截关键词列表**与**语料安全评估**都是大模型上线备案的必备材料。

简单说，它们是一前一后两道防线：
- **拦截关键词列表（附件4）**&zwj;：管"生成端"，防止模型生成违法违规或不当内容；
- **语料安全评估（附件3）**&zwj;：管"输入端"，确保喂给模型的训练数据本身干净合规。

一个管"进"，一个管"出"，合起来才是完整的内容安全闭环。

## 二、第一部分：拦截关键词列表为什么要求不少于10000个？


### 2.1 四个硬性数字门槛
这些要求来自《生成式人工智能服务安全基本要求》（TC260 发布）。
![在这里插入图片描述](https://developer.qcloudimg.com/http-save/yehe-11870562/51a1672cf4123736f79ce9eb07716dbc.png)


**① 总规模：不小于 10000 个**
拦截关键词库的总规模**不应少于 10000 个**。官方措辞是"总规模不宜少于10000个"或"不应少于10000个"。

**② 覆盖范围：至少覆盖 A.1 + A.2 共 17 种安全风险**
关键词库应具有代表性，应至少包含附录 A.1 以及 A.2 共 17 种安全风险的关键词。A.1 与 A.2 是附录 A 中的两大安全风险分类。

**③ 分档要求：A.1 每类 ≥200 个，A.2 每类 ≥100 个**
- A.1 中每种风险关键词均不宜少于 200 个；
- A.2 中每种风险关键词均不宜少于 100 个。

只堆总数不行，每一类风险都要分配到足够词量。

**④ 单个关键词长度与更新频率**
- 单个关键词一般不超过 10 个汉字或 5 个其他语言单词；
- 按网络安全实际需要及时更新，每周至少更新一次。

### 2.2 一张表看懂所有硬性要求

| 门槛项 | 硬性要求 | 依据 |
|-------|---------|------|
| 关键词库总规模 | 不应少于 10000 个 | 《安全基本要求》 |
| 覆盖风险范围 | 至少覆盖 A.1+A.2 共 17 种 | 同上 |
| A.1 每种风险关键词 | 不宜少于 200 个 | 同上 |
| A.2 每种风险关键词 | 不宜少于 100 个 | 同上 |
| 单个关键词长度 | ≤10 汉字 或 ≤5 单词 | 同上 |
| 更新频率 | 每周至少一次 | 《安全评估参考要点》 |

### 2.3 为什么要10000个？三层安全逻辑

**① 覆盖隐性风险（全面性）**&zwj;：同一风险点可有成千上万种表达、谐音、变体，只有量级足够才能"地毯式"覆盖。

**② 支撑分类模型训练（代表性）**&zwj;：分类模型用于训练语料内容过滤、生成内容安全评估，应完整覆盖附录 A 全部 31 种安全风险。关键词库是训练这类过滤模型的语料基础。

**③ 与拒答测试联动（动态防线）**&zwj;：模型对拒答测试题拒答率应 ≥95%，对非拒答测试题拒答率应 ≤5%。关键词库是支撑"应拒答"的第一道防线。

### 2.4 17 种 vs 31 种，别再搞混

| 数字 | 对应风险类型 | 用途 |
|------|------------|------|
| 17 种 | 附录 A.1+A.2 | 拦截关键词库必须覆盖 |
| 31 种 | 附录 A 全部 | 分类模型、评估测试题库须完整覆盖 |

## 三、第二部分：语料安全评估到底评估什么？

如果说关键词列表是"出"的防线，语料安全评估就是"进"的第一道关——它评估训练所用语料是否合规、干净。

### 3.1 语料怎么来的？先过"来源核验"关

《安全基本要求》对语料来源有明确要求，核心是"不得使用违反规定、来源不明的数据"。具体来说：
- 来源合法合规、可追溯；
- 不包含非法内容，如涉政、涉黄、涉暴等；
- 去除重复与低质信息，保证语料代表性；
- 对境外来源语料，更要加强审核，防止夹带违规内容。

### 3.2 语料安全评估的三大维度

在备案的安全评估报告（附件2）中，语料评估是三大支柱之一。整体结构是"语料评估 + 模型评估 + 安全措施评估"。其中语料部分重点看：

**① 语料内容安全检测**：建立语料分类过滤机制，对文本、图片、音频、视频等多模态语料分别做过滤，配黑名单、白名单机制。

**② 语料标注质量**：语料标注规则（附件3）要写清：标注团队介绍、标注细则、标注流程。标注不只是打标签，而是建立可复核的规范。

**③ 语料规模与算力可核查**：备案表的"模型研制"部分需说明训练算力资源、语料来源与规模、语料合法性，要经得起核查。

### 3.3 语料过滤与拦截关键词的关系（重点！）

两者共享同一套风险分类逻辑：
- 训练语料的内容过滤，用的正是附录 A 中 31 种安全风险作为分类模型的目标；
- 拦截关键词库覆盖的 17 种风险（A.1+A.2）正是这套分类里最核心、最高发的部分；
- 也就是说，语料过滤里搭的分类模型，和备案要交的拦截关键词库，本质是在同一张风险地图下做的两件事——一个净化"进的数据"，一个拦截"出的内容"。

所以建议企业把这两份材料放在一起规划：同一套风险分类目录，同时用于语料标注规则、内容过滤分类模型、以及拦截关键词库的搭建。

## 四、实战方法论：关键词库 + 语料评估一起搭

### 4.1 拦截关键词列表搭建五步
1. 按 A.1 与 A.2 分类建目录，为 17 种风险各自建分类；
2. 按分档配额填充，A.1 每类 ≥200 个、A.2 每类 ≥100 个，再扩到 10000+；
3. 控制单个关键词长度 ≤10 汉字或 5 单词；
4. 建立更新机制，每周至少更新一次；
5. 与分类模型、题库联动，纳入整套 AIGC 内容安全体系。

### 4.2 语料安全评估准备三步
1. 建语料分类过滤机制，按附录 A 的 31 种风险对语料做多模态过滤，配黑名单/白名单；
2. 写好语料标注规则，讲清团队、细则、流程三件套；
3. 如实填报语料规模与算力，训练算力资源、语料来源与规模、语料合法性写清楚。

### 4.3 一句话记住分工

> 语料安全评估管"喂进去的数据干净"，拦截关键词列表管"吐出来的内容安全"。两者共用附录 A 风险分类这一张"安全地图"。

## 五、常见疑问 FAQ

**Q1：关键词库能少于10000个吗？** 不能，是硬性要求。
**Q2：A.1 和 A.2 什么区别？** 附录 A 两大风险分类，合计 17 种。
**Q3：能只堆一类风险的关键词吗？** 不行，每类都要达标。
**Q4：关键词库要定期更新吗？** 要，每周至少一次。
**Q5：语料必须每条都人工看吗？** 不需要逐条人工，但要有分类过滤机制 + 标注规则 + 来源核验。
**Q6：关键词库和语料过滤有什么关系？** 共用附录 A 风险分类，一个管"出"一个管"进"，建议一起规划。

## 六、总结

> 大模型备案的双保险 = 拦截关键词列表（管"出"，覆盖A.1+A.2共17种风险、总量≥10000个、A.1每类≥200/A.2每类≥100、每周更新）+ 语料安全评估（管"进"，来源合法、多模态过滤、标注规范、规模如实）。两者共用附录A风险分类这一张安全地图，建议放在一起规划，一次搭好，双双过关。

---


很多在做大模型备案的朋友，几乎都会被同一批材料卡住——除了看似简单的拦截关键词列表（附件4）‍，还有一份更考验专业功底的语料安全评估报告（附件3）‍。

被忽略的"拦截关键词列表"＋语料安全评估：大模型备案如何双保险过关？

人工智能

新闻资讯

安全

大模型备案核心材料中，拦截关键词列表（附件4）与语料安全评估（附件3）构成进与出的双重防线。前者管生成端，要求总量不少于10000个，覆盖A.1+A.2共17种风险，A.1每类≥200个、A.2每类≥100个，每周更新；后者管输入端，需确保语料来源合法、多模态过滤、标注规范。两者共用附录A风险分类，建议统筹规划。

2026上云采购 | AI焕新·智启新局

gasfcs

文章

问答

视频

教程

学习中心

腾讯云实验室

直播

竞赛

腾讯云代码分析专区

腾讯iOA零信任安全管理系统专区

腾讯云架构师技术同盟交流圈

腾讯云数据库专区

腾讯云智能顾问专区

腾讯云原生专区

腾讯混元专区

腾讯云TCE专区

腾讯云Lighthouse专区

腾讯云HAI专区

腾讯云Edgeone专区

腾讯云存储专区

腾讯云智能专区

腾讯轻联专区 

腾讯云开发专区

TAPD专区

腾讯轻量云游戏服专区

EdgeOne AI 安全实战专区

腾讯云最具价值专家

腾讯云架构师技术同盟

腾讯云创作之星

腾讯云开发者先锋

腾讯云代码助手

云原生构建

TAPD 敏捷项目管理

Cloud Studio

SDK中心

API中心

命令行工具

涵盖代码开发、场景应用、自动测试全流程，助你从零构建专属AI助手

一站式MCP教程库，解锁AI应用新玩法

聚焦“写作效率、视觉美观与运行性能”三方面进行全面升级，为您提供更高效、稳定的创作环境

社区富文本&Markdown编辑器全新改版上线，欢迎大家体验!

诚挚邀请您参与本次调研，分享您的真实使用感受与建议。您的反馈至关重要，感谢您的支持与参与！

社区新版编辑器体验调研

被忽略的"拦截关键词列表"＋语料安全评估：大模型备案如何双保险过关？-腾讯云开发者社区-腾讯云

被忽略的"拦截关键词列表"＋语料安全评估：大模型备案如何双保险过关？

被忽略的"拦截关键词列表"＋语料安全评估：大模型备案如何双保险过关？

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐