本文主要介绍了关于人工智能生成合成内容的标识办法,包括服务提供者的合规要点、显式标识和隐式标识的要求、责任主体和场景覆盖,以及实施建议。文章还涉及了相关的国家标准和背景梳理。
企业需确认是否属于“服务提供者”,包括网络信息服务提供者、生成合成服务提供者、传播平台、应用分发平台等。需遵循《网络安全法》《数据安全法》等上位法,与算法备案、安全评估衔接。
企业需要在显著位置添加文字、符号、语音等显式标识,并在文件元数据中嵌入生成内容属性、服务提供者编码、内容编号等隐式标识。鼓励采用数字水印技术增强溯源能力。
责任主体包括生成合成服务提供者和内容传播服务提供者。适用场景包括但不限于智能对话、人脸生成、文生图、视频、虚拟场景、音乐创作等。
企业需建立全流程合规管理体系,包括技术适配、合规审查、数据记录、用户告知等。开发内容生成系统时,需内置显式标识模块,并支持元数据隐式标识写入功能。
#目标# 个保合规审计专业人士一起共享时代红利!风口来了,猪也能飞起来!
#愿景# 建立个保合规审计平台和渠道,法律、技术和管理等专家相互赋能。
#申请# 设置专业门槛,入群需说明个人信息保护相关实务经验。
请说明姓名+单位+职位+项目经验
1.国家网信办等四部门《人工智能生成合成内容标识办法》
2025年3月7日,国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局印发了《人工智能生成合成内容标识办法》(点击阅读全文),本文从企业角度梳理《人工智能生成合成内容标识办法》核心合规要点如下:
一、适用范围的界定
- 主体范围
企业需确认是否属于“服务提供者”,即符合《互联网信息服务算法推荐管理规定》《深度合成管理规定》《生成式人工智能服务管理暂行办法》定义的网络信息服务提供者,包括生成合成服务提供者、传播平台、应用分发平台等。 - 内容范围
所有利用AI生成的文本、图片、音频、视频、虚拟场景等内容均需标识,需注意兜底条款覆盖新兴技术场景。
二、标识义务的核心要求
- 显式标识
- 根据内容类型在显著位置添加文字、符号、语音等标识(如文本起始/末尾、视频起始画面)。
隐式标识- 在文件元数据中嵌入生成内容属性、服务提供者编码、内容编号等要素。
三、传播与分发环节的责任
- 传播平台义务
- 检测隐式标识并添加提示标签(如“AI生成”“疑似AI生成”)。
应用分发平台审核- 上架审核时核验AI生成服务标识材料,要求应用说明是否提供相关服务。
四、用户协议与数据管理
- 用户协议条款
- 日志留存
用户申请无显式标识内容时,留存相关日志至少6个月。
五、用户行为规范
- 用户主动声明
- 禁止恶意操作
六、合规体系衔接
- 法规协同
需符合《网络安全法》《数据安全法》等上位法,与算法备案、安全评估衔接。 - 技术标准
强制执行《网络安全技术 人工智能生成合成内容标识方法》中的元数据格式、编码规则。
七、违法风险与处罚
- 监管主体
网信办、工信部、公安等多部门联合执法,可能面临行政处罚或刑事责任。 - 企业责任
需防范技术漏洞、协议缺漏风险,建立内部合规审查机制。
八、过渡期与行动建议
- 过渡期
- 行动建议
- 流程优化:建立内容核验机制,完善用户协议与日志管理。
- 用户教育:通过界面提示、协议说明引导用户遵守义务。
如需具体技术标准或编码规则,需进一步参考《网络安全技术 人工智能生成合成内容标识方法》及配套实践指南。2.强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》背景梳理
根据《GB 45438-2025 网络安全技术人工智能生成合成内容标识方法》,该标准旨在规范人工智能生成合成内容(AIGC)的标识活动,明确生成合成服务提供者(如AI模型开发者、内容生成平台)和内容传播服务提供者(如社交媒体、内容分发平台)的合规义务。其核心背景包括:
- 技术风险防范:AI生成内容可能引发虚假信息、身份伪造、版权争议等问题,需通过标识提升内容透明度和可追溯性。
- 法律法规要求:依据《人工智能生成合成内容标识办法》等法规,强制要求对AIGC进行显式和隐式标识,以履行社会责任和法律义务。
- 公众知情权保障
:通过显式标识提示用户内容的人工智能属性,避免混淆或误认;通过隐式标识记录生成传播信息,便于监管溯源。
企业合规核心要点
企业需根据标准要求,从以下方面落实合规措施:
1. 显式标识要求
针对不同内容类型,显式标识需满足以下技术规范:
内容类型 | 标识形式 | 关键要求 |
---|
文本 | | 位置:文本起始/末尾/中间;字型颜色清晰;角标需含“AI”。 |
图片 | | 位置:图片边角;文字高度≥画面最短边5%;字型清晰。 |
音频 | 语音标识(含“AI生成”)或摩斯码节奏(“短长短短”) | 位置:音频起始/末尾/中间;语音正常语速(120-160字/分钟);节奏清晰可辨。 |
视频 | | 位置:起始画面边角;文字高度≥画面最短边5%;持续≥2秒。 |
虚拟场景 | | 位置:起始画面边角;持续服务中适当位置;文字高度≥画面最短边5%。 |
交互界面 | | 方式:内容附近持续显示或界面顶部/底部/背景;字型颜色清晰。 |
特殊场景要求:
- 高频交互场景(如智能客服)需在每轮交互的起始或末尾添加标识。
- 非矩形图片以包含其的最小矩形边长为基准计算文字高度。
2. 隐式标识要求
需在文件元数据或内容数据中嵌入不可见标识,确保可追溯性:
标识类型 | 技术要求
|
---|
文件元数据隐式标识 | 字段名含“AIGC”,格式为JSON字符串,包含以下要素:
Label (生成属性)、ContentProducer (生成服务提供者)、ProduceID (内容唯一编号)、ContentPropagator (传播服务提供者)、PropagateID (传播编号)等。 |
内容隐式标识 | 允许采用数字水印等技术,但标准未强制要求具体形式。 |
合规关键点:
- 生成服务提供者首次写入元数据时,传播服务提供者信息需与生成方一致。
3. 责任主体与场景覆盖
- 责任主体:生成合成服务提供者(如AI模型开发商、内容生成工具平台)、内容传播服务提供者(如社交媒体、新闻网站)。
- 适用场景:包括但不限于智能对话、人脸生成、文生图/视频、虚拟场景、音乐创作等可能引发公众混淆的服务(附录B列示典型场景)。
4. 实施建议
- 技术适配:开发内容生成系统时,内置显式标识模块(如自动添加文字/角标/音频标识),并支持元数据隐式标识写入功能。
- 合规审查:建立内容审核机制,确保所有对外发布的AIGC符合标识规范(如文字位置、大小、持续时间)。
- 数据记录:为每项生成内容分配唯一编号(
ProduceID
),并在元数据中记录生成及传播链条。 - 用户告知:在交互界面显著位置声明AI生成属性(如页面底部固定提示栏)。
总结
企业需通过“显式标识+隐式标识”双轨机制,确保AI生成内容可识别、可溯源,避免法律风险。重点需关注不同内容类型的标识形式、位置、技术参数,并建立全流程合规管理体系。
3.《网络安全标准实践指南——人工智能生成合成内容标识 服务提供者编码规则》