首页   

精解“AI生成合成内容标识”办法、强制性国标及配套实践指南,附全文

数据法盟  · 互联网安全 科技自媒体  · 8 小时前

主要观点总结

本文主要介绍了关于人工智能生成合成内容的标识办法,包括服务提供者的合规要点、显式标识和隐式标识的要求、责任主体和场景覆盖,以及实施建议。文章还涉及了相关的国家标准和背景梳理。

关键观点总结

关键观点1: 服务提供者的合规要点

企业需确认是否属于“服务提供者”,包括网络信息服务提供者、生成合成服务提供者、传播平台、应用分发平台等。需遵循《网络安全法》《数据安全法》等上位法,与算法备案、安全评估衔接。

关键观点2: 显式标识和隐式标识的要求

企业需要在显著位置添加文字、符号、语音等显式标识,并在文件元数据中嵌入生成内容属性、服务提供者编码、内容编号等隐式标识。鼓励采用数字水印技术增强溯源能力。

关键观点3: 责任主体和场景覆盖

责任主体包括生成合成服务提供者和内容传播服务提供者。适用场景包括但不限于智能对话、人脸生成、文生图、视频、虚拟场景、音乐创作等。

关键观点4: 实施建议

企业需建立全流程合规管理体系,包括技术适配、合规审查、数据记录、用户告知等。开发内容生成系统时,需内置显式标识模块,并支持元数据隐式标识写入功能。


正文

DPOHUB个保合规审计专业群

#目标# 个保合规审计专业人士一起共享时代红利!风口来了,猪也能飞起来!

#愿景# 建立个保合规审计平台和渠道,法律、技术和管理等专家相互赋能。

#申请# 设置专业门槛,入群需说明个人信息保护相关实务经验

请说明姓名+单位+职位+项目经验

图片

1.国家网信办等四部门《人工智能生成合成内容标识办法》

2025年3月7日,国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局印发了《人工智能生成合成内容标识办法》(点击阅读全文),本文从企业角度梳理《人工智能生成合成内容标识办法》核心合规要点如下:


一、适用范围的界定

  1. 主体范围

    企业需确认是否属于“服务提供者”,即符合《互联网信息服务算法推荐管理规定》《深度合成管理规定》《生成式人工智能服务管理暂行办法》定义的网络信息服务提供者,包括生成合成服务提供者、传播平台、应用分发平台等。
  2. 内容范围

    所有利用AI生成的文本、图片、音频、视频、虚拟场景等内容均需标识,需注意兜底条款覆盖新兴技术场景。

二、标识义务的核心要求

  1. 显式标识
  • 根据内容类型在显著位置添加文字、符号、语音等标识(如文本起始/末尾、视频起始画面)。
  • 提供下载、导出功能时需保留显式标识。
  • 隐式标识
    • 在文件元数据中嵌入生成内容属性、服务提供者编码、内容编号等要素。
    • 鼓励采用数字水印技术增强溯源能力。

    三、传播与分发环节的责任

    1. 传播平台义务
    • 检测隐式标识并添加提示标签(如“AI生成”“疑似AI生成”)。
    • 用户发布生成内容时需强制声明。
  • 应用分发平台审核
    • 上架审核时核验AI生成服务标识材料,要求应用说明是否提供相关服务。

    四、用户协议与数据管理

    1. 用户协议条款

      需明确标识方法、样式及用户义务。
    2. 日志留存

      用户申请无显式标识内容时,留存相关日志至少6个月。

    五、用户行为规范

    1. 用户主动声明

      用户发布生成内容时需主动声明并使用标识功能。
    2. 禁止恶意操作

      企业需防范用户删除、篡改标识行为,阻断工具滥用。

    六、合规体系衔接

    1. 法规协同

      需符合《网络安全法》《数据安全法》等上位法,与算法备案、安全评估衔接。
    2. 技术标准

      强制执行《网络安全技术 人工智能生成合成内容标识方法》中的元数据格式、编码规则。

    七、违法风险与处罚

    1. 监管主体

      网信办、工信部、公安等多部门联合执法,可能面临行政处罚或刑事责任。
    2. 企业责任

      需防范技术漏洞、协议缺漏风险,建立内部合规审查机制。

    八、过渡期与行动建议

    1. 过渡期

      2025年9月1日前需完成技术适配与流程改造。
    2. 行动建议
    • 技术升级:嵌入标识功能,开发元数据检测工具。
    • 流程优化:建立内容核验机制,完善用户协议与日志管理。
    • 合规协同:联动算法备案、数据安全评估等流程。
    • 用户教育:通过界面提示、协议说明引导用户遵守义务。
    如需具体技术标准或编码规则,需进一步参考《网络安全技术 人工智能生成合成内容标识方法》及配套实践指南。
    以下是全文
    2.强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》

    背景梳理

    根据《GB 45438-2025 网络安全技术人工智能生成合成内容标识方法》,该标准旨在规范人工智能生成合成内容(AIGC)的标识活动,明确生成合成服务提供者(如AI模型开发者、内容生成平台)和内容传播服务提供者(如社交媒体、内容分发平台)的合规义务。其核心背景包括:

    1. 技术风险防范
      :AI生成内容可能引发虚假信息、身份伪造、版权争议等问题,需通过标识提升内容透明度和可追溯性。
    2. 法律法规要求
      :依据《人工智能生成合成内容标识办法》等法规,强制要求对AIGC进行显式和隐式标识,以履行社会责任和法律义务。
    3. 公众知情权保障
      :通过显式标识提示用户内容的人工智能属性,避免混淆或误认;通过隐式标识记录生成传播信息,便于监管溯源。

    企业合规核心要点

    企业需根据标准要求,从以下方面落实合规措施:

    1. 显式标识要求

    针对不同内容类型,显式标识需满足以下技术规范:

    内容类型标识形式关键要求
    文本
    文字(如“AI生成”)或角标(如“AI”)
    位置:文本起始/末尾/中间;字型颜色清晰;角标需含“AI”。
    图片
    文字提示(如“人工智能生成合成”)
    位置:图片边角;文字高度≥画面最短边5%;字型清晰。
    音频
    语音标识(含“AI生成”)或摩斯码节奏(“短长短短”)
    位置:音频起始/末尾/中间;语音正常语速(120-160字/分钟);节奏清晰可辨。
    视频
    文字提示(如“人工智能生成合成”)
    位置:起始画面边角;文字高度≥画面最短边5%;持续≥2秒。
    虚拟场景
    文字提示(如“AI生成”)
    位置:起始画面边角;持续服务中适当位置;文字高度≥画面最短边5%。
    交互界面
    文字提示(如“AI生成”)
    方式:内容附近持续显示或界面顶部/底部/背景;字型颜色清晰。

    特殊场景要求

    • 高频交互场景(如智能客服)需在每轮交互的起始或末尾添加标识。
    • 非矩形图片以包含其的最小矩形边长为基准计算文字高度。

    2. 隐式标识要求

    需在文件元数据或内容数据中嵌入不可见标识,确保可追溯性:

    标识类型技术要求
    文件元数据隐式标识
    字段名含“AIGC”,格式为JSON字符串,包含以下要素:
    Label(生成属性)、ContentProducer(生成服务提供者)、ProduceID(内容唯一编号)、ContentPropagator(传播服务提供者)、PropagateID(传播编号)等。
    内容隐式标识
    允许采用数字水印等技术,但标准未强制要求具体形式。

    合规关键点

    • 同一文件仅保留一份元数据隐式标识。
    • 生成服务提供者首次写入元数据时,传播服务提供者信息需与生成方一致。

    3. 责任主体与场景覆盖

    • 责任主体
      :生成合成服务提供者(如AI模型开发商、内容生成工具平台)、内容传播服务提供者(如社交媒体、新闻网站)。
    • 适用场景
      :包括但不限于智能对话、人脸生成、文生图/视频、虚拟场景、音乐创作等可能引发公众混淆的服务(附录B列示典型场景)。

    4. 实施建议

    1. 技术适配
      :开发内容生成系统时,内置显式标识模块(如自动添加文字/角标/音频标识),并支持元数据隐式标识写入功能。
    2. 合规审查
      :建立内容审核机制,确保所有对外发布的AIGC符合标识规范(如文字位置、大小、持续时间)。
    3. 数据记录
      :为每项生成内容分配唯一编号(ProduceID),并在元数据中记录生成及传播链条。
    4. 用户告知
      :在交互界面显著位置声明AI生成属性(如页面底部固定提示栏)。

    总结

    企业需通过“显式标识+隐式标识”双轨机制,确保AI生成内容可识别、可溯源,避免法律风险。重点需关注不同内容类型的标识形式、位置、技术参数,并建立全流程合规管理体系。

    以下是全文:
    3.《网络安全标准实践指南——人工智能生成合成内容标识 服务提供者编码规则》
    图片
    图片
    图片
    图片
    图片
    图片
    图片
    图片
    图片
    图片
    图片
    图片
    欢迎加入会员!课程+圈子+何谈
    图片

    推荐文章
    © 2024 精读
    删除内容请联系邮箱 2879853325@qq.com