雷军、刘德华都成受害者！最新调查曝光

最红安 · 互联网安全互联网短视频 · 3 天前

主要观点总结

本文主要介绍了AI深度合成音视频侵权现象的严重性，包括名人音视频被合成用于带货，AI深度合成技术成为网店牟利工具等问题。同时，文章还介绍了相关的法律法规和专家对AI侵权问题的看法及防范措施。

关键观点总结

关键观点1: AI深度合成音视频侵权现象严重

有人利用AI深度合成技术制作名人的恶搞视频和带货音视频，甚至一些网店提供定制服务，严重侵犯了名人的权益。

关键观点2: AI深度合成技术成为网店牟利工具

一些购物平台和主播利用AI深度合成技术进行直播教学，教授如何制作名人的音视频，从中牟利。

关键观点3: 法律法规对AI深度合成音视频的规定

专家指出，未经授权的深度合成制作发布他人信息属于侵权行为，应承担相应的法律责任。国家相关部门也出台了相关规定和办法，要求不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息。

关键观点4: 专家对AI侵权的看法和防范措施

专家表示，需要从法律、平台和公众等多个层面综合施策，完善相关立法，强化政策法規的宣贯和执行，应用技术手段规避侵权问题的发生，并建立健全内容审核和侵权举报机制。

正文

过去一年，AI深度合成音视频侵权现象愈演愈烈。有人克隆雷军的声音，制作恶搞视频。有人伪造刘德华的音视频，为自己带货。

近日记者调查发现，实现AI深度合成音视频并不算难事，甚至在一些购物平台，AI深度合成技术已经成为众多网店牟利的工具，只需花费几十元，就可定制AI深度合成名人音视频。

网络主播直播教学

用开源工具AI深度合成

这些AI深度合成的声音和换脸是如何制作出来的？调查发现，相应的深度合成软件在网络上下载并不算难，而且还有一些网络主播会开直播教网友如何使用。

在移动端，手机应用商城会提供众多换脸工具，不过大部分工具设定了固定的场景，从效果看逼真度不高。

在PC端，有数十种开源的软件和工具可以实现换声换脸的效果。不过，软件的使用、参数的调整都有一定的技术门槛，所以不为网民熟知。但是，在短视频平台和网购平台，有不少主播、商家在教网民使用相关软件。

未经授权

合成制作他人视频声音属侵权

那么，在网络购物平台使用AI技术，深度合成、出售名人的音视频，是否合法呢？专家表示，相关法律法规明确规定，未经授权，不得深度合成制作发布他人信息。网店接单AI深度合成制作名人视频，已经属于侵权行为，并应该承担相应的法律责任。

中国计算机学会计算机安全专业委员会委员吕延辉介绍，《中华人民共和国民法典》规定，自然人享有肖像、声音等权益，任何组织或个人利用信息技术伪造都是侵权行为。2023年国家网信办、工信部、公安部联合发布出台的《互联网信息服务深度合成管理规定》要求，任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息。2024年网信办发布的《人工智能生成合成内容标识办法（征求意见稿）》也提出，对AI生成合成内容要进行标识，以便公众识别和区分，防止误导性信息传播。

网店使用AI深度合成技术制作名人的视频，应该承担什么样的法律责任？

北京航空航天大学法学院副教授赵精武介绍，在司法实践中，国内已经审结了首例AI生成声音人格权侵权案。在这个案子里，原告作为配音演员，在没有经过授权的情况下，他的声音被AI生成后对外出售。法院在审理中认为，我国的民法典已经在人格权编，将自然人的声音视为一种人格权益，具有人身专属性。所以，法院最终认定被告方使用原告声音、开发案涉AI文本转语音产品未获得合法授权，构成侵权，书面赔礼道歉，并赔偿原告各项损失25万元。

专家：提高防范意识

可以用AI检测AI

其实，不仅是名人，如果未经本人或版权方同意，用AI制作合成普通人甚至动画形象的音视频，也可以判断为侵权行为，应当承担法律责任。

对普通人来说，我们应该如何防范AI侵权的问题呢？

中国网络空间安全协会人工智能安全治理专业委员会专家薛智慧表示，从技术角度来说，可以利用AI技术来对抗跟检测AI。当前有一些典型的AI技术，能够对图片或音视频进行检测。

吕延辉则认为，防范AI侵权问题需要从法律、平台和公众等多个层面综合施策。法律层面，要进一步完善相关立法，细化AI克隆技术的法律条款，明确侵权行为的定义和责任，同时加强执法力度。平台层面，要强化相关政策法规的宣贯和执行，做好已有数据的保护，应用技术手段来规避AI克隆侵权问题的发生，同时也要建立健全内容审核和侵权举报机制，及时发现和处理侵权问题。

法律专家也提醒AI深度合成制作和信息发布者，不要存侥幸心理，法律没有灰色地带，切勿因小失大。

“法律并不是禁止使用AI合成技术，而是禁止不合法不合理的使用，尤其是禁止不进行任何显著标识和提示的AI合成信息的发布和传播。”赵精武说。

看精彩视频

关注“最红安”视频号

来源：浙江新闻

1.“最红安”公众号是红安县融媒体中心（红安传媒集团）官方新媒体，凡署名“记者”的原创推文，均为版权作品。未经许可，禁止以任何形式转载，否则视为抄袭侵权。

2.非原创推文中使用的图片、文字版权归原作者所有，若有来源标注错误或侵犯了原作者的合法权益，请与“最红安”联系，我们将及时处理。

3.欢迎向“最红安”投稿。投稿邮箱：redhongan@163.com。

推广