现在 AI 深度合成工具操作起来简单很多，AI 换脸、盗用别人声音造成侵权的事情也越来越多。不少做内容的创作者还有普通网友，都会碰到自己照片或者声音被别人拿去合成视频的情况。以前想要维权的时候，准备证据的整个流程比较麻烦，很多人维权这件事要花费不少成本。我平时刷行业资讯的时候，也看到不少创作者吐槽取证难这件事。面对这样行业里存在的问题，短视频平台升级了举报相关的功能，新增了专门针对人脸、声音仿冒的一键举报入口，方便普通人去维权。

一、AI 深度伪造带来的维权难题

深度伪造工具慢慢普及之后，使用的人只需要几张图片、一小段音频素材，就能够做出仿冒别人人脸和声音的短视频。这类视频不光会损害当事人的肖像和声音相关的权益，还有可能被一些人拿来造谣、诈骗，带来其他一些不好的风险。

在这次功能更新之前，用户如果看到 AI 换脸、克隆声音的侵权视频，需要自己收集很多证据，提交材料的过程很麻烦，审核等待的时间也比较长。很多普通用户因为取证这件事比较困难，到最后只能放弃维权。平台收到的这类侵权投诉一直在变多，原来旧的举报分类已经不能够适配这种新出现的侵权情况。

AI深度伪造维权难题图

二、一键举报功能的核心机制

平台在原来的举报页面里面，单独增加了 AI 仿冒人脸、盗用声音这一个分类。用户刷到侵权短视频之后，可以直接用一键举报入口提交自己的投诉。 在提交证据的时候，权利人可以上传自己的原声视频，也可以现场朗读指定的文字来录制语音。平台会用人脸和声纹对比的技术核验相关信息。

这个步骤简化了证据提交的工作，个人还有自媒体创作者都能够更方便地进行维权。除了手机端的一键举报之外，平台电脑端的批量举报系统也支持这类侵权内容批量提交，适合自媒体、机构一次性举报多条视频。

三、对开发者与内容从业者的影响

1、对于 AI 开发者：开发者在制作深度合成工具的时候，需要做好内容溯源、AI 标记这些工作，防止工具被其他人用来伪造他人人脸、声音。

2、短视频创作者：创作者在使用 AI 制作视频的时候，不能随便使用其他人的肖像、声音，防止出现侵权方面的问题。

3、行业治理层面：平台新增这个专项举报通道，我们能够看出来短视频平台正在完善对 AI 伪造视频的管控，这也是网络内容治理里面比较重要的一项措施。

四、局限性与行业展望

平台一键举报这个功能，只能处理平台内部侵权视频下架的工作。如果侵权视频已经被下载，转发到别的网站上面，平台举报没办法直接去追究责任人。想要索要赔偿或者追究刑事责任，当事人还是要走相关的法律途径。 在我看来，平台提供一键举报只能算是缓解手段。从长期来看，想要管好 AI 深度伪造这类问题，需要平台监管、技术识别还有法律法规一起配合起来。一键举报只是平台众多治理手段里面的其中一个，后续针对 AI 生成内容的相关规则还会不断调整变化。