深度合成服务的合规义务与法律风险防范

引言

深度合成技术（如AI换脸、语音合成、虚拟人）快速发展，在娱乐、教育、媒体等领域应用广泛，但也带来虚假信息、诈骗、名誉侵权等风险。为规范深度合成服务，国家网信部门等联合发布《互联网信息服务深度合成管理规定》，自2023年1月10日起施行。本文梳理深度合成服务的合规义务与风险防范。

一、深度合成服务的法律规制框架

法规规范	主要内容
《互联网信息服务深度合成管理规定》	深度合成服务专项规范，2023年1月施行
《生成式人工智能服务管理暂行办法》	生成式AI服务规范
《算法推荐管理规定》	算法治理规范
《数据安全法》《个人信息保护法》	数据与个人信息保护

深度合成服务提供者与技术支持者需同时遵守上述法规。

二、关键概念界定

概念	含义
深度合成技术	利用算法生成或编辑文本、图像、音频、视频、虚拟场景等技术
深度合成服务提供者	提供深度合成服务的平台
深度合成服务使用者	使用深度合成服务的组织或个人
技术支持者	提供深度合成技术支持的组织或个人

三、主要合规义务

1. 标识义务

标识类型	要求
显式标识	生成或编辑的合成内容需显著标识
隐式标识	在元数据中添加生成合成标识
提示义务	提示使用者应在发布时声明其为合成内容

2. 内容安全义务

义务	内容
内容审核	建立违法内容识别处置机制
用户协议	明确使用规范与责任
训练数据管理	确保训练数据来源合法
算法机制管理	加强模型安全管理

四、算法备案与安全管理

合规要求	内容
算法备案	具有舆论属性的算法需备案
安全评估	上线前开展安全评估
未成年人保护	不得对未成年人造成不利影响
应急处置	建立违法内容处置机制
配合监管	配合监管部门调查

五、主要法律风险

风险类型	具体表现
虚假信息风险	生成虚假新闻、谣言
诈骗风险	换脸换声实施诈骗
侵权风险	侵害肖像权、名誉权、著作权
个人信息风险	违规处理人脸、声纹等生物信息
行政合规风险	未备案、未标识被处罚

六、企业合规体系建设

合规维度	建设要点
制度建设	制定深度合成合规管理制度
技术保障	建立标识、审核、追溯技术系统
用户管理	实名核验、使用规范约束
风险评估	上线前安全评估、运行中监测
应急处置	违法内容处置与事件应急

七、深度合成服务的备案与监管

深度合成服务提供者应当依法履行算法备案义务。具有舆论属性或者社会动员能力的深度合成服务，提供者应当在提供服务之日起十个工作日内向网信部门履行备案手续。服务提供者还应当对深度合成服务使用者进行基于移动电话号码、身份证件号码、统一社会信用代码等的真实身份信息认证，并依法留存日志信息。监管部门对违反规定的，可采取责令限期改正、警告、没收违法所得、罚款等处罚，情节严重的可责令停业整顿。

备案与监管要求	内容
算法备案	舆论属性算法十个工作日内备案
身份认证	使用者真实身份信息核验
日志留存	依法留存使用日志
内容审核	违法内容识别与处置
监管处罚	责令改正、罚款、停业整顿

八、律师提示

1. 深度合成服务须严格落实标识义务，做到显式与隐式标识结合。
2. 算法备案与安全评估是上线前提，应及时办理。
3. 不得利用深度合成生成违法有害信息，否则承担法律责任。
4. 涉及人脸、声纹等生物信息的，须遵守敏感个人信息处理规则。
5. 利用深度合成实施诈骗等犯罪的，将追究刑事责任，需重点防范。

如有深度合成服务合规相关问题，欢迎随时咨询王吉成律师。

---

本文仅供参考，不构成法律意见。具体案件请咨询专业律师。