2022年1月28日，国家互联网信息办公室发布关于《互联网信息服务深度合成管理规定（征求意见稿）》（以下简称“意见稿”）公开征求意见的通知。意见稿适用于在中华人民共和国境内应用深度合成技术提供互联网信息服务，以及为深度合成服务提供技术支持的活动。

根据意见稿，深度合称技术指利用以深度学习、虚拟现实为代表的生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术（第二条），一般应用于AI语音、AR书籍、虚拟演唱会、全息人像、数字虚拟人、沉浸式体验（如购物、文博展览）及3D影像（如运用于影视制作现场）等场景。意见稿主要规定以下四方面的内容。

（一）程序要求。（1）服务备案。深度合成服务提供者须按照拟于2022年3月1日生效的《互联网信息服务算法推荐管理规定》的有关规定，在提供服务之日起十个工作日内履行备案手续。完成备案的深度合成服务提供者应当在其对外提供服务的网站、应用程序等的显著位置标明其备案编号并提供公示信息链接（第十九条）。（2）安全评估。深度合成服务提供者开发上线具有舆论属性或者社会动员能力的新产品、新应用、新功能的，按法定要求进行安全评估（第二十条）；深度合成服务提供者提供具有对人脸、人声等生物识别信息或者可能涉及国家安全、社会公共利益的特殊物体、场景等非生物识别信息编辑功能的模型、模板等工具的，自行进行安全评估（第十一条）。

（二）法定义务。深度合成服务提供者应制定并公开管理规则和平台公约，完善服务协议，以显著方式提示深度合成服务使用者信息安全义务（第八条）；依法对深度合成服务使用者进行真实身份信息认证（第九条）；加强深度合成技术管理，定期审核、评估、验证算法机制机理（第十一条）；提供者提供人脸、人声等生物识别信息的显著编辑功能的，应当提示深度合成服务使用者依法告知并取得被编辑的个人信息主体的单独同意（第十二条）；采取技术或者人工方式对深度合成服务使用者的输入数据和合成结果进行审核并建立健全用于识别违法和不良深度合成信息内容的特征库，对违法和不良信息依法采取相应处置措施并对相关深度合成服务使用者依法依约采取警示、限制功能、暂停服务、关闭账号等处置措施（第十条）；对使用其服务所制作的深度合成信息内容，应当通过有效技术措施在信息内容中添加不影响用户使用的标识，依法保存日志信息，使发布、传播的深度合成信息内容可被自身识别、追溯（第十三条）；使用显著方式对深度合成信息内容进行标识，向社会公众有效提示信息内容的合成情况（第十四条）。

（三）责任主体。（1）深度合称服务提供者应落实信息安全主体责任。该等服务提供者建立健全算法机制机理审核、用户注册、信息内容管理、数据安全和个人信息保护、未成年人保护、从业人员教育培训等管理制度，具有与新技术新应用发展相适应的安全可控的技术保障措施（第七条）。（2）互联网应用商店服务提供者应对深度合成服务提供者提供的深度合成应用程序履行安全管理责任。该等服务提供者应依法依约核验深度合成应用程序的安全评估、备案等情况；对违反国家有关规定的，应当及时采取不予上架、暂停上架或者下架等处置措施（第十六条）。

（四）法律责任。对违反意见稿相应规定的主体，可能承担行政、民事及行政责任（第二十二条），具体包括：（1）行政责任：警告、责令限期改正，改正前应当暂停相关业务；拒不改正或者情节严重的，责令暂停信息更新，并处一万元以上十万元以下罚款；（2）民事责任：给他人造成损害的，依法承担民事责任；（3）刑事责任：构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。