近日，国家互联网信息办公室、文化和旅游部、国家广播电视总局三部门联合发布了《网络音视频信息服务管理规定》（下称“《规定》”），该《规定》是针对网络音视频信息行业制定的专门性规范，将于2020年1月1日起施行。

在网络内容管理方面，过往也曾出台过许多可适用于网络音视频信息行业的法规，例如《网络安全法》《互联网信息服务管理办法》《互联网文化管理暂行规定》《网络文化经营单位内容自审管理办法》《互联网视听节目服务管理规定》《关于加强互联网视听节目内容管理的通知》《网络视听节目内容审核通则》《未成年人节目管理规定》《关于加强网络视听节目直播服务管理有关问题的通知》《网络短视频内容审核标准细则》以及《网络短视频平台管理规范》等。

而此次的《规定》是在国内音视频行业高速发展的背景下，侧重于规制通过互联网、应用程序等平台提供音视频制作、发布、传播的服务行为，尤其关注到了“深度伪造”等新技术在网络音视频领域的运用，明确网络音视频信息服务提供者及其技术支持的主体的信息内容安全管理责任。

那么《规范》具体对网络音视频服务提供者提出了哪些具体要求呢？

一、     取得相关资质

《规定》首先强调了网络音视频服务提供者应当取得法律、行政法规规定的相关资质。关于音视频服务提供者具体应当取得的哪些资质，实践中应根据其业务范围和提供的内容进行判断，一般来说，可能涉及到下表中的若干项许可：

二、     落实信息内容安全管理主体责任

“信息内容安全管理主体”的概念在其他一些与网络内容管理相关的规范性文件中也曾被多次提及，例如《互联网群组信息服务管理规定》《互联网用户公众账号信息服务管理规定》《微博客信息服务管理规定》《区块链信息服务管理规定》等，就网络音视频行业而言，《规定》强调了从人员、制度、技术三个层面落实服务提供者的内容安全管理责任：

Ø  配备与服务规模相适应的专业人员；

Ø  建立健全用户注册、信息发布审核、信息安全管理、应急处置、从业人员教育培训、未成年人保护、知识产权保护等制度；

Ø  具有与新技术新应用发展相适应的安全可控的技术保障和防范措施。

根据《规定》，服务提供者应当加强对音视频信息的内容管控，发现服务使用者发布违法违规内容的，有义务停止传播相关信息，采取措施防止信息扩散，同时应保存有关记录并向监管部门报告。

三、     核实用户身份、协议约束服务使用者

我们知道《网络安全法》规定了网络运营者对用户身份的核实义务：提供信息发布服务的，应当要求用户提供真实身份信息；用户不提供真实身份信息的，不得提供相关服务。

此次《规定》重申了网络音视频服务提供者对用户的身份认证义务，具体要求对用户进行基于组织机构代码、身份证号码、移动电话号码等方式的真实身份信息认证，对不提供身份信息的用户不得提供音视频信息发布服务。

强制要求服务提供者通过合同约束服务使用者的行为是网络内容合规领域的一种常用的监管方式。《规定》要求音视频服务提供者应当在与使用者签订的协议中明确要求使用者遵守包括《规定》在内的相关法规，对实施违法行为的用户采取警示整改、限制功能、暂停更新、关闭账号等处置措施。《区块链信息服务管理规定》《网络群组信息服务管理规定》中也有类似规定。

值得注意的是，在网络音视频领域，《规定》还提出了“暂停更新”这项特有的处置措施，对于主要以内容吸引关注和获取收益的网络音视频内容提供者来说影响较大。

四、     确保“深伪”等新技术的应用安全

对基于“深度学习”“虚拟现实”等技术提供的网络音视频服务的规制是此次《规定》的亮点和核心内容。

随着人工智能技术的发展，利用“深伪”技术制作音视频在成本和技术上的门槛已经越来越低，过去好莱坞电影中才能看到的换脸特效，现代人一部手机、一个应用程序就可以实现。但技术的成熟使虚假新闻、虚假音视频开始涌现，导致公众对于信息的真实性产生信任危机。

如网信办负责人就《规定》出台背景的答记者问中所提及的：“‘深度伪造’等新技术新应用在网络音视频领域的运用，这些风险进一步集聚、放大，可能被利用从事危害国家安全、破坏社会稳定、扰乱社会秩序、侵犯他人合法权益等法律法规禁止的活动，造成政治安全风险和国家安全、公共安全风险，对社会稳定造成不良影响”。

在新技术应用上，《规定》明确了网络音视频服务提供者从以下方面履行管理责任。

1.    安全评估

根据《规定》，网络音视频服务提供者基于深度学习、虚拟现实等新技术提供具有媒体属性或者社会动员功能的音视频信息服务，或者增设相关功能的，应当按照国家有关规定开展安全评估。

这里的“国家有关规定”指的是国家网信办在2018年11月发布的《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》（下称“《舆论安全评估规定》”），所谓的舆论属性或社会动员能力的网络信息服务，是指博客、微博、公众号、短视频、直播等服务，这类服务不属于需要经过前置许可的互联网新闻信息服务，但也一定程度上具有信息传播和舆论功能，提供此类服务的提供者需要实施安全评估，形成评估报告，提交地方网信部门和公安机关。

笔者认为，网络音视频信息服务如果具有媒体属性或者社会动员功能的，无论是否采用了深伪等技术，根据上述《舆论安全评估规定》都应当实施安全评估，而《规定》特别强调了新技术在音视频服务领域的应用安全问题，让人很容易联想到今年一款一夜爆火又很快陷入舆论风波的换脸软件“ZAO”，公众因此款应用对个人信息存在潜在威胁提出质疑，更重要的是对于AI技术所可能带来的虚假新闻、网络犯罪甚至是可能引发政治危机、危害国家安全的担忧。

由于“深度学习”“虚拟现实”技术经常应用于音视频制作场景，《规定》对此类应用下的服务提出安全评估要求，对相关服务提供者在遵守技术向善原则方面明确了具体应承担的责任。

2.    不得制作、发布虚假新闻

利用“深伪”技术制造虚假音视频、虚假新闻已经引发了对于信任体系崩坏的担忧。2018年印度有20多人因为在WhatsApp上被谣传绑架小孩或涉及其他罪案而被暴力打死，印度政府下令Whatsapp采取措施打击假新闻的传播。美国制片公司“猴爪”利用“深伪”技术制作了一段虚假视频，视频中国美国前总统奥巴马的严厉攻击特朗普总统，该视频在YouTube上被转发500多万次。2019年，因可能存在的数据泄露风险等网络安全问题，陌陌旗下换脸社交软件ZAO遭到工信部约谈并被要求整改。

我们都理解提供新闻信息服务应当恪守求真的底线，如果新闻的真实性难以分辨，在信息传播速度极快的当下将可能对社会造成严重危害。

此次《规定》明确了网络音视频服务提供者和使用者不得利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播虚假新闻信息。转载音视频新闻信息的，应当依法转载国家规定范围内的单位发布的音视频新闻信息。

我们可以从三个层次理解上述规定：

Ø  首先，网络音视频服务提供者如果涉及提供通过网络制作、发布新闻信息的服务的，必须首先取得互联网信息服务许可，成为合法的互联网新闻信息服务提供者。

Ø  其次，服务提供者不得制作、发布基于新技术形成的虚假新闻。

Ø  最后，转载的音视频新闻信息，必须符合国家规定。根据《互联网信息服务管理规定》，新闻信息服务提供者转载新闻的，应当转载中央新闻单位或省、自治区、直辖市直属新闻单位等国家规定范围内的单位发布的新闻信息，注明新闻信息来源、原作者、原标题、编辑真实姓名等，不得歪曲、篡改标题原意和新闻信息内容，并保证新闻信息来源可追溯，同时还应当遵守著作权相关法律法规的规定。

值得注意的是，如果音视频服务提供者同时也属于互联网新闻信息服务提供者，根据《互联网新闻信息服务新技术新应用安全评估管理规定》，如果使用新技术应用发布新闻的，也应当经过安全评估。

3.    显著标识非真实音视频信息

《规定》还提出网络音视频服务提供者和使用者利用新技术新应用制作、发布非真实音视频信息的，应当以显著方式予以标识。实践中通常以显著文字或水印等方式告知内容受众该音视频信息为技术手段合成，并非真实信息。

在网信办于今年发布的《数据安全管理规定（征求意见稿）》也有类似规定：“网络运营者利用大数据、人工智能等技术自动合成新闻、博文、帖子、评论等信息，应以明显方式标明‘合成’字样；不得以谋取利益或损害他人利益为目的自动合成信息。”

4.    部署鉴别技术

在加强音视频信息管理方面，《规定》还明确了网络音视频服务提供者应部署针对非真实音频和违法违规音频的鉴别技术，发现发布违规内容的，应当停止传输该信息，采取消除等处置措施，保存有关记录，并向监管部门报告。

该项义务无疑对于服务提供者在技术层面规制新技术应用提出了更高的要求。

5.    建立辟谣机制

此外，《规定》还要求音视频服务提供者建立健全辟谣机制，发现网络音视频服务使用者利用基于深度学习、虚拟现实等的虚假图像、音视频生成技术制作、传播谣言的，应当及时采取相应的辟谣措施，并将相关信息报告监管部门。

《微博客信息服务管理规定》也有关于辟谣机制的相关规定：“微博客服务提供者应当建立健全辟谣机制，发现微博客服务使用者发布、传播谣言或不实信息，应当主动采取辟谣措施。”

除了以上四大方面的要求外，《规定》还提及了网络音视频服务提供者应当履行的及时受理并处理公众投诉举报，留存网络日志，配合监管部门执法等义务。同时也明确了网络音视频服务提供技术支持的主体应当遵守相关法规和国家标准。

结语

音乐、视频网站和应用程序，短视频，直播等服务的提供者应关注此次发布的《网络音视频信息服务管理规定》的要求，注意取得相关资质许可，从人员、制度和技术层面落实信息内容安全管理主体责任。

服务提供者尤其要关注对“深伪”等技术应用的管理要求，评估业务中是否涉及具有媒体属性或者社会动员功能的音视频信息服务因而需要开展安全评估，规范新闻信息的发布行为，对于利用“深伪”等技术制作的非真实音视频进行显著标识并加强内容审核，同时采取鉴别技术监管非真实音频是否包含违法违规内容，对谣言和不实信息及时采取辟谣措施，在技术应用的浪潮中积极履行作为内容管理者的法律义务。◆