网信办联合广播电视总局明确“深度伪造”音视频管理规定

近日，国家互联网信息办公室、文化和旅游部、国家广播电视总局联合印发了《网络音视频信息服务管理规定》明确网络音视频信息发布相关守则，网络音视频信息提供者和网络音视频信息使用者利用基于深度学习、虚拟现实等AI技术应用制作、发布、传播非真实音视频信息的，应当按照国家有关规定开展安全评估，并以显著方式予以标识。

网络音视频信息服务提供者应当部署应用违法违规音视频以及非真实音视频鉴别技术，建立辟谣机制，并将相关信息报有关部门备案。

从网信办有关负责人处了解，网络信息服务发展迅速，用户数量不断增加，据数据显示，我国网络音频用户规模已达6．08亿，网络视频用户规模已达7．59亿。随着“深度伪造”等AI技术应用在网络音视频领域的运用，也带来了传播违法与不良的作假信息、侵犯用户合法权益等风险隐患。运用AI技术制作非真实的音视频，可能被利用从事危害国家安全、破坏社会稳定、扰乱社会秩序、侵犯他人合法权益等法律法规禁止的活动，造成政治安全风险和国家安全、公共安全风险，对社会稳定造成不良影响。

近些年，随着AI技术的高速发展，人脸识别应用在商用场景中大规模部署。例如，苏宁任性贷要求刷脸认证，支付宝提供了基于人脸的验证登录手段，很多银行或者金融公司也提供了远程的、基于人脸识别的视频面审流程。

AI的人脸识别应用在精确度上已经高达95％，很多业务可以便捷地享受AI科技带来的便捷核验手段。但深度伪造技术应用到图像或视频欺诈中不仅能实现换脸，更可以通过深度学习模拟真人声音、创造出现实不存在的人物肖像。利用该技术，可以以视频这一较为可信的方式让某人说不曾说过的话，做不曾做的事，达到混淆观众的目的。

国外技术团队也成功开展过欺骗“AI”的试验，在3D车辆模型的车身上贴上特制的“纸片”，使得模型成功逃逸监控识别。从具体效果来看，该“隐身”可在高度运动、光线变化等复杂环境中保持较高的“隐身性”，技术优势明显。

AI安全问题已经不再只是学术谈论，民众都应该提高对AI安全的意识。AI技术本身是中立的，但发展成“以子之矛，攻子之盾”的状况，我们才意识到AI技术，在没有制约的情况下用在正面领域，带来了革命性的便捷和高效；应用于黑色非法领域，给我们带来的风险可能远超从前。

因此，明确网络音视频信息发布者的信息内容安全管理责任，规范网络音视频信息服务提供者关于利用AI技术新应用的管理要求，为网络音视频信息服务及其相关技术的提供、使用、管理等提供有效的依据是非常有必要的，据悉该规定将从2020年1月1日起正式施行。