国家品牌网
 | 新闻传播 > 热点透视

给“深度伪造”等新技术新应用提前划红线
国家网信办、公安部约谈11家互联网企业传递监管新信号
发布时间:2021-03-20
文章来源:新华每日电讯 记者王思北、颜之宏
分享到: 收藏

  新华社北京3月19日电(记者王思北、颜之宏)近日,国家互联网信息办公室、公安部指导各地网信部门、公安机关加强对语音社交软件和涉“深度伪造”技术的互联网新技术新应用安全评估工作,并对近期未履行安全评估程序的11家企业进行约谈,引发社会关注。

  专家认为,不同于以往的事后监管,此次安全评估工作和约谈给有关的互联网新技术新应用提前划“红线”,“事前规制”有利于企业及时发现安全隐患,整改安全问题,切实履行信息内容安全主体责任,维护网络传播秩序,营造良好网络生态。

  根据国家网信办发布的通报,此次安全评估工作主要针对近期未履行安全评估程序的语音社交软件和涉“深度伪造”技术的应用,旨在加强对具有舆论属性或社会动员能力的互联网信息服务和相关新技术新应用的安全管理,规范互联网信息服务活动,切实维护国家安全、社会秩序和公共利益。

  2018年11月,国家网信办和公安部联合发布《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》。根据这一规定,出现具有舆论属性或社会动员能力的信息服务上线,或者信息服务增设相关功能;使用新技术新应用,使信息服务的功能属性、技术实现方式、基础资源配置等发生重大变更;用户规模显著增加等情形,互联网信息服务提供者应当自行开展安全评估,对评估结果负责,并向网信部门和公安机关提交报告。网信部门和公安机关根据对安全评估报告的书面审查情况,认为有必要的,应当依据各自职责对互联网信息服务提供者开展现场检查。

  针对近期未履行安全评估程序的语音社交软件和涉“深度伪造”技术的应用,国家网信办、公安部指导北京、天津、上海、浙江、广东等地方网信部门、公安机关依法约谈映客、小米、快手、字节跳动、鲸准数服、云账户、喜马拉雅、阿里巴巴、网易云音乐、腾讯、去演等11家企业,督促其按照网络安全法、《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》等法律法规及政策要求,认真开展安全评估,完善风险防控机制和措施,并对安全评估中发现的安全隐患及时采取有效整改措施,切实履行企业信息内容安全主体责任。

  记者了解到,近几年,一批如唱歌类、一对一语音聊天室等方式的语音社交类软件开始涌现,成为不少年轻群体的社交新选择。一方面,语音社交拓展了人们的社交渠道,增强了部分人群的连接效率,但同时也存在使用门槛低、内容隐匿性强等特点。

  而“深度伪造”技术则利用机器的深度学习,实现图像、声音、视频的篡改、伪造和自动生成,产生高度逼真且难以甄别的效果。

  “‘深度伪造’技术如果滥用,会产生严重后果。”中国信息安全研究院副院长左晓栋举例说,此前国外一些人利用换脸技术伪造艺人的影像资料,就引发过网友对该项技术的热议。

  2019年12月,国家网信办发布《网络信息内容生态治理规定》,明确网络信息内容服务使用者和生产者、平台不得开展网络暴力、人肉搜索、深度伪造、流量造假、操纵账号等违法活动。

  左晓栋说,此次有关部门约谈相关企业,一方面是为了给部分平台上存在涉“深度伪造”技术、存在的安全隐患敲警钟,另一方面也要求行业内的相关企业依法依规保护用户个人信息和名誉权,对于可能涉嫌违法犯罪的相关线索,要及时上报有关监管部门。

  专家认为,语音社交软件由于其使用门槛低、内容隐匿性强等特点,也给监管造成了较大难度。因此,在推动这一新兴行业发展的同时,也要吸取以往在短视频、直播平台治理方面的经验教训,对语音社交产品进行前瞻性监管。

  “这次约谈释放了一个比较明确的信号,就是在新技术新应用尚未在国内造成较大影响的时候,监管部门提前介入,给企业打预防针。”资深互联网行业专家尹生说。他建议,在对某项技术进行“事前规制”的同时,相关部门也应着力提升监管技术,用技术管住技术,以此来提高监管实效和质量。

  据悉,下一步,国家网信办、公安部将继续指导各地网信部门和公安机关加大巡查检查力度,督促属地互联网企业严格遵守相关法律法规,积极主动履行安全管理义务,切实履行企业主体责任,共同维护网络传播秩序,营造良好网络生态。

责任编辑:安和升

网友评论

>>>