资讯 生活 健康 体育 旅游 财经 科技

风险不断叠加亟需规范,AI换脸等新技术新运用迎来强监管

2019-12-06 11:36:06 来源:法制日报
分享: 微信 微博

人工智能技术是一把双刃剑,在为我们提供便利的同时,带来诸多风险。比如前段时间各方热议的AI换脸术,在自我娱乐、娱乐大众的同时,不可避免地引发诸如用户个人隐私的泄露、侵权、虚假谣言的扩散等法律风险。

如今,官方正式出手。国家互联网信息办公室、文化和旅游部、国家广播电视总局近日联合印发《网络音视频信息服务管理规定》(以下简称《规定》),要求利用新技术新应用制作、发布、传播非真实音视频信息的,应当以显著方式予以标识;网络音视频信息服务提供者发现使用者利用基于深度学习、虚拟现实等的虚假图像、音视频生成技术制作、发布、传播谣言的,应当及时采取相应的辟谣措施。

“新兴技术一旦在网络上被违法运用,极有可能造成社会秩序紊乱,甚至危害国家安全。这就要求对网络音视频行业加强监管。”北京师范大学互联网发展研究院院长助理、中国互联网协会研究中心秘书长吴沈括教授告诉《法制日报》记者,《规定》不仅加大对违法行为的打击力度,制约网络水军等扰乱网络秩序的行为,而且有利于进一步保护公民、法人以及其他组织的合法权益,维护社会秩序和公共利益。《规定》的出台,意味着AI深度换脸术等新技术新运用迎来强监管。

风险不断叠加亟需规范

当前,网络音视频信息行业发展迅速,用户规模不断壮大。数据显示,我国网络音乐用户规模已达6.08亿,网络视频用户规模已达7.59亿。随之而来的是,相关风险在不断叠加。

今年年初,一个“朱茵变杨幂”的视频在bilibili(视频弹幕网站)上火了,视频中《射雕英雄传》中扮演的“黄蓉”角色被替换为杨幂。视频被传至微博后引起轩然大波,侵权、安全等争议声接踵而至。

“随着‘深度伪造’等新技术新应用在网络音视频领域的运用,传播违法和不良信息、侵犯人民群众合法权益等风险隐患在不断增大。”国家互联网信息办公室有关负责人坦言,这些风险进一步集聚、放大,很可能被利用从事危害国家安全、破坏社会稳定、扰乱社会秩序、侵犯他人合法权益等法律法规禁止的活动。

“亟需出台有针对性的管理规定。”国家互联网信息办公室有关负责人说,亟需明确网络音视频信息服务提供者及其技术支持的主体的信息内容安全管理责任,规范网络音视频信息服务提供者关于利用深度学习、虚拟现实等新技术新应用的管理要求,为网络音视频信息服务及其相关技术的提供、使用、管理等提供有效的依据。

在吴沈括看来,尽管监管部门近几年来已出台了相关文件,但由于网络音视频行业内容、用户等数量庞大,违法现象层出不穷。为此,国家网信办、文化和旅游部、国家广电总局三部门联合制定《规定》,明确了管理机制,规范了新技术的使用,对将有关技术用于违法用途的行为起到了一定的阻止作用,有利于维护网络音视频行业的健康秩序。

辟谣机制阻断谣言传播

吴沈括注意到,《规定》对新技术新应用安全给予高度关注,对基于深度学习、虚拟现实等的新技术新应用制作、发布、传播音视频信息进行了明确规定。

吴沈括分析指出,这是由于此前规范机制的缺乏,虚假、违法信息在网络平台上传播,难以得到有效的遏制,谣言的迅速传播以及影响范围广的特点,对公民和社会秩序都造成了严重危害。

对此,《规定》不仅明确安全评估要求,网络音视频信息服务提供者基于新技术新应用上线具有媒体属性或者社会动员功能的音视频信息服务,或者调整增设相关功能的,应当按照国家有关规定开展安全评估。而且明确标识要求和新闻信息管理要求,网络音视频信息服务提供者和网络音视频信息服务使用者利用新技术新应用制作、发布、传播非真实音视频信息的,应当以显著方式予以标识,不得利用新技术新应用制作、发布、传播虚假新闻信息。

国家互联网信息办公室有关负责人介绍说,《规定》还明确违法违规信息管理要求,网络音视频信息服务提供者应当部署应用违法违规音视频以及非真实音视频鉴别技术。

此外,《规定》还强调,网络音视频信息服务提供者应当部署应用违法违规音视频以及非真实音视频鉴别技术,发现音视频信息服务使用者制作、发布、传播法律法规禁止的信息内容的,应当依法依约停止传输该信息,采取消除等处置措施;网络音视频信息服务提供者应当建立健全辟谣机制,发现网络音视频信息服务使用者利用基于深度学习、虚拟现实等的虚假图像、音视频生成技术制作、发布、传播谣言的,应当及时采取相应的辟谣措施,并将相关信息报网信、文化和旅游、广播电视等部门备案。

吴沈括告诉记者,《规定》对非真实音视频信息的标识义务以及辟谣机制的安排,有利于识别各式各样的虚假信息,阻止虚假信息的传播,保护公民个人的权益,使新技术能够得到合法运用,与网络音视频行业共同健康发展。

设置便捷投诉举报入口

记者注意到,《规定》要求网络音视频信息服务提供者落实信息内容安全管理主体责任,应当依法取得法律、行政法规规定的相关资质;建立健全用户注册、信息发布审核、信息安全管理等制度。

“这些规定要求网络音视频信息服务提供者自觉主动履行平台监管的义务,加大对不良信息的识别和审核力度,承担平台所应有的社会责任。”吴沈括解释说,平台方在追求经济利益的同时,实现与社会效益相统一。网络音视频信息服务提供者应加大对公民、社会和国家利益的保护力度,承担更多的主体责任。

同时,《规定》要求网络音视频信息服务提供者应当依照《中华人民共和国网络安全法》的规定对用户进行真实身份信息认证等。对此,吴沈括解释说,这一条可以看做是网络应用实名制条款,明确了公民个人的责任。

此外,《规定》要求,网络音视频信息服务提供者应当设置便捷的投诉举报入口,及时受理并处理公众投诉举报。此外,网络音视频信息服务提供技术支持的主体应当遵守相关法律法规规定和国家标准规范。

据国家互联网信息办公室有关负责人介绍,《规定》还明确监督检查要求和执法协助要求,各级网信、文化和旅游、广播电视等部门应当建立日常监督检查和定期检查相结合的监督管理制度,网络音视频信息服务提供者应当配合监管部门开展执法工作。而且明确了法律责任,网络音视频信息服务提供者和网络音视频信息服务使用者违反本规定的,由网信、文化和旅游、广播电视等部门依照相关法律法规规定处理。

吴沈括认为,作为规范性文件,《规定》对网络音视频信息行业的的监管作了大体规定,后期仍需更为细化的执行性文件出台,帮助有关部门以及网络音视频信息服务提供者进一步履行责任。

相关文章

风险不断叠加亟需规范,AI换脸等新技术新运用迎来强监管

人工智能技术是一把双刃剑,在为我们提供便利的同时,带来诸多风险。比如前段时间各方热议的AI换脸术,在自我娱乐、娱乐大众的同时,不可避

来源:法制日报

美国将“龙”飞船送入太空,为国际空间站“送快递”

美国太空探索技术公司5日发射一枚猎鹰9火箭,将龙飞船送入太空,为国际空间站快递去约2 6吨补给及科研设备。美国东部时间5日12时29分(北京

来源:新华网

中国科学家揭示人类早期胚胎染色质三维结构动态变化

探求人类基因奥秘,始终是生命科学的前沿领域。国内两支尖端科研团队近来携手攻关,共同揭示了人类早期胚胎中的染色质三维结构的动态变化,

来源:新华网

世界领先!我国科学家成功研制出世界最高磁场超导磁体

日前,中国科学院电工研究所王秋良团队成功研制出中心磁场高达32 35特斯拉(T)的全超导磁体。该磁体采用了自主研发的高温内插磁体技术,打破

来源:人民日报

北京市将探索推动金融科技创新监管试点

昨天下午,中国人民银行发布公告表示,中国人民银行支持在北京市率先开展金融科技创新监管试点,探索构建符合我国国情的金融监管政策。记者

来源:北京日报

波音CEO听证会上认错,姗姗来迟的致歉中有多少诚意?

我们错了。在国会山那张令人压力山大的椅子上,波音CEO丹尼斯·米伦伯格说了实话。这张椅子仿佛有魔力一般,几天前坐过的Facebook CEO马克

来源:北京商报

携号转网试运行!可能和这3个“问题”有关,不妨了解一下!

一直以来在民生话题里沸沸扬扬的携号转网,终于在11月27日上午在全国范围正式启动,从2010年开始的个别省份试点,到今年11月10日开启的全国

来源:海峡都市报闽南版

一大波5G手机在路上,5G手机售价多少购买更划算?

从这个月开始,一大波5G手机将要上市了。近日,随着高通、联发科等芯片厂商陆续发布全模5G芯片,加上之前华为、三星已经发布的5G芯片,从这

来源:华商报

澳大利亚科学家:扬声器或助受损珊瑚恢复活力

珊瑚依靠吸引各种各样的鱼类来维持健康的生态系统。这些鱼类通过执行一系列管家职责,例如清洁珊瑚礁、清理死去的珊瑚礁等,来维护自己的生

来源:科技日报

水到渠成 技术进步带来供热半径扩大

核能供热从核电机组二回路抽取蒸汽作为热源,通过厂内换热首站、厂外供热企业换热站进行多级换热,最后经市政供热管网将热量传递至最终用户

来源:科技日报