【法治护我心】划定深度合成服务“底线”“红线”******
【法治护我心——《互联网信息服务深度合成管理规定》系列解读】
光明网记者 陈畅、李政葳
“雾里看花,水中望月,你能分辨这变幻莫测的世界……”如果把上个世纪九十年代这首“315”晚会歌曲,用来描述当下互联网时代的“云”上生活,在技术发展与风险伴生之下,“虚”“实”之间让人颇有迷幻之感。
“再也不敢相信自己的眼睛和耳朵。”当换脸换声、三维重建、智能对话等逐渐应用开来,人们时常发出这样的感叹。这类深度合成服务催生了美颜美妆、智能客服、虚拟主播等一系列应用形态,但其被恶意利用制作虚假信息内容,进而带来了政策干扰、谣言泛滥、低俗内容等。因此,我们也在呼吁——“借我一双慧眼,把这纷扰看个清清楚楚明明白白……”
纵观互联网发展历程,技术治理本身就是一场攻防对抗博弈,也是技术从创新应用到规范发展的必经之路。近日,这项深度合成技术被套上了“紧箍咒”——国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》(以下简称《规定》),自2023年1月10日起施行。
法立于上则俗成于下。《规定》出台划定了深度合成服务的“底线”和“红线”, 迈出我国新技术新应用立法的重要一步,也将有效维护网络空间良好生态。
明确义务要求,强化主体责任
事实上,深度合成技术由来已久。随着深度学习技术、特别是对抗式生成网络技术的发展,深度合成技术门槛大幅降低。2017年11月,Reddit网站的用户“deepfakes”发布伪造视频,曾一度将这项技术推至风口浪尖,其“以假乱真”的信息内容严重威胁国家安全、干扰社会秩序。
何为“深度合成技术”?《规定》中给出了明确表述——指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。
具体包括:篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术,文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术,音乐生成、场景声编辑等生成或者编辑非语音内容的技术,人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术,图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术,三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术等。
诚然,从技术进步的角度看,深度合成技术应用的初衷是让生成合成内容更逼真,但技术在愈趋“智能”的同时,也不可避免地带来更多风险。对此,中国科学院信息工程研究所所长孟丹介绍,除深度伪造风险外,还包括生成合成信息内容带来的个人信息泄漏、侵犯人格权和知识产权等他人合法权益等风险。
深度合成服务提供者和技术支持者既是新技术、新应用的创造者、受益者,也应该是控制技术风险、引导技术向善的责任践行者。记者梳理发现,《规定》明确了深度合成技术定义和服务范围,提出了服务提供者落实信息安全主体责任,指出了服务提供者和技术支持者备案义务,并对服务提供者履行安全评估和配合监督检查义务提出具体要求。
中国科学院自动化研究所所长徐波这样评价:《规定》分析梳理了深度合成活动边界,对深度合成服务提供者、技术支持者和使用者以及应用程序分发平台等主体应履行的责任义务作出规定。比如,服务提供者应履行建立健全管理制度、对使用者真实身份信息认证、加强深度合成信息内容管理等义务,服务提供者和技术支持者应履行加强训练数据管理、加强深度合成技术管理等义务。
健全技术支撑体系,促进科技向上向善
从此起彼伏的社会案件中可以看出,深度合成信息内容制作和传播数量正在高速增长,尤其伴随“元宇宙”等新模式、新场景不断落地,深度合成技术将为智能化、视觉化、场景化、虚拟化的互联网信息服务发展提供更多技术方案。孟丹认为,《规定》的出台是网络内容治理由结果管理迈向行为管理的重要一步,标志着我国网络空间治理能力进一步优化提升。
时间倒回到两年前。在2021年12月,国家互联网信息办公室发布《互联网信息服务算法推荐管理规定》,对包括生成合成类在内的五类算法推荐服务进行规范。本次出台的新规在之前算法规定的基础上,加强对深度合成服务全过程管理,也深化了备案与评估标本兼治。
然而,从技术发展阶段看,深度合成技术与应用管理仍处于起步阶段,在技术支撑和能力建设方面还有待进一步加强。“加快推进深度合成治理技术支撑体系建设,是切实保障深度合成服务治理工作有力有序推进的关键。”孟丹说。
《规定》的字里行间,凸显了“以技术管技术”的逻辑,也必将促进深度合成服务的规范治理。“其确立了我国对深度合成服务的治理框架,提出了明确的数据和技术管理规范,为促进深度合成技术向上向善,引导相关产业健康发展,确保互联网信息内容安全提供了有力的制度保障。”中国政法大学副校长时建中说。
“《规定》以促进技术在规范中发展为价值取向,在明确‘红线’的同时,为技术发展留足空间。”中国信息通信研究院副院长王志勤这样认为。比如,《规定》要求深度合成服务提供者应当建立算法机制机理审核、科技伦理审查等管理制度。
孟丹也建议,从深度合成信息内容源头上,解决其衍生的内容安全风险,利用技术创新、技术对抗等方式持续提升和迭代检测技术的能力,不仅着眼于管理好、使用好、发展好深度合成技术及相关服务,也致力于深度合成技术的合法合理合规使用,促进深度合成技术及相关服务健康有序的发展。
引导多方参与,推动治理走深向实
随着数字化、智能化进程不断加快,互联网信息服务综合治理不断细化,规范深度合成活动对营造健康安全的网络空间有着重要意义。国家互联网信息办公室有关负责人表示,深度合成服务治理需要政府、企业、社会、网民等多方主体参与,推动深度合成技术的依法、合理、有效使用,积极防范化解深度合成技术带来的风险,促进互联网信息服务健康发展。
《规定》明确提到,国家和地方网信部门统筹协调深度合成服务的治理和相关监督管理职责,国务院电信主管部门、公安部门以及地方相关部门的监督管理职责。
王志勤认为,《规定》构建了统筹协调、多方参与的监管体制;《规定》鼓励相关行业加强行业自律,搭建齐抓共管、协同共治的治理机制;《规定》通过系统化的制度安排,进一步构建完善了我国网络综合治理法治体系。
孟丹也提到,《规定》在生成合成类算法服务范围、深度合成技术具体范围、深度合成服务业务分类、显式标识条件与标识方式、隐式标识方法与识别等诸多具体方面,仍亟需行业内部进一步细化相关配套标准规范。在实际落地过程中,建议业内推进产业联盟建立,以产业自治、多方共治的方式,不断推进深度合成技术应用高质量发展。
为推动深度合成治理走深向实,徐波建议,强化智能监管平台支撑。比如,深入研究深度合成类算法内生安全机理和深度合成鉴别等关键技术,推动深度合成管理技术能力建设;加强人机混合的智能监管技术,研究深度合成服务提供者的安全可控技术保障方案,把监管规范转化为评估标准,建设面向网络全域监管的监测管理平台;研发深度合成与鉴别对抗机制,鼓励新兴科技企业与研究机构开展技术演练,共同推动深度合成服务健康发展。
在“数”与“网”中架飞桥 中国新闻网干部职工热议习近平贺信******
中新网北京9月25日电 题:在“数”与“网”中架飞桥 中国新闻网干部职工热议习近平贺信
中新网记者 马学玲
“感谢乐桃文先生接受‘红星何以照耀中国’网络国际传播活动的采访。新时代,如何提升国际传播,如何以侨为桥,更待我辈努力。”
这是中新社侨务新闻部主任、中国侨网总编辑谢萍24日发布的一条朋友圈,分享了中国新闻网对美国犹他州韦伯州立大学信息系统终身教授、中华海外联谊会常务理事乐桃文的采访。
此前一天,9月23日,中共中央总书记、国家主席、中央军委主席习近平致信祝贺中国新闻社建社70周年强调,创新国际传播话语体系,提高国际传播能力,增强报道亲和力和实效性。
9月23日上午,庆祝中国新闻社建社70周年大会在北京举行。 中新社记者 富田 摄作为中新社旗下的中央重点新闻网站,连日来,中国新闻网干部职工热议习近平总书记贺信。
中新社副总编辑兼中国新闻网总裁俞岚表示,总书记的贺信极大增强了我们拥抱媒体变革大势、提升国际传播能力的信心和决心。我们要牢记嘱托,不辱使命,把握大局大势,掌握讲好中国故事的新语境,创新为侨服务的新模式,锚定国际传播能力建设的新方向,秉持中新社人的价值追求和精神品格,脚踏实地、笃行致远。
中新社融媒体中心主任、中国新闻网总编辑吴庆才表示,总书记的贺信为加快媒体融合发展、做好国际传播工作指明前进方向,我们将坚持以新闻立网,以求实创新立业,直面“数”与“网”的历史变革,积极探索媒体融合背景下的国际传播新实践,在时代浪潮中架好座座桥梁,融汇东西,沟通中外。
筑团结之桥,力促海内外中华儿女大团结
习近平总书记在贺信中高度肯定了中新社70年来“为侨服务”的坚守,并对新时期“促进海内外中华儿女大团结”提出了全新要求。
依托中新社深厚的“侨”渊源和丰富的“侨”资源,中国新闻网以网为媒,搭建广泛联系、积极服务华侨华人等“海外中国”群体的团结之桥。
入职20年来,谢萍一直从事华侨华人报道,宣传中国的侨务政策,关注侨胞与祖(籍)国和家乡的互动,聚焦华侨华人在世界各地的足迹与成长……
“廿载中新经历,我和我的同事们一直致力于传递华侨华人声音、展示华侨华人形象,这是我们引以为豪的工作。”
谢萍说,站在新起点,面对百年变局及世纪疫情,挑战扑面而来,但责任始终在肩,将与同事们一道,继续贴近侨、服务侨、团结侨,努力做到凝心聚力,以侨为桥,为促进海内外中华儿女大团结做出中新人的贡献。
“积极联系海外华文媒体”,这是习近平总书记在贺信中对中新社提出的明确要求。
日常工作中负责对接海外华文新媒体的中新网总编室华媒部主编陈薇伊表示,总书记的这句话让她格外激动,倍感鼓舞。
近年来,中国新闻网、中国侨网携手全球华文媒体搭建“同心战疫信息服务平台”,组织“四海同春”“云聚中秋”等活动,开设“华裔青年说”“此心安处是吾乡”等栏目,不断探索全球华媒新媒体合作传播模式。
“在日常工作中,我能直接感受到海外华文媒体同我们亲如一家的情谊,华媒朋友对中新社、中新网工作鼎力支持,他们对祖(籍)国饱含的深情,令人动容。”
陈薇伊表示,将谨记总书记的教诲和嘱托,继续努力做好广泛联系海外华媒的工作,与全球华文媒体一起,创新国际传播,为促进海内外中华儿女大团结作出更大贡献。
架沟通之桥,助推中外文明交流、民心相通
“讲好中国故事,传播好中国声音”,习近平总书记在贺信中肯定了70年来中新社在国际传播方面的耕耘奋进,并要求为“推动中外文明交流、民心相通作出新的更大贡献”。
从诞生之日起,中新社就以推动交流、沟通世界为使命。70年弹指一挥,当历史的时针指向此刻,面对百年变局与世纪疫情,我们以何交流?
和羹之美,在于合异。基于中新社遍布全球的采编力量,中国新闻网不断加强媒体融合,努力打造中外沟通新平台,探索构建国际传播新范式。
中新社视频部主任、中国新闻网副总裁齐彬表示,可视化是目前全球媒体发展的重要趋势,也是提升国际传播实效性的有力抓手。今年以来,我们的视频稿件被全球近300家国际主流媒体下载采用近3000条次,为展现可信、可爱、可敬的中国形象做出了努力。
“我们要进一步发挥遍布全国及多个海外国家和地区的采集网络优势,采制传播更多有传播力、亲和力的视频稿件,并加强队伍、平台以及客户服务等工作,以实际行动践行总书记的要求,提高国际传播能力。”齐彬说。
以习近平总书记关于国际传播工作的一系列重要论述为根本遵循,中国新闻网聚焦全球知名人士群体,于2021年10月创新推出“中外对话”融媒体栏目,以人为桥,连接东西。
为推动不同文明之间的交流互鉴,中国新闻网以史为轴,自2022年5月起推出《文明的坐标》系列全媒体报道。镜头前,洋主播们化身vlogger,跨越意识形态和文化差异之间的障碍,带领全球网友探访三星堆博物馆、南昌汉代海昏侯国考古遗址公园等。
在国际传播工作中,如何沟通也是一大学问。
中国新闻网副总裁、中新经纬总裁符永康特别关注到习近平总书记贺信中关于“增强报道亲和力和实效性”的要求。他说,这为中新社进一步做好相关工作明确了战略指引。
符永康举例说,“以今年前8个月中国进出口总值同比增长10.1%为例,我们没有泛泛而谈,而是采访许多海外华商,讲述如何把一条毛巾的生意做到千万美元量级,引起很多读者共鸣。”
“总书记这句话对新闻报道具有重大指导意义”,中国新闻网首席时政记者阚枫表示,新时期,我们年轻一代记者应牢记总书记嘱托,在守正创新中传承发扬“中新风格”,提高新形势下“官话民说、中话西说、长话短说、空话不说”的本领,提升报道的亲和力和实效性。
回望来时路,中新人一直用“新表达”捕捉时代气象,努力展现真实、立体、全面的中国。
“我们做出了许多年轻人喜欢的正能量报道,如‘重庆山火中的50件小事’等。”中国新闻网社交媒体中心编辑高萌表示,将以更具亲和力的方式,做年轻人的向导,让正能量澎湃大流量。
中国新闻网融媒体创新实验室编辑佟瑶表示,将创新表达,以创意出圈,着力讲述可见、可感、可知的中国故事。
面对席卷全球的短视频热潮,中国新闻网视频中心专题部主编张昂表示,要抓住时代机遇,努力创新对外话语体系,更好担负起联接中外、沟通世界的职责使命。
铺友谊之桥,遇见一个可信、可爱、可敬的中国
70年来,中新社还铺就了一座沟通中外的“友谊之桥”。在这座桥上,中外名家云集,动人的故事远播万里,绵延至今。
“1981年年初,有几位中国朋友告诉我,一家新成立的公司南海影业正在做一部电影《原野》。”意大利著名电影制片人、电影史家马可·穆勒近日到中国新闻网录制“中外对话”节目时回忆,当时通过中新社这部电影,认识了该片女导演凌子,并通过凌子认识了一批中国第五代导演。
此后,马可·穆勒将影片《原野》带到威尼斯,开启了中国电影的国际化之路。在掌舵洛迦诺、威尼斯等国际电影节的40年间,马可·穆勒把陈凯歌、田壮壮、张艺谋、贾樟柯等中国导演推向国际舞台,被誉为“把中国电影推向世界的第一人”。
在今次录制节目时,得知恰逢中新社70周年社庆,他动情地说:“我很想再见她(凌子)一面。”
“我们广交朋友,不断扩大知华友华的国际舆论朋友圈。”中新社融媒体中心副主任、中新网研究院副院长彭大伟表示。
特别是面对新形势,中国新闻网积极作为,与外籍人士广泛建联。
在“爱上北京的100个理由”短视频征集大赛颁奖典礼现场,中央民族大学美籍专家马克·力文教授深情献唱原创歌曲,北京化工大学外籍教授戴伟通过化学小魔术变出了写着“我爱北京”的纸条,在中国生活了30多年的厦门大学外籍教授潘维廉则幽默地分享了“我爱北京的11700个理由!”
这些外籍人士对中国的热爱,溢于言表。
“我们正是通过此类活动,将热爱中国的外籍人士聚在一起,搭建多圈层交流平台,让一批知华友华人士成为跨文化传播和传递中国形象的使者,成为中外友好的切实推动者,这也正是国际传播工作希望抵达的彼岸。”中国新闻网海外传播中心项目传播部主编冯爽说。
立足中国,走向世界,抵达彼岸,回到中国——世界,终将遇见一个可信、可爱、可敬的中国。(完)
(文图:赵筱尘 巫邓炎)