中意资讯网 中意资讯网

当前位置: 首页 » 前沿资讯 »

新技术如何才能用在正道上?

转自:成都日报锦观

院士带货竟是AI伪造

新技术如何才能用在正道上?

快速进化的AI生成技术,让生成假照片、假图像,甚至视频换脸都更加容易,且真假难辨。尤其是AI合成的假视频甚至冒充名医、名人进行虚假宣传,对公众实施诈骗。中国工程院院士、天津中医药大学名誉校长张伯礼也是受害者之一。

院士带货 竟是AI伪造

不久前,网络中出现了这样一个视频,视频中张伯礼院士正在为某美白护肤品进行宣传。张伯礼表示,这些内容全是假的。我从来没用过这个护肤品,我也没做过这方面的宣传,更没研究过,所以里边完全是编造的。

实际上,这是一个AI制作的视频,视频中使用张院士的形象和声音,从而达到以假乱真的效果。张院士介绍,像这样涉及他形象和声音的假视频在网络上传播的至少还有十几条。

《中华人民共和国民法典》规定,自然人享有肖像、声音等权益,任何组织或个人利用信息技术伪造都是侵权行为。为此,天津中医药大学紧急给网信部门发函,申请对涉嫌侵犯张伯礼院士肖像权及姓名权的相关视频和公众号进行管控处理。“非常气愤,我觉得假视频对我的影响还是第二位的,更可怕的是这些东西误导消费者,对老百姓造成的影响,又花了钱,有的时候还买了假药,影响老百姓的健康,同时也违反国家的法律,破坏市场秩序。”张伯礼说。

近年来,通过AI深度伪造技术假冒名人的事件频繁发生。除了张伯礼院士之外,一些商家通过AI换脸、合成人声等手段,将一些名医、名人、企业家的面容与声音进行移花接木,有的用于直播带货、有的用于推广营销产品、有的被制作成了搞笑视频。

AI伪造是必须消灭的一个“拦路虎”

AI生成技术原本是一件好事,然而被别有用心的人利用后,却成了编造虚假信息的工具。专家呼吁,AI伪造是新兴技术发展的“拦路虎”,必须从严惩治。

专家指出,AI换脸拟声,不当滥用,成为违法侵权行为的重灾区,易引发侵犯肖像权、侵犯公民个人信息以及诈骗等犯罪行为,不利于构建“以人为本、智能向善”的人工智能发展生态。“我看到了好多像这种数字人,他会截取某些人的形象,某些人的音频来生成一个非法的数字人,就可以直播带货了。”复旦大学新闻学院教授马凌说。

据介绍,另一方面,AI生成虚假信息泛滥也对社会公信力构成了严峻挑战。马凌表示,AI造假新闻现场,它给新闻业带来的负面影响太大了。正常的新闻工作者是不会使用这样的图像,但是如果被某些别有用心的人所利用,被社交媒体所广泛利用,它毁损的是社会的公信力,它不仅抹黑了媒体,也让公众的认知发生混乱。

近日,为了促进人工智能健康发展,规范人工智能生成合成内容标识,国家互联网信息办公室等部门联合发布了《人工智能生成合成内容标识办法》,9月1日起施行。服务提供者应当按照要求对生成合成内容添加显式标识,以及在生成合成内容的文件元数据中添加隐式标识。任何组织和个人不得为他人实施恶意行为提供工具或者服务,不得通过不正当标识手段损害他人合法权益。

中国政法大学传播法研究中心副主任朱巍表示,加不加AI的标识,表面上看,形式上是一个法律的明确规定,它的客观影响很深远。不仅是确定知识产权,更重要的是保障信息的公开公正,保障信息的顺畅流转。

文图据新华社、央视新闻客户端 (总台央视记者 杨阳 李斌 郑怡哲 赵酉龙 王殿甲)

未经允许不得转载: 中意资讯网 » 新技术如何才能用在正道上?