院士带货竟然是AI伪造!新技术如何才能用在正道上?
创始人
2025-05-12 14:11:38
0

近日,所谓“院士带货”的现象被揭露竟是 AI 伪造。这一事件引发了广泛关注与思考。新技术本应服务于社会、推动发展,然而却被用于制造虚假表象。在当今时代,新技术如同一把双刃剑,若不加以正确引导和规范,就可能被滥用。我们需要建立严格的监管机制,确保新技术的应用符合道德和法律规范。同时,加强公众的科技素养教育,让人们能够辨别真伪,不被虚假信息所误导。只有这样,新技术才能真正用在正道上,为人类的进步和福祉发挥积极作用。


快速进化的AI生成技术,让生成假照片、假图像,甚至视频换脸都更加容易,且真假难辨。尤其是AI合成的假视频甚至冒充名医、名人进行虚假宣传,对公众实施诈骗。中国工程院院士、天津中医药大学名誉校长张伯礼也是受害者之一。

院士带货 竟是AI伪造

不久前,网络中出现了这样一个视频,视频中张伯礼院士正在为某美白护肤品进行宣传。

院士带货竟然是AI伪造!新技术如何才能用在正道上?

中国工程院院士 天津中医药大学名誉校长 张伯礼:这些内容全是假的。我从来没用过这个护肤品,我也没做过这方面的宣传,更没研究过,所以里边完全是编造的。

院士带货竟然是AI伪造!新技术如何才能用在正道上?

实际上,这是一个AI制作的视频,视频中使用张院士的形象和声音,从而达到以假乱真的效果。张院士介绍,像这样涉及他形象和声音的假视频在网络上传播的至少还有十几条。

院士带货竟然是AI伪造!新技术如何才能用在正道上?

《中华人民共和国民法典》规定,自然人享有肖像、声音等权益,任何组织或个人利用信息技术伪造都是侵权行为。为此,天津中医药大学紧急给网信部门发函,申请对涉嫌侵犯张伯礼院士肖像权及姓名权的相关视频和公众号进行管控处理。

院士带货竟然是AI伪造!新技术如何才能用在正道上?

中国工程院院士 天津中医药大学名誉校长 张伯礼:非常气愤,我觉得假视频对我的影响还是第二位的,更可怕的是这些东西误导消费者,对老百姓造成的影响,又花了钱,有的时候还买了假药,影响老百姓的健康,同时也违反国家的法律,破坏市场秩序。专家的形象受到玷污,我们确实也很气愤,但是又很无奈。

院士带货竟然是AI伪造!新技术如何才能用在正道上?

近年来,通过AI深度伪造技术假冒名人的事件频繁发生。除了张伯礼院士之外,一些商家通过AI换脸、合成人声等手段,将一些名医、名人、企业家的面容与声音进行移花接木,有的用于直播带货、有的用于推广营销产品、有的被制作成了搞笑视频。

专家:AI伪造

是必须消灭的一个“拦路虎”

AI生成技术原本是一件好事,然而被别有用心的人利用后,却成了编造虚假信息的工具。专家呼吁,AI伪造是新兴技术发展的“拦路虎”,必须从严惩治。

专家指出,AI换脸拟声,不当滥用,成为违法侵权行为的重灾区,易引发侵犯肖像权、侵犯公民个人信息以及诈骗等犯罪行为,不利于构建“以人为本、智能向善”的人工智能发展生态。

院士带货竟然是AI伪造!新技术如何才能用在正道上?

复旦大学新闻学院教授 马凌:我看到了好多像这种数字人,他会截取某些人的形象,某些人的音频来生成一个非法的数字人,就可以直播带货了。所以它影响到的不仅是老年群体,也影响到了更广大的群体,包括部分上网的孩子也会受到影响。

据介绍,另一方面,AI生成虚假信息泛滥也对社会公信力构成了严峻挑战。

院士带货竟然是AI伪造!新技术如何才能用在正道上?

复旦大学新闻学院教授 马凌:AI造假新闻现场,它给新闻业带来的负面影响太大了。正常的新闻工作者是不会使用这样的图像,但是如果被某些别有用心的人所利用,被社交媒体所广泛利用,它毁损的是社会的公信力,它不仅抹黑了媒体,也让公众的认知发生混乱。长此以往,可能整个社会都会充满互相不信任的情绪。

院士带货竟然是AI伪造!新技术如何才能用在正道上?

近日,为了促进人工智能健康发展,规范人工智能生成合成内容标识,国家互联网信息办公室等部门联合发布了《人工智能生成合成内容标识办法》,9月1日起施行。服务提供者应当按照要求对生成合成内容添加显式标识,以及在生成合成内容的文件元数据中添加隐式标识。任何组织和个人不得为他人实施恶意行为提供工具或者服务,不得通过不正当标识手段损害他人合法权益。

院士带货竟然是AI伪造!新技术如何才能用在正道上?

中国政法大学传播法研究中心副主任 朱巍:加不加AI的标识,表面上看,形式上是一个法律的明确规定,它的客观影响很深远。不仅是确定知识产权,更重要的是保障信息的公开公正,保障信息的顺畅流转。

院士带货竟然是AI伪造!新技术如何才能用在正道上?

中国工程院院士 天津中医药大学名誉校长 张伯礼:例如在网络自媒体发布,应该有一个监管。有的是平台发布,平台的从业者应该有审查的责任。我们去投诉举报,得有专门部门去接收,承担起责任。第二点要加强监管,网络部门、互联网监管部门得发挥作用。再就是法律,甚至是公安部门都要介入才行,加大处罚,不管是谁的连带责任。我觉得应该出台一些综合的治理措施来解决这个问题,不能再拖了。

AI解读AI:

给AI留下最深印象的AI虚假信息是什么?

AI技术在大幅提高各行各业工作效率的同时,也大幅降低造假门槛。对于AI来说,近期发生的AI制造虚假信息的案例,有哪些让它印象深刻呢?AI能否辨别AI生成的虚假内容呢?

总台央视记者 郑怡哲:用AI解读AI,刚刚我问了人工智能最近印象深刻的AI造假的案例,它列举了很多,而且做了分类。

院士带货竟然是AI伪造!新技术如何才能用在正道上?

例如,自然灾害谣言是它认为影响非常大的一个类别,AI制作的虚假信息成了“恐慌放大器”。很多人熟悉的西藏定日县地震后,一张“被埋废墟的小男孩”图片在网络疯传,该图因男孩有六根手指被识破,但已造成大量恐慌。

院士带货竟然是AI伪造!新技术如何才能用在正道上?

还有一个类别,AI技术伪造名人背书与权威数据伪造,利用公众信任牟利。前段时间盛传的“80后死亡率5.2%”“每20个80后就有1人去世”等虚假信息,在公共领域造成的危害非常大。所以央视新闻频道在西藏定日地震废墟小男孩的虚拟照片,以及80后死亡率的问题上,迅速给出辟谣,让观众了解到最权威的信息。

院士带货竟然是AI伪造!新技术如何才能用在正道上?

总台央视记者 郑怡哲:能否用AI识别AI造假的内容呢?AI告诉我,现在还真有不少机构和软件已经实现了这项技术。拿图片来说,有一些是肉眼能判断,一眼假的AI生成图。还有一些看起来相对真实的伪造图片,其实在人工智能看来,也往往暗藏了像素规律甚至是电子签名。AI也承认,这些技术上的所谓“缺陷”,未来可能通过深度伪造而更加难以识别。但是AI的创造能力和辨别能力,本就是互相博弈,不断攀升。平台治理,有效监管,还有公众的防范意识,要结合起来,才能让新技术用在正道上。

(总台央视记者 杨阳 李斌 郑怡哲 赵酉龙 王殿甲)

相关内容

彩虹、丁达尔光依次登场,福...
在福州的天空中,一场令人惊叹的“大秀”正精彩上演。先是那绚丽的彩虹...
2025-07-10 21:33:09
泼天的富贵
“泼天的富贵”,那是一种仿佛能将整个世界都照亮的景象。仿佛无数璀璨...
2025-07-10 21:03:46
小刺猬偷瓜吃被逮个正着!园...
在一个炎热的大夏天,园主偶然间发现了一只小刺猬正在偷瓜吃。那小刺猬...
2025-07-10 20:35:16
全球最大!在福州下线!可抵...
全球最大!这一震撼的称号落在了福州下线的某款产品身上。它宛如一座坚...
2025-07-10 20:34:29
男子借款20万还款2800...
有一男子,起初借款 20 万。然而,后续的还款情况却令人震惊。他陆...
2025-07-10 20:04:21
北大口腔医院回应韦东奕看牙
北大口腔医院回应韦东奕看牙一事,称医院一直秉持着专业、公正、热情的...
2025-07-10 20:03:59
茶油炸油饼 开启闽清烟火一...
在闽清,那独特的茶油炸油饼开启了一日的烟火气息。清晨,街头巷尾弥漫...
2025-07-10 17:32:50
女子连续一周冒用邻居地址点...
近日,有女子连续一周冒用邻居地址点外卖的现象引发关注。这种行为不仅...
2025-07-10 17:05:27
福建闽江支流梅溪等25条河...
近日,福建闽江支流梅溪等 25 条河流纷纷遭遇超警以上洪水的严峻考...
2025-07-10 17:03:59

热门资讯

彩虹、丁达尔光依次登场,福州天... 在福州的天空中,一场令人惊叹的“大秀”正精彩上演。先是那绚丽的彩虹悄然登场,宛如一座七彩桥梁横跨天际...
泼天的富贵 “泼天的富贵”,那是一种仿佛能将整个世界都照亮的景象。仿佛无数璀璨的星辰汇聚一处,闪耀着夺目的光芒,...
小刺猬偷瓜吃被逮个正着!园主:... 在一个炎热的大夏天,园主偶然间发现了一只小刺猬正在偷瓜吃。那小刺猬圆滚滚的身子,浑身尖刺,正小心翼翼...
全球最大!在福州下线!可抵御1... 全球最大!这一震撼的称号落在了福州下线的某款产品身上。它宛如一座坚不可摧的堡垒,展现出无与伦比的强大...
男子借款20万还款2800万仍... 有一男子,起初借款 20 万。然而,后续的还款情况却令人震惊。他陆续还款 2800 万之巨,本以为已...
北大口腔医院回应韦东奕看牙 北大口腔医院回应韦东奕看牙一事,称医院一直秉持着专业、公正、热情的服务态度对待每一位患者。韦东奕作为...
茶油炸油饼 开启闽清烟火一日 在闽清,那独特的茶油炸油饼开启了一日的烟火气息。清晨,街头巷尾弥漫着茶油的香气,师傅熟练地将面团擀成...
女子连续一周冒用邻居地址点外卖... 近日,有女子连续一周冒用邻居地址点外卖的现象引发关注。这种行为不仅侵犯了邻居的合法权益,也可能引发一...
福建闽江支流梅溪等25条河流发... 近日,福建闽江支流梅溪等 25 条河流纷纷遭遇超警以上洪水的严峻考验。梅溪等河流水位急剧上升,奔腾的...
福州地铁2号线工程由初期运营转... 福州地铁 2 号线工程历经不懈努力,终于从初期运营顺利转入正式运营。这一转变标志着福州地铁网络又迈出...