本字幕由TME AI技术生成

科技一点通

时代新知

生活头条

欢迎收听人本智慧

凤凰FM出品的科技一点通

今天的主要内容是张文红们开始带货

打击AI造假关键在揪出背后黑手

文章来自凤凰新闻

作者

红星新闻编辑凤凰FMletterg

今日要闻

没想到张文宏医生竟然也中招了AI带货造假

近日有网友发现张文红医生开始带货

卖的是一种蛋白棒

基于对张医生的信任

家里的老人信以为真

已经下单

可是从视频看来

尽管口型和声音都模仿的惟妙惟肖

可稍加甄别

不难发现AI伪造手法的拙劣

所谓张医生真人带货

实为AI合成的深度伪造

这一次

群众雪亮的眼睛迅速识破了骗局

据媒体报道

目前发布张文红深夜带货的账号已下架该视频

然而商品橱窗内仍保留了张文红带货的战绩

累计售出一千二百六十六件

不难想象被骗者发现真相后的沮丧与失落

近年来

类似的AI合成冒充名人的骗局

上当者比比皆是

普罗大众更是防不胜防

根据报道

今年十一月

江西一位老人到银行办理业务

声称要贷款二百万元给男朋友靳东拍戏

经民警调查发现

老人手机里的靳东实为骗子冒充

其所发布的视频也是由AI合成

今年十月

宝牌港星黄百鸣通过社交媒体郑重声明

有人盗用其过去影片

利用AI笔袋桃浆替换声音

代言一个不知名的药膏品牌

更有甚者

已然过世的名人也有被借尸还魂带货的

有人揭秘此类账号谋取暴利的手段及利用公众对已故名人的信任借助AI手段合成复活

让他们给带货的产品做信任背书

如此不择手段

连逝者都不放过

实在令人不齿

科技本应向善

可现如今AI诈骗不断涌现

技术仿佛成了磨刀霍霍向韭菜的镰刀

据二零二四人工智能安全报告显示

二零二三年基于AI的深度伪造欺诈增长了百分之三千

仅今年上半年

AI诈骗案案值已超过一点八五亿元

股神巴菲特曾将AI的出现比作放出了关在瓶子里的精灵

那么当精灵屡屡成为欺诈的恶魔

我们该何去何从

不法分子利用AI合成技术

换脸 换声

深度伪造

导致受害者耳听为虚

眼见也非实

即便在今天看来略显拙劣的手段

只会让老年人上当受骗

难保终究有一日

迭代的技术不会让长期经营网络世界的达人也逆水中招

因而

即使打击阻断此类诈骗方式

因现天下无诈AI向善

显得十分迫切

首先

相关平台必须强化落实平台方责任

严格执行互联网信息服务深度合成管理规定

对可能导致公众混淆误认的平台

需要及时做出技术甄别

在合理位置自动打上标签

水印等明显标识

对于明显涉及欺诈等非法目的

或带货

打广告等可能误导消费者的视频内容

平台必须把好第一关

以系统式应对与治理

降低AI欺诈等可能性

保护消费者的利益

其次

魔高一尺

道高一丈

AI诈骗的手段在高深

技术在科幻

实际加害防仍是现实世界中的人

那么惩治AI造假

关键不是教大家怎么辨真假

而是如何严惩伪造传播谋取不法利益的侵害者

唯有法律才能反制不法

就此而言

让法律长出牙齿

撕掉不伐者的AI面具

将其罚到肉疼

触及刑法的

要及时移交司法机关

不断提高技术滥用成本

才有可能彻底震慑住AI背后蠢蠢欲动的黑手

网罗业绩要闻精选

融资动态

人本智慧

凤凰fm科技一点通

感谢您的收听