青锋
知名音乐家刘欢离世不久,多个网络平台就涌现一批账号,对外宣称自己是“刘老师老婆”“刘欢儿子”。视频里,AI生成的虚拟人物声泪俱下,诉说“老刘他走了”,利用大众的同情心博取信任,镜头一转,直接挂上黄精五黑粉商品链接,谎称这是家人长期食用的好物,诱导网友下单购买。而刘欢妻子卢璐早已公开澄清,除个人朋友圈外,夫妻二人从未开设任何社交账号,这些所谓家属账号全部是伪造的AI视频。视频角落虽有一行小字标注AI生成,但字体极小,绝大多数观众被情绪裹挟,很难留意到提示信息,不少人被虚假人设蒙骗,下单购买商品。
翻看网络,此类冒充已故名人亲属带货早已不是孤例。此前,就有账号冒用赵丽蓉家属身份直播卖货;演员温峥嵘也曾遭遇大规模AI仿冒账号扎堆带货,其本人进入直播间打假,反倒被直播间拉黑。AI工具门槛持续降低,只需要少量素材,就能快速合成人物肖像与语音,批量制造仿冒视频,一条依靠名人悲情流量牟利的灰色产业链悄然成型。低成本、高收益,正是这类骗局层出不穷的根源。
骗子何以敢如此猖獗?究其根源,有三方面不可忽视。
其一,流量至上的思维作祟,部分人为追逐热点流量,不惜冒用他人身份博取关注。一旦名人离世,网络自带巨大流量,骗子便抓住大众缅怀、共情的心理,编造家属人设,快速收割流量。流量到手,带货变现紧随其后,热点消耗完毕,账号废弃,再寻找下一个热点目标,循环往复。
其二,部分从业者金钱压倒良知,突破道德底线,不惜以身试法。为赚取带货佣金,骗子消费逝者、欺骗大众,无视法律红线。律师明确指出,冒用名人家属身份直播带货,同时涉嫌人格权侵权、虚假宣传与消费欺诈,涉案金额达到标准,还会触犯刑法构成诈骗。但在暴利诱惑之下,道德约束形同虚设,不少人抱着侥幸心理,认为封号了事,处罚成本远低于带货带来的收益。
其三,平台管控存在明显漏洞,给骗子留下可乘之机。面对AI仿冒名人带货,不少平台习惯性搬出避风港原则,提出需要权利人本人举报,才启动核查处置。这相当于把核验身份、维权举证的重担全部压给受害者。名人及其家属往往很难第一时间发现全网各处的仿冒账号,等到发现并举报,骗子早已完成多轮带货收割。平台手握AI识别、人脸识别等技术,能够拦截涉恐、涉政内容,却对仿冒名人带货的灰色内容疏于前置审核,往往等到舆情发酵后才集中清理账号,属于典型的事后补救,治标不治本。平台依靠直播交易抽取佣金,在流量与收益的驱动下,对这类灰色内容睁一只眼闭一只眼,客观上纵容乱象持续蔓延。
AI仿冒名人带货,伤害的不只是逝者家属,更是广大普通消费者,持续消耗网络社会的信任基础。面对层出不穷的AI造假带货骗局,单纯删账号、下架商品,只能解决个案,难以根除乱象。
为防范骗子利用各类热点、舆情博流量骗人,必须拿出更强硬的治本手段。平台要压实主体责任,不能坐等权利人举报,对冒用名人、已故人物及其家属身份的带货账号,建立前置身份核验机制,强化AI合成内容醒目提示,不能只用一行小字敷衍了事。监管部门要加大执法力度,对AI仿冒带货案件从严查处,提高违法成本,追究平台、账号运营方、供货商家多方连带责任。
直播带货这片沃土,屡屡沦为骗子行骗的舞台,造假、虚假宣传、AI仿冒层出不穷。若无法从源头堵住漏洞,各类仿冒骗局还会不断翻新花样卷土重来。唯有重拳出击,堵住平台监管漏洞,抬高违法成本,彻底斩断这条依靠AI造假消费逝者、收割消费者的灰色产业链,才能让骗子无空子可钻,守护网络直播的清朗环境。
知名音乐家刘欢离世不久,多个网络平台就涌现一批账号,对外宣称自己是“刘老师老婆”“刘欢儿子”。视频里,AI生成的虚拟人物声泪俱下,诉说“老刘他走了”,利用大众的同情心博取信任,镜头一转,直接挂上黄精五黑粉商品链接,谎称这是家人长期食用的好物,诱导网友下单购买。而刘欢妻子卢璐早已公开澄清,除个人朋友圈外,夫妻二人从未开设任何社交账号,这些所谓家属账号全部是伪造的AI视频。视频角落虽有一行小字标注AI生成,但字体极小,绝大多数观众被情绪裹挟,很难留意到提示信息,不少人被虚假人设蒙骗,下单购买商品。
翻看网络,此类冒充已故名人亲属带货早已不是孤例。此前,就有账号冒用赵丽蓉家属身份直播卖货;演员温峥嵘也曾遭遇大规模AI仿冒账号扎堆带货,其本人进入直播间打假,反倒被直播间拉黑。AI工具门槛持续降低,只需要少量素材,就能快速合成人物肖像与语音,批量制造仿冒视频,一条依靠名人悲情流量牟利的灰色产业链悄然成型。低成本、高收益,正是这类骗局层出不穷的根源。
骗子何以敢如此猖獗?究其根源,有三方面不可忽视。
其一,流量至上的思维作祟,部分人为追逐热点流量,不惜冒用他人身份博取关注。一旦名人离世,网络自带巨大流量,骗子便抓住大众缅怀、共情的心理,编造家属人设,快速收割流量。流量到手,带货变现紧随其后,热点消耗完毕,账号废弃,再寻找下一个热点目标,循环往复。
其二,部分从业者金钱压倒良知,突破道德底线,不惜以身试法。为赚取带货佣金,骗子消费逝者、欺骗大众,无视法律红线。律师明确指出,冒用名人家属身份直播带货,同时涉嫌人格权侵权、虚假宣传与消费欺诈,涉案金额达到标准,还会触犯刑法构成诈骗。但在暴利诱惑之下,道德约束形同虚设,不少人抱着侥幸心理,认为封号了事,处罚成本远低于带货带来的收益。
其三,平台管控存在明显漏洞,给骗子留下可乘之机。面对AI仿冒名人带货,不少平台习惯性搬出避风港原则,提出需要权利人本人举报,才启动核查处置。这相当于把核验身份、维权举证的重担全部压给受害者。名人及其家属往往很难第一时间发现全网各处的仿冒账号,等到发现并举报,骗子早已完成多轮带货收割。平台手握AI识别、人脸识别等技术,能够拦截涉恐、涉政内容,却对仿冒名人带货的灰色内容疏于前置审核,往往等到舆情发酵后才集中清理账号,属于典型的事后补救,治标不治本。平台依靠直播交易抽取佣金,在流量与收益的驱动下,对这类灰色内容睁一只眼闭一只眼,客观上纵容乱象持续蔓延。
AI仿冒名人带货,伤害的不只是逝者家属,更是广大普通消费者,持续消耗网络社会的信任基础。面对层出不穷的AI造假带货骗局,单纯删账号、下架商品,只能解决个案,难以根除乱象。
为防范骗子利用各类热点、舆情博流量骗人,必须拿出更强硬的治本手段。平台要压实主体责任,不能坐等权利人举报,对冒用名人、已故人物及其家属身份的带货账号,建立前置身份核验机制,强化AI合成内容醒目提示,不能只用一行小字敷衍了事。监管部门要加大执法力度,对AI仿冒带货案件从严查处,提高违法成本,追究平台、账号运营方、供货商家多方连带责任。
直播带货这片沃土,屡屡沦为骗子行骗的舞台,造假、虚假宣传、AI仿冒层出不穷。若无法从源头堵住漏洞,各类仿冒骗局还会不断翻新花样卷土重来。唯有重拳出击,堵住平台监管漏洞,抬高违法成本,彻底斩断这条依靠AI造假消费逝者、收割消费者的灰色产业链,才能让骗子无空子可钻,守护网络直播的清朗环境。
1
拿刘欢家人 AI 造假卖货:流量生意,不能突破人性底线
2
办“社保卡金卡”能提高报销、领补贴?
3
文明的选择
4
要求家长轮值晚自习?岂能拿家校合作当幌子,转嫁责任
5
人社部:今年1至9月我国城镇新增就业1052万人
6
举一究竟有没有反三?海南红树林保护,何时不再被媒体关注?
7
山西代县精诚矿业重大责任事故案一审宣判
8
Facebook:一个商业帝国的崛起与逆转
9
不借 “节” 牟利,守住诚信底线究竟有多难?
10
央行阐明人民币汇率政策立场:中国从不搞竞争性货币贬值
11
三片回锅肉105元:监管部门为何只盯“明码标价”是否合规?
12
10月7日,37个高速公路路段易发拥堵
13
外卖“明厨亮灶”、后厨老鼠出没:如此明目张胆造假,究竟因为什么?
14
缅北电诈头目钱太多 被偷一千万没发现
15
半夜候补成功,睡醒车走了:12306何以还是对A答B,难道就不能改改吗
16
“心价比”:情绪消费成国庆消费新主角
17
桂林文促会,是否意在和自家撇清关系?却反因“未全面核实”被打脸
18
东航再通报“空姐跪地道歉”事件
19
两个文促会何以“掐架”?
20
人民锐评:乘务员下跪道歉,这合适吗?