你刷到的奥运冠军代言可能是假的！起底AI仿冒带货新骗局
视频加载中...
注意！你最近在短视频平台刷到的明星带货视频，很可能都是AI伪造的！如今，直播购物成为新潮流，但骗局也在升级。一些商家利用AI技术仿冒专家学者、奥运冠军、影视明星进行带货；还有的冒充知名品牌，利用产地效应欺骗消费者。粉丝们难辨真伪，慕名下单后才发现被骗。这些游走在灰色地带的“AI李鬼”，正在挑战数字治理的底线。
近期，多个网络直播间主打“樟树港辣椒”种子，主播们卖力推销。直播间人气火爆，咨询和下单者络绎不绝。
湖南岳阳的樟树港辣椒是国家地理标志产品，有400多年种植历史，因品质优良，特级品售价高达300元一斤。
然而在这些直播间，画面展示的辣椒成串垂挂，产量惊人。当记者询问种子真伪及产量时，主播信誓旦旦保证“所见即所得”。
蹊跷的是，主播回答问题时，背景视频竟出现农户在深水中采摘辣椒的离奇场景，这显然不符合常理。类似画面在其他直播间也有出现。
当记者追问是否使用AI生成时，主播避而不答。
为查明真相，记者咨询了技术专家。
奇安信集团副总裁刘浩指出：画面中人物腿部与辣椒丛融为一体，这违背物理规律，是典型的“穿模”现象。AI生成内容基于语言建模，无法准确预测真实世界的物理规律。
“穿模”是AI生成视频的常见漏洞。
专家还发现，直播间无人机喷洒农药的片段中，水雾呈规则三角形而非自然雾化，这也是技术破绽。
记者随后前往湖南岳阳樟树港辣椒产地核实。
当地高级农艺师黄源表示：樟树港辣椒植株矮小，而视频中的植株高达一人多，花和叶片都不符合特征。产量更是夸张，实际亩产仅2000-3000斤，视频显示却超6000斤。
法律专家指出，利用AI制作虚假商品内容或冒用品牌牟利，涉嫌民事侵权甚至刑事犯罪。
中国法学会消费者权益保护法研究会副秘书长陈音江强调：此举侵犯消费者知情权和选择权。若故意欺骗，可能构成欺诈。
中国社会科学院法学研究所研究员支振锋补充：这种行为破坏市场秩序，构成民事侵权。量大可能触犯刑法，若涉及种子销售还违反《种子法》。
除了仿冒产品，AI技术还被用于仿冒名人。专家学者、奥运冠军、影视明星成为“被代言”重灾区。
这不仅侵犯当事人人格权，还消解其信誉度，更误导消费者。
例如，北京大学李玲教授的采访视频被AI篡改为推销视频，在网络广泛传播。
李教授公开声明：从未推销医药产品，相关视频均为AI伪造，提醒公众谨防上当。
但对普通大众而言，识别AI仿冒内容难度极大，受骗者众多。
记者在销售评论区看到大量质疑：有人指出产品非明星本人带货，有人直呼上当。
中国政法大学副教授朱巍表示：编辑人脸、声音均属人格权，未经允许不得使用。深度合成伪造信息属违法。
今年9月1日，《人工智能生成合成内容标识办法》正式施行，要求AI生成内容添加显式和隐式标识。
办法明确平台需审核内容，对未标识或疑似生成内容添加风险提示，阻断虚假信息传播。
调查发现，尽管平台升级AI识别系统，仍有人通过数据篡改等手段绕过审核。
AI技术滥用问题复杂，法律法规完善仅是底线。
目前，我国生成式AI用户达2.3亿。技术快速迭代使仿冒内容更难防范。
过去需深度学习的伪造技术，现在几分钟就能生成逼真内容，防伪难度陡增。
技术人员现场演示：拍摄一张照片，几分钟内AI大模型即生成直播带货视频，连服装和产品都自动替换。
打击AI“李鬼”需多方协同：平台应升级识别技术，采用数字水印等手段；法律法规需细化追责机制；技术开发者应守住“科技向善”底线。
AI仿冒带货不仅侵权欺诈，更动摇数字社会信任根基。消费者需保持理性，但仅靠个人识别远远不够，更需要平台和监管部门系统治理。唯有全社会合力，才能确保科技向善发展。
来源：央视新闻客户端
相关问答
明星代言虚假广告致民众受骗，代言的明星该承担怎样的责任?
目前，明星代言虚假广告鲜少承担法律责任。即便如某明星代言奶茶涉嫌诈骗超七亿，也仅解约道歉了事。
(修)出来的.2015年3月9日，该广告因构成虚_作业帮
所谓牙齿美白效果实为电脑修图所致。2015年3月9日，该广告因虚假宣传被罚603万元，创下当时纪录。
明星代言虚假广告，应与企业承担同等法律责任，是否支持呢?
完全支持！代言虚假广告收取高额费用坑骗百姓，实为助纣为虐。厂家与代言人应同罪同罚。
明星代言的游戏广告虚假宣传，算不算诈骗?
明星代言多少存在夸大成分。但从法律角度，游戏广告虚假宣传一般难以构成诈骗，其宣传措辞都经过法律规避。
关于明星代言虚假广告的看法?
明星代言虽有苦衷，但主要责任在不良厂商。面对虚假广告，我们应理性看待，重点追责黑心生产商。
明星虚假代言是否应当承担法律责任?
新《消费者权益保护法》规定，广告经营者发布虚假广告致消费者受损，应与商家承担连带责任。
明星代言虚假广告的侵权责任需要承担吗?-找法网
明星代言虚假广告需承担连带赔偿责任。具体处罚依据《广告法》规定，发布虚假广告将面临法律制裁。
明星代言做虚假广告要承担法律责任，这体现了权利和义务是对...
明星代言虚假广告需承担法律责任，体现权利与义务相统一原则，题目说法错误。
明星违约代言要赔偿多少怎么办_法律问答—华律网
明星违约代言赔偿需综合考量：合同约定优先，实际损失次之，包括品牌方因明星违约造成的各项损失。
产品代言人侵权责任划分-找法网
若代言人对商品作虚假推荐导致消费者受损，可能承担连带责任。涉及生命健康商品的虚假广告责任更重。
