一通“奶奶救我”来电：AI换声“假孙子”设局，换脸低至1元
你接到过陌生来电吗？想象一下，电话那头传来“孙子”的哭喊：“奶奶，我不小心撞了人，千万别让爸妈知道，你快救救我！”
湖南的刘奶奶慌了神，立刻取钱3万元，在村口亲手交给“所长亲戚”。这竟是AI伪造的陷阱！
数字化浪潮下，AI技术化身双刃剑，悄然瞄准老年人。声音与视频伪造门槛骤降，黑灰产猎手精准利用老人信息闭塞和情感依赖，布下天罗地网。
新京报贝壳财经记者调查揭露，这些骗局背后是深度伪造技术支撑。AI“陷阱”分两类：伪造亲属诈骗钱财，或冒充专家直播卖货。虚假宣传视频夸大功效，编造“治愈案例”，让老人深信不疑。
记者搜索发现，换脸/克隆声服务“打包出售”低至1元，境外平台更提供“一条龙服务”，标价仅十几元至百元。
北京盈科（合肥）律师事务所合伙人姜万东指出，AI换脸已成商业模式，但未经许可使用他人素材、提供收费服务或假冒权威人士，均属侵权甚至犯罪。
“孙子惹祸，急需用钱”，AI换声、换脸诈骗盯上养老钱
“老人接固话，听‘儿子’声音语气一模一样，还说出了名字！骗子以撞人需钱为由，叮嘱‘别告诉爸妈’。”网友直呼可怕。
骗局步步为营：跑腿小哥上门取钱，老人报警才醒悟。反诈专家吴明揭秘，起点是隐私泄露——未知App窃取通讯录，AI利用公开声音数据克隆逼真声线。
贝壳财经梳理案例，AI冒充亲友诈骗多针对老人，套路高度一致：隐私泄露后，伪造身份，以“惹祸需钱”等理由索财。
10月21日至26日，记者在国内外平台发现，AI换脸教程标价1元，提供“无限制生成”和“去AI化”功能；声音克隆现场版“贵20元”。
黑灰产卖家明码标价：“换脸换声视频”463元，仅换声228元，支持“定制话术”。更有专业诈骗软件配合：“手机拨打视频电话，配合换脸软件天衣无缝。”
黑灰产卖家宣传信息。截图
“假专家”出没带货，80元可定制明星“代言视频”
AI克隆服务买家多为带货者，此前靳东、雷军等名人遭伪造。卖家晒出郭富城、巩俐“代言视频”，部分指向金融诈骗。
记者咨询获悉，AI视频制作80元起。商家推销软件：“188元月卡生成明星形象，张雪峰也能克隆。”
交易平台上，卖家宣称可以自定义形象。截图
声音克隆门槛极低：记者用开源软件训练3分钟录音，合成短句几乎无法识别。软件标注：“使用者自负全责。”
视频平台负责人称，AI虚假宣传是治理重点，平台严禁虚构人设背书，违规者将受封禁处罚。
中国人民大学研讨会发布《老年人短视频健康使用指南》，揭露AI伪造身份骗局：伪造名人或编造养老金、家人健康谎言，诱导互动后倒卖账号牟利。
姜万东强调，AI合成“假专家”带货可触犯民法典、消费者权益保护法及刑法，构成诈骗罪或虚假广告罪。
走出“定向”诈骗，深度伪造与检测技术正相互博弈
基层民警反馈，“定向”诈骗成本高、案件少，但单笔金额巨大。反观平台，AIGC标识新规施行后，AI冒充“假专家”难度陡增。
9月1日，《人工智能生成合成内容标识办法》要求AI视频添加标识，阻断虚假传播。
中国信通院石霖指出，深度伪造与检测技术如杀毒与造毒般博弈：“伪造技术日益逼真，检测需样本积累，存在滞后性。”
海淀金融管理局提示老人：核实陌生来电身份，通过私密问题验证；保护个人信息，启用双重验证；警惕高收益投资，牢记“天上无馅饼”。
研讨会专家共识：应对风险需多管齐下——老人提升反诈意识，家庭提供心理支持，社会普及技术知识。
北京东方老年研修学院杨文霞呼吁：“老人需知晓AI技术，才能识破虚拟骗局。”中国人民大学唐丹强调：“家庭是第一防线，子女应日常科普风险。”
新京报贝壳财经记者 罗亦丹 韦英姿
编辑 王进雨
校对 柳宝庆
相关问答
被录制在qX上的不雅视频威胁要发送给通讯录的人，会发送吗?-...
1.网络视频恐吓威胁后果严重，建议立即报警。公安机关可依据治安管理处罚法行政拘留涉案者，情节严重者按寻衅滋事罪追责...
聊不雅视频被恶意录制并受到威胁，怎么应对?-找法网
1.遭遇网络视频恐吓，优先报警处理。公安机关可采取行政拘留措施，情节恶劣者按寻衅滋事罪追究刑事责任...
帮别人发诈骗短信怎么处罚_在线咨询刑事辩护法律团队—华律...
帮发诈骗短信涉嫌帮信罪，处罚明确：根据《刑法》第二百八十七条之二，明知他人利用网络犯罪仍提供帮助，情节严重者...
涉嫌帮信罪获利一万判多久_法律问答—华律网
[回答]第二百八十七条之二规定，明知他人利用网络犯罪仍提供技术支持等帮助，情节严重者可处三年以下有期徒刑...
yw1639永不失联的最新消息:首页-图吧地图
央视网提示：警惕“代办无抵押贷款”黑中介。此类骗局通过短信、网络等渠道诱骗消费者...
常见的电信诈骗手法有哪些?应该怎么防范?-红网问答
2.冒充亲友“汇钱救急”：谎称亲人犯罪被抓、生病住院或遭绑架，要求汇款至指定账户。3.冒充房东...
他帮组国外诈骗团伙发短信,每天获利2000,做了差不多一个多月...
咨询：朋友协助国外诈骗团伙发短信，日赚2000元，持续一月多...若提供广告推广或支付结算等帮助，情节严重者可处三年以下有期徒刑...
民间借贷广告怎么投放的_法律问答—华律网
[回答]1.确保广告内容合法：严禁包含高息揽储、非法集资等信息。需真实披露借款金额、利率及还款条款...
有人在QQ上和我开黄色视频，然后弄成视频，威胁我，不然把视...
[回答]一.处理不雅视频威胁：1.立即报警。公安机关可行政拘留涉案者，情节严重者按寻衅滋事罪追责...
你好我被人用不雅视频威胁，对方能发给我通信录的人吗?-找法网
遭遇不雅视频威胁怎么办？1.报警是最优解。公安机关将采取行动，情节严重者追究刑责...
