转自：成都日报锦观

AI换脸冒充亲友、AI合成“专家”带货、AI预测彩票……

警惕Deepfake骗局

今年开年以来，以国产大模型DeepSeek为代表的生成式人工智能技术加速普及。然而，技术的普惠性也成了新型骗局的温床。

据统计，仅去年12月至今年2月期间，就出现了超过2000个仿冒DeepSeek的域名，通过钓鱼欺诈、域名抢注等手段，窃取用户密码、诱骗下载恶意软件、骗取订阅费用。与此同时，AI预测彩票号码、AI医生带货保健品等骗局频发。

奇安信发布的《2024人工智能安全报告》显示，2023年，基于AI的深度伪造（Deepfake）欺诈暴增3000%。技术狂飙之下，AI诈骗从“广撒网”转向“精准围猎”，一场关于信任与安全的攻防战正在上演。

Deepfake即深度伪造技术，是指“生成式对抗网络”（GAN）的机器学习模型将图片或视频合并叠加到源图片或视频上，借助神经网络技术进行大样本学习，将个人的声音、面部表情及身体动作拼接合成虚假内容的人工智能技术。

在AI技术的加持下，诈骗活动变为“精准滴灌”。诈骗分子利用AI技术事先筛选，摸清受骗者的详细身份信息，量身定制诈骗套路，进而进行精准诈骗。

数据显示，在所有AI诈骗案例中，冒充类诈骗占比高达62%，其次是金融类和交易类诈骗。

AI换脸冒充亲友是最具代表性的骗局之一。某科技公司老板郭先生在视频通话中目睹“好友”面容、亲闻其声，10分钟内转账430万元，事后发现对方竟是AI换脸与拟声技术合成的“数字替身”。

另一类高发骗局是AI合成“专家”带货，利用老年人的健康焦虑，结合洗脑式话术，形成“引流—私域转化—快递代收”的链条。不久前，网上出现某知名医生带货的视频，其售卖一种蛋白，有老人信以为真下单购买，但该医生澄清，视频中的人物并非他本人。经过核实，“医生带货视频”为AI合成。

AI预测彩票则是针对年轻群体的“暴富陷阱”。诈骗分子利用AI生成“高命中率”彩票预测模型，宣称“算法包赚”，诱导用户支付会员费或分成。“中国体育彩票订阅号”称，再强大的AI也无法预测中奖号码，因为每次开奖都是独立的，开奖号码均为随机产生，根本无法预测。

事实上，全球AI治理体系也在加速构建，从监管和技术两个方面双轨并行。中国信息通信研究院发布的《人工智能发展报告（2024年）》指出，全球AI安全治理正处于“从原则到实践”的关键阶段。

科技企业作为AI技术的研发者和应用者，在AI治理中有着关键作用。

技术层面，多家企业正发展一体化、定制化的安全方案，覆盖风险识别、评估与防御。例如，微软推出的PyRIT工具可评估大模型内容的安全性；奇安信发布的AI安全整体方案则集成安全框架、解决方案和测试工具，全面应对大模型带来的内容安全与伦理风险。

“面对AI深度伪造技术带来的新挑战，我们需要在技术创新与防范风险之间寻求平衡。”中国科学院大学讲席教授、知识产权学院院长马一德表示。

成都日报锦观新闻记者 吴茜