随着AI技术的不断发展，AI成为网络诈骗的新工具。不法分子深度伪造技术，进行“AI拟声”“AI换脸”，融合他人面孔和声音制作虚假图像和音视频，制作虚假身份，仿冒他人身份实施诱骗受害者转账等犯罪行为。这类诈骗方式变化多样、难以分辨，消费者容易落入骗局。毫无疑问，在当今的数字环境中，AI已经改变了身份欺诈的性质。

今年早些时候，年仅 20 岁的乌克兰网红奥尔加·洛耶克（Olga Loiek）在网上遭遇了一群 AI 生成的克隆人。“我真的被吓坏了，我看到我的脸在用中文推销商品，”她向媒体表示。这些在社交媒体平台上销售产品的主播，其脸和声音均是通过 AI 换脸技术生成的，他们将自己描述为在中国的外国人，销售着外国的土特产。

根据麦肯锡研究所的数据，基于AI的身份欺诈已成为美国增长最快的金融犯罪类型，并且在全球范围内呈上升趋势。英国GDG的研究表明，英国有超过860万人使用虚假或他人的身份来获取商品、服务或信贷。

2023年11月，诈骗分子伪装成某科技公司郭先生的好友，骗取430万元；2023年12月，一名留学生父母收到孩子“被绑架”的勒索视频，被索要500万元赎金；2024年1月，香港一19家跨国公司员工遭遇钓鱼诈骗损失2亿港元；2024年2月，AI病毒“GoldPickaxe”出现，能够盗取人脸信息、转走用户银行卡余额  ……随着AI的广泛应用，其带来的...

AI换脸，也称为“深度伪造”（Deepfake），是一种利用人工智能技术将人脸替换到另一个人的脸部上的技术。“深度伪造”技术涉及多种技术和算法，可以生成非常逼真的图像或视频。将“深度伪造”的虚假内容与真实信息的元素拼凑在一起，就可以用于可以伪造身份、传播错误信息、制作虚假数字内容，进行各类欺诈。

4月2日，在顶象CSDN直播间，最新一期“业务安全大讲堂”上，顶象数据科学家翼龙与资深解决方案专家鳯羽，围绕当前备受关注的AI威胁、人脸风险进行深入分享，并详细介绍针对AI威胁的最新反欺诈技术与安全产品。

2023年11月，诈骗分子伪装成某科技公司郭先生的好友，骗取430万元；2024年1月，香港一19家跨国公司员工遭遇钓鱼诈骗损失2亿港元；2023年12月，一名留学生父母收到孩子“被绑架”的勒索视频，被索要500万元赎金 ......

2022年7月，美国联邦调查局互联网犯罪投诉中心（IC3）发布了一份新的公告，该公告警告说，越来越多的诈骗分子正在使用“深度伪造”技术在远程职位面试中冒充求职者，骗取企业薪资、盗取企业的商业机密。

2023年12月6日，美国佛罗里达州迈阿密派恩克雷斯特湾学院（Pinecrest Cove Academy）的两名学生被停学。几天后的12月22日，他们被迈阿密戴德警察局逮捕。并被指控犯有三级重罪，罪名是涉嫌制作同学的“深度伪造”裸照。 

2024年央视3·15晚会，曝光了制造水军的“主板机”。报道指出，该“主板机”可集成20块手机主板于一体，使用者只需一台设备即可同时操控20部手机，实现海量信息发布、地域伪装等功能。广泛应用于网络营销、游戏作弊、社交平台刷量等多种灰色地带，甚至不乏用于网络投票操控、薅羊毛等不正当甚至是非法行为。

《“AI换脸”威胁研究与安全策略》共分为8章32节，系统介绍了“AI换脸”威胁的构成、“AI换脸”的危害、“AI换脸”欺诈的过程、典型的威胁模式、背后的产业链、目前主流的识别检测策略、各国针对“AI换脸”的监管规定、“AI换脸”欺诈案件中各方需要承担责任等_（点击免费查看或下载）_。

近日，央视报道了香港2亿港元的“AI换脸”视频会议诈骗案。这起诈骗案的特点是利用了人工智能的深度伪造技术，诈骗分子事先搜集了目标公司高层管理人员的面部和声音数据，通过AI技术将这些数据“换脸”到骗子的身上，制作出看似真实的视频会议，导致参加视频会议的公司职员将2亿港元转入骗子的账户。

网络钓鱼一直是安全领域的一个突出话题，尽管这类诈骗形式已经存在了几十年，依旧是欺诈攻击或渗透组织的最有效方法之一。诈骗分子基于社会工程原理，通过邮件、网站以及电话、短信和社交媒体，利用人性（如冲动、不满、好奇心）的手段，冒充受信任的实体，诱使受害者点击虚假链接、下载恶意软件、诱导转移资金、提供账...

国外媒体报道，在2月17日德国慕尼黑的一次安全会议上，包括亚马逊、谷歌、IBM、LinkedIn、McAfee、Meta、Microsoft、OpenAI、Snap、TikTok和X等20 家世界领先的科技公司宣布，将联合打击“深度伪造”信息。

近日，警方通报了一起使用智能AI技术进行电信诈骗的案件。被骗者是福州市某科技公司法人代表郭先生，他通过微信视频接到自己好友的电话，对方佯装需要借用他公司账户走账，并通过智能AI换脸技术伪装成好友成功骗取了郭先生430万元。虽然警方在银行协助下成功拦截了336.84万元，但仍有93.16万元资金被转移。此类高科技、...

2022年1月，顶象防御云业务安全情报中心监测发现，黑灰产破解多家公司保险考勤系统，还制作出打卡作弊工具，并向保险公司员工兜售“代打卡服务”。通过该服务，保险公司员工能够不出门不到岗，也可以实现“上班打卡”，轻松领取全勤奖。

刷脸进出社区住宅、刷脸考勤、刷脸购物、身份验证、手机解锁等，人脸识别设备已广泛应用于金融、医疗、安检、支付、文娱等各种公共服务，只要是身份认证场景，基本都会用到人脸识别。

手机银行是银行高效便捷的业务办理渠道。《2021中国数字金融调查报告》显示，2021年，个人手机银行用户达到20.5亿户，渗透率达85％，已成为银行业最重要的线上流量入口。

刷脸进社区、刷脸考勤、刷脸乘车、刷脸购物等，人脸识别设备已广泛应用于各种公共服务场景。尤其随着常态化疫情防控的需要，越来越多的公共服务管理场合开始采用非接触式的人脸识别应用来保障人员的出入安全。

2019年4月，消费者郭某支付1360元购买杭州野生动物世界“畅游365天”双人年卡，确定指纹识别入园方式。2019年7月、10月，野生动物世界两次向郭某发送短信，通知年卡入园识别系统更换事宜，要求激活人脸识别系统，否则将无法正常入园。郭某认为人脸信息属于高度敏感个人隐私，不同意接受人脸识别，要求园方退卡。双方因协商...

人脸识别技术是基于人面部特征数据进行身份识别的一项生物特征识别技术。随着大数据、人工智能、云计算、5G等技术迅猛发展，人脸识别技术获得了广泛应用空间。手机解锁、身份验证、上班打卡等，人脸识别技术在金融、医疗、安检、支付、文娱等诸多领域得到普及，这为数字经济社会发展和人们日常生活带来了新机遇。带来便...

2021年，广州互联网法院通报了一起因为“刷脸”引发的借款纠纷。客户王兰（化名）在遗失了身份证后，却被人冒用身份通过银行的“人脸识别”贷款，导致王兰因逾期被告上了法庭。经司法笔迹鉴定，认为案涉客户签名并非王兰本人签署，手机号码亦未曾登记在王兰名下。最终，法院驳回银行全部诉讼请求。