今年早些时候，年仅 20 岁的乌克兰网红奥尔加·洛耶克（Olga Loiek）在网上遭遇了一群 AI 生成的克隆人。“我真的被吓坏了，我看到我的脸在用中文推销商品，”她向媒体表示。这些在社交媒体平台上销售产品的主播，其脸和声音均是通过 AI 换脸技术生成的，他们将自己描述为在中国的外国人，销售着外国的土特产。

根据麦肯锡研究所的数据，基于AI的身份欺诈已成为美国增长最快的金融犯罪类型，并且在全球范围内呈上升趋势。英国GDG的研究表明，英国有超过860万人使用虚假或他人的身份来获取商品、服务或信贷。

随着网络威胁的迅速发展，专家预计，到 2024 年网络犯罪将给美国公司带来高达 4520 亿美元的损失，且这一数字在未来几年还会迅速增长。除了网络安全措施，更关键是业务安全运营。如今，AI已成为不可或缺的安全工具，从网络钓鱼检测工具到可响应网络安全查询的AI聊天机器人，一应俱全。

2023年11月，诈骗分子伪装成某科技公司郭先生的好友，骗取430万元；2023年12月，一名留学生父母收到孩子“被绑架”的勒索视频，被索要500万元赎金；2024年1月，香港一19家跨国公司员工遭遇钓鱼诈骗损失2亿港元；2024年2月，AI病毒“GoldPickaxe”出现，能够盗取人脸信息、转走用户银行卡余额  ……随着AI的广泛应用，其带来的...

AI换脸，也称为“深度伪造”（Deepfake），是一种利用人工智能技术将人脸替换到另一个人的脸部上的技术。“深度伪造”技术涉及多种技术和算法，可以生成非常逼真的图像或视频。将“深度伪造”的虚假内容与真实信息的元素拼凑在一起，就可以用于可以伪造身份、传播错误信息、制作虚假数字内容，进行各类欺诈。

4月2日，在顶象CSDN直播间，最新一期“业务安全大讲堂”上，顶象数据科学家翼龙与资深解决方案专家鳯羽，围绕当前备受关注的AI威胁、人脸风险进行深入分享，并详细介绍针对AI威胁的最新反欺诈技术与安全产品。

2023年11月，诈骗分子伪装成某科技公司郭先生的好友，骗取430万元；2024年1月，香港一19家跨国公司员工遭遇钓鱼诈骗损失2亿港元；2023年12月，一名留学生父母收到孩子“被绑架”的勒索视频，被索要500万元赎金 ......

2022年7月，美国联邦调查局互联网犯罪投诉中心（IC3）发布了一份新的公告，该公告警告说，越来越多的诈骗分子正在使用“深度伪造”技术在远程职位面试中冒充求职者，骗取企业薪资、盗取企业的商业机密。

2023年12月6日，美国佛罗里达州迈阿密派恩克雷斯特湾学院（Pinecrest Cove Academy）的两名学生被停学。几天后的12月22日，他们被迈阿密戴德警察局逮捕。并被指控犯有三级重罪，罪名是涉嫌制作同学的“深度伪造”裸照。 

2024年央视3·15晚会，曝光了制造水军的“主板机”。报道指出，该“主板机”可集成20块手机主板于一体，使用者只需一台设备即可同时操控20部手机，实现海量信息发布、地域伪装等功能。广泛应用于网络营销、游戏作弊、社交平台刷量等多种灰色地带，甚至不乏用于网络投票操控、薅羊毛等不正当甚至是非法行为。

《“AI换脸”威胁研究与安全策略》共分为8章32节，系统介绍了“AI换脸”威胁的构成、“AI换脸”的危害、“AI换脸”欺诈的过程、典型的威胁模式、背后的产业链、目前主流的识别检测策略、各国针对“AI换脸”的监管规定、“AI换脸”欺诈案件中各方需要承担责任等_（点击免费查看或下载）_。

以下内容，摘编自顶象防御云业务安全情报中心正在制作的《“深度伪造”视频识别与防御白皮书》，对“深度伪造”感兴趣的网友，可前往顶象留言，在该白皮书完成后，会为您免费寄送一份电子版。

近日，央视报道了香港2亿港元的“AI换脸”视频会议诈骗案。这起诈骗案的特点是利用了人工智能的深度伪造技术，诈骗分子事先搜集了目标公司高层管理人员的面部和声音数据，通过AI技术将这些数据“换脸”到骗子的身上，制作出看似真实的视频会议，导致参加视频会议的公司职员将2亿港元转入骗子的账户。

网络钓鱼一直是安全领域的一个突出话题，尽管这类诈骗形式已经存在了几十年，依旧是欺诈攻击或渗透组织的最有效方法之一。诈骗分子基于社会工程原理，通过邮件、网站以及电话、短信和社交媒体，利用人性（如冲动、不满、好奇心）的手段，冒充受信任的实体，诱使受害者点击虚假链接、下载恶意软件、诱导转移资金、提供账...

2024年2月15日，国外安全公司Group-IB宣布，发现一个名为“GoldPickaxe”的恶意软件。该恶意软件的iOS版本，诱骗用户进行人脸识别、提交身份证件，然后基于用户的人脸信息进行深度伪造。

2月9日，除夕，中国与新加坡免签正式生效。免签政策简化了持普通护照中国游客入境新加坡的程序，使通关更为便捷。根据协定，双方持普通护照人员可免签入境对方国家从事旅游、探亲、商务等私人事务，停留不超过30日，为两国旅客往来提供了更多便利。

国外媒体报道，在2月17日德国慕尼黑的一次安全会议上，包括亚马逊、谷歌、IBM、LinkedIn、McAfee、Meta、Microsoft、OpenAI、Snap、TikTok和X等20 家世界领先的科技公司宣布，将联合打击“深度伪造”信息。

近日，一起针对海外留学生群体的新型电信网络诈骗案引发关注。中国驻美国使馆发言人证实，一名疑似遭绑架的中国留学生实际上遭遇了“虚拟绑架”诈骗。

近日，警方通报了一起使用智能AI技术进行电信诈骗的案件。被骗者是福州市某科技公司法人代表郭先生，他通过微信视频接到自己好友的电话，对方佯装需要借用他公司账户走账，并通过智能AI换脸技术伪装成好友成功骗取了郭先生430万元。虽然警方在银行协助下成功拦截了336.84万元，但仍有93.16万元资金被转移。此类高科技、...

春节后，央行公示首批罚单。其中，厦门银行被中国人民银行福州中心支行给予警告，并没收违法所得767.17元，处罚款764.6万元。同时，相关高管和多名工作人员也被处罚。根据公示内容可以显示，厦门银行因涉征信管理、个人信息保护以及反洗钱与反欺诈等23项违法行为。

2022年11月，ChatGPT发布时，国外曾掀起惊天巨浪，当时在国内却鲜有人提及。短短几天内，OpenAI开发的智能聊天机器人ChatGPT迅速走红。国内多家公司宣布推出ChatGPT类似服务：有公司宣布，将于3月推出自研的ChatGPT类产品；有公司宣布，计划推出Demo版ChatGPT产品；有公司宣布，推出内部测试类的ChatGPT工具；有公司表示...

2015年，针对社会精英的各类高品质消费及融资需求，宁波通商银行推出了为精英人士量身定制的“精英通”产品。随借随还，最高授信可达100万元。至2022年4月末，宁波通商银行线上“精英通”总贷款6.5亿元，客户7582户，其中2022年新增客户2808户，贷款余额增量3.3亿元。

汽车App的功能已从早期的简单控车延伸至汽车生活的方方面面。诸如对车辆软硬件的操控：解锁车门、升降车窗、远程启动、查看车辆行驶轨迹或当前位置等最“原始”的功能，在搭载智能车联功能的汽车App中已基本覆盖，甚至已有不少品牌将购车流程内置在了App中。

人机验证作为手机银行验证体系中重要的一环，其验证码的安全性以及用户体验成为了主要考验。12 月22 日，顶象资深解决方案专家鳯羽就手机银行的人机验证解决方案讲起，从人机验证需求的诞生、验证码的发展演变、手机银行验证码升级的必要性等方面为大家深度剖析了手机银行人机验证的最优解决方案。

近期，顶象发布了《城市消费券安全调研报告》（以下简称《调研报告》）。《调研报告》从城市消费券的发放规模、核销情况、风险出发，进一步分析除了黑灰产的作弊手段以及作弊工具。

以App store 为例。最新数据显示，当前61个国家/地区在 App Store 现存的App总数为29,085,727。其中虽包含重复的App，但也可见在不同国家/地区，App Store 可提供的App数量之丰富。规模庞大的App市场不仅丰富了 App Store 的应用生态，也帮助后者进一步赢得了更多用户。众所周知，App store在代码问题上审核较为严格。苹...

今年双十一，顶象特别发起了首届业务安全保卫战，旨在召集白帽子们为业务安全贡献自己的一份力量。历经一个月，顶象首届业务安全保卫战已于20日正式落下帷幕。截止11月20 日，顶象业务安全保卫战通过审核的业务安全情报&业务安全漏洞共计91个。经工作人员最终审核评定，本次业务安全保卫战Top 10 已出炉，最高积分200，...

某社交媒体平台遭遇持续性的恶意爬虫攻击，用户信息和原创内容被批量盗走，经分类梳理和初步加工后，被黑灰产转售给竞争对手或直接用于恶意营销。由此不仅给用户造成隐私和信息泄露，更给社交媒体平台的数字资产带来直接损失，破坏了内容产业的健康发展。

11月24日，顶象第十期业务安全大讲堂系列课程即将开讲！本期直播将由顶象研发总监&人工智能专家无常围绕智能模型平台的开发与部署展开讨论，快来一键get 模型平台开发与部署的知识点吧。Tips：本期直播将在顶象视频号 & 钉钉 & B站顶象直播间 & CSDN顶象技术直播间 多平台同步直播，感兴趣的同学记得一定要提前锁定直播...

顶象防御云业务安全情报中心监测到，某社交媒体平台遭遇持续性的恶意爬虫盗取。被批量盗取用户信息和原创内容，经分类梳理和初步加工后，被黑灰产转售给竞争对手或直接用于恶意营销。由此不仅给社交媒体平台的数字资产带来直接损失，影响用户对社交媒体平台的信任，更破坏了内容产业的健康发展。