欢迎来到深度伪造和诈骗层出不穷的偏执时代

如今,妮可·耶兰德(Nicole Yelland)在收到不认识的人的会议请求时,会进行多步骤的背景调查才决定是否接受。她会通过 Spokeo 等个人数据聚合器查询对方信息,若对方自称会说西班牙语还会测试其理解和翻译能力,若觉得不对劲会让对方开启微软团队通话并打开摄像头。

数字冒名骗局并不新鲜,各种平台和应用长期充斥着虚假信息,如今远程工作普及,专业通信渠道也不安全,人工智能工具让罪犯更易伪造身份。在领英上难以区分真人照片和 AI 生成的假照片,深伪视频让邮件骗子转向视频通话冒充他人,美国联邦贸易委员会报告显示,2020 到 2024 年与工作相关的骗局报告几乎增加两倍,实际损失从 9000 万美元增至 5 亿美元。

耶兰德去年 1 月曾遭遇冒充真实公司的骗局,“招聘经理”看似合法但视频面试时拒绝开摄像头并索要详细个人信息,她意识到被骗后立即关闭电脑。为此,AI 初创公司出现承诺检测 AI 深伪,如 GetReal Labs 和 Reality Defender,OpenAI 首席执行官山姆·奥特曼(Sam Altman)也运营身份验证初创公司 Tools for Humanity。

一些企业专业人士转而采用老式社会工程技术验证可疑互动,如让对方在通话时发邮件、查看 Instagram DMs 等,甚至使用暗号。区块链软件工程师丹尼尔·戈德曼(Daniel Goldman)听闻加密界人物被深伪后改变行为,提醒家人朋友收到类似请求要先邮件确认。招聘验证服务 Ropes 的创始人肯·舒马赫(Ken Schumacher)称招聘经理会快速询问求职者简历中关于居住地的问题,还会用“手机摄像头技巧”验证对方是否使用深伪技术。

然而,这些检查在双方尚未真正建立联系前就营造了不信任氛围,还很浪费时间。研究气候变化和社会行为的印第安纳大学布卢明顿分校助理教授杰西卡·艾斯(Jessica Eise)因欺诈者参与付费虚拟调查而被迫成为数字取证专家,他们花费大量时间筛选人员,现在已缩小研究规模并采用“滚雪球抽样”。

虽然没有广泛的技术解决方案,但一些常识有助于识别坏人,如耶兰德收到的假工作提案中薪资等细节不合理。此故事最初发表于 wired.com。

阅读 11
0 条评论