主要观点：现在有利用 AI 克隆他人声音的欺诈电话，多年来研究人员和政府官员已发出威胁警告，2023 年相关威胁增加，安全公司 Group-IB 概述了此类攻击的基本步骤，包括收集被模仿者声音样本、利用 AI 语音合成引擎等，还展示了模拟红队演习中执行此类骗局的相对容易性，同时给出了预防此类骗局的简单措施。
关键信息：

• 欺诈电话常以紧急事项需立即行动诱骗接收者转账、泄露登录凭证或访问恶意网站。
• 攻击步骤包括收集声音样本、使用 AI 语音合成引擎、可选的号码欺骗、发起骗局电话及收集财物等。
• 模拟演习中安全团队轻松执行骗局，利用公开信息和 VPN 服务中断作借口，受害者易受欺骗。
• 预防措施包括约定随机短语及回拨已知号码等，但需接收者保持冷静警惕。
  重要细节：
• 样本短至 3 秒即可，多数服务虽禁止使用深度伪造但易被绕过。
• 实时攻击虽目前仍有限但未来会更常见。
• 预防措施需接收者克服紧急感保持冷静。