报告概述

趋势科技（Trend Micro）、欧洲刑警组织欧洲网络犯罪中心（EC3）以及联合国区域间犯罪和司法研究所（UNICRI）联合发布了一份关于当前及未来人工智能（AI）犯罪滥用的报告。报告还包含了一系列针对政策制定者、执法部门和网络安全专家的准备建议。

报告内容

报告探讨了AI的恶意使用和滥用。恶意使用指犯罪分子将AI工具作为攻击手段，而滥用则指攻击者试图利用AI系统。报告不仅讨论了已有案例，还预测了未来可能的滥用情况，并借鉴了“地下”论坛的趋势。为应对恶意行为，报告提出了多项建议，包括将AI用于打击犯罪、推动安全AI系统的开发等。

现有滥用案例

报告详细列举了现有AI滥用的案例，包括：

• AI增强的恶意软件
• AI支持的密码猜测和验证码破解
• AI辅助的加密
• 智能助手的滥用

例如，报告中提到了一款可以按周或月租用的验证码破解工具，以及一个能够解析14亿条凭证以生成密码规则的GitHub仓库。

未来潜在滥用

报告还分析了地下论坛中的讨论趋势，识别了未来可能的AI滥用，包括：

• AI支持的黑客攻击
• 加密货币交易
• 在线游戏作弊
• AI用于冒充真人进行欺诈或社交工程攻击

深度伪造（Deepfakes）的滥用

报告特别深入探讨了深度伪造技术，指出尽管该技术有许多正面应用（如语音修复），但也存在恶意使用的风险。例如，黑客可以使用“语音克隆”工具模仿权威人物，诱骗受害者转账。此外，深度伪造视频已被用于损害政治人物和名人的声誉，伪造照片也被用于制作欺诈性护照。

建议与应对措施

报告提出了多项增强应对能力的建议，包括：

1. “AI向善”：利用AI技术打击犯罪，构建可信赖的AI，推动负责任的AI创新。
2. 进一步研究：进行威胁评估和风险管理。
3. 创建安全AI设计框架：制定AI网络安全技术标准和数据保护规则。
4. 加强公众意识：提高AI素养，促进公私合作和多学科协作。

行业背景与相关行动

近年来，AI能力的增长引发了对其滥用的担忧。2018年，非营利组织OpenAI发布了类似报告，预测并预防AI的恶意使用。2019年，OpenAI因担心技术滥用而推迟发布GPT-2语言模型。为应对深度伪造威胁，微软和Facebook等公司发起了“深度伪造检测挑战”，斯坦福和加州大学伯克利分校的研究团队正在开发能够检测80%以上伪造视频的AI。此外，Alphabet CEO Sundar Pichai呼吁对AI进行“合理”监管，欧盟也在考虑暂时禁止公共场所使用面部识别技术。

结论

报告强调了AI滥用的现实威胁，并呼吁各方采取积极措施，通过技术、法规和公众教育等多方面手段，预防和应对AI的恶意使用。