AIGC时代如何打击图片造假诈骗？合合信息文档篡改检测有妙招

近日，第七届中国模式识别与计算机视觉大会（简称“PRCV 2024”）在乌鲁木齐举办。大会由中国自动化学会（CAA）、中国图象图形学学会（CSIG）、中国人工智能学会（CAAI）和中国计算机学会（CCF）联合主办，新疆大学承办。
作为模式识别和计算机视觉领域学术盛会，PRCV 2024吸引了众多国内外科研工作者及行业从业者参与，分享最新理论研究进展和技术研发成果，促进产学研交流与合作。图像是信息的主要载体之一。近年来，基于虚假图片产生的欺诈事件对社会造成了恶劣的影响，图像内容安全在计算机视觉领域的重要性日益突出。合合信息图像算法研发总监郭丰俊博士受邀分享了合合信息在智能图像处理及图像内容安全方面的最新研究成果和应用实践。AI“慧眼”让证照造假无所遁形证件图像是造假的“重灾区”，即便是一张小小的行驶证，也可延伸出多种花式造假方法。
在《生成式Al时代的内容安全与系统构建加速》主题分享中，郭丰俊提到，在汽车交易、运输等业务中，涉及大量驾驶证、行驶证真实性核查需求。以二手车交易为例，行驶证涉及车辆买卖合法性，不法分子通过伪造、变造车辆登记证、行驶证号牌号码、发动机号码等的方式实施合同诈骗，从中牟利，给相关企业造成了高额的经济损失。

合合信息图像篡改检测技术定位行驶证造假位置除上述局部篡改手段外，AIGC技术的普及，让“无中生有”成为了一种新的造假形式。今年5月，上海市宝山区人民法院审结了一起伪造国家机关证件案：为帮助违章驾驶人代扣分来获取利益，被告人开发“行驶证美化”模块。使用者上传行驶证照片后，模块自动生成带有行驶证版式、各省市交通部门印章的“新”行驶证。多位“黄牛”使用该模块生成假证20万张，交给代扣分驾驶员用以违章处理，获利超过30万。
“由于篡改手段的多样性、篡改文本的隐蔽性，检测任务目前存在篡改痕迹微弱、篡改文本与邻近文本高度相似等难点，对检测方法的精度和泛化性提出了挑战。”据郭丰俊介绍，面对复制粘贴、拼接、擦除及混合造假形式，合合信息图像篡改检测技术能够捕捉图像在篡改过程中留下的细微痕迹，在保持极低误检率的同时，准确识别并定位图片中文本的篡改行为；面对生成式图像造假，合合信息图像篡改检测技术可基于空域与频域关系建模，利用多维度特征以鉴别图像是否由 AI 生成，并给出相应的警告或提示。现阶段，合合信息图像篡改检测技术已被应用于卡证篡改检测中，不仅在驾驶证、行驶证检测中实现了良好的鉴伪效果，也在银行移动开户、信用卡申办、保险理赔，财务报销审批及其他商业消费场景中广泛落地，为机构、企业规避图像伪造带来的经济风险。

合合信息图像篡改检测技术定位财务报销材料造假位置产学研携手共筑图像安全防线在大模型飞速发展的背景下，需要更高级别的技术手段来应对伪造技术的不断进步。本次大会期间，谭铁牛院士《大模型背景下的数字内容取证》主旨报告广受瞩目。报告针对虚假信息带来的严峻挑战，指出了包括视觉伪造检测、AIGC检测在内的数字内容取证技术的重要性，为在大模型背景下保障数字内容的真实性和可信性提供了重要方法和思路。用科技手段应对日益复杂的信息伪造和滥用问题，是全社会共同关注并为之努力的“大课题”，也亟须建立起可靠、可信的专业标准，为行业发展指引方向。
今年9月，由中国图象图形学学会、中国信息通信研究院、合合信息、中国科学技术大学等高校、公司联合编制，中国互联网协会发布的《文本图像篡改检测系统技术要求》围绕“细粒度”视觉差异伪造图像鉴别、生成式图像判别等行业焦点议题，建立了统一的评估框架，将助力文档图像处理技术安全、有序发展。