2024年12月20日,由厦门市人民政府主办,以“融新汇智 竞促发展”为主题的第五届中国人工智能大赛成果发布会在厦门成功举办。人工智能安全论坛于成果发布会期间举办,重点聚焦人工智能安全技术专家,共同探讨安全治理的实践经验,探索智能体安全、大模型安全、数据安全、内容安全等方面面临的挑战和解决方案。百度安全技术委员会主席包沉浮受邀出席,分享了智能体技术在代码安全应用上的最新实践经验。

图片
百度安全技术委员会主席包沉浮

当前,大模型与智能体等前沿技术呈现出迅猛的发展态势,正在安全领域发挥重要作用。据包沉浮介绍,在代码安全领域,百度推出了基于文心大模型的代码安全智能体,集成在百度智能编码提效工具“文心快码”中,能够帮助研发人员在设计、编码、构建、测试和验证阶段,快速发现并修复通用漏洞、供应链漏洞、机密信息泄漏等各类常见安全问题。

当下,“安全左移”作为落地DevSecOps的重要实践之一,已在业界达成共识。安全左移与软件开发生命周期密切相关,即在软件开发生命周期的早期,也就是在设计、编码阶段安全措施的介入,旨在从上游源头把控“安全”这一软件交付的底线与基石,降低后期的修复成本与风险。

文心快码及代码安全智能体,可有效解决企业软件研发过程中风险管控滞后、漏洞修复成本高、安全运营成本高等痛点,推动了企业软件研发安全从管理手段向技术驱动模式的转变。包沉浮强调,通过大模型智能体驱动的“安全左移”,在DevOps全流程最可能产生安全问题的阶段,对问题进行自动化检测和修复,低门槛上手、高质量完成,实现效率、质量、安全的三者兼得。在百度内部实践中,目前,文心快码安全漏洞召回率已达到94%,扫描准确率超过95%,并有84%的扫描漏洞已被修复闭环。

与此同时,百度安全作为八家核心参编单位之一,深度参与中国信息通信研究院依托中国人工智能产业发展联盟(AIIA)安全治理委员会《智能体安全技术要求与评估方法》系列规范的编写工作,推动智能体安全技术评估方法建设,提升智能体技术的安全性和可靠性,助力智能体应用安全发展。

图片
智能体安全评估规范 核心参编单位

目前,文心快码已升级至3.0版本,在开发全流程中,续写智能体、单测智能体、修复智能体、安全智能体、问答智能体等多个智能体流水线协同,不仅大幅提升了程序员的工作质量和效率,更释放了大家的创造力。

在新一轮人工智能产业发展浪潮中,智能体技术正在重塑研发安全范式。通过深度融合大模型能力,构建多智能体协同的安全治理体系,企业能够以更低成本、更高效率地应对各类安全挑战,推动软件产业高质量发展。除了在百度内部广泛应用外,文心快码也已服务于吉利汽车、顺丰科技、华农保险等众多行业领军企业,帮助企业构建安全可靠的软件研发体系。随着智能体技术的持续发展,基于大模型的代码安全治理将在更广泛的领域发挥作用,为人工智能时代的软件研发安全保驾护航。


百度安全
103 声望931 粉丝

百度安全官方内容平台,集合顶级行业论文、技术解读、案例实践等优质内容,如需转载或合作,邮件zhangxinyue02@baidu.com,秒级回复!