可归结为文档排序的难题

主要观点:

  • LLMs 可有效用于列表式文档排序及将一些复杂问题转化为文档排序问题来解决,如通过补丁差异定位 N 天漏洞。
  • 关键在于将补丁差异视为排序问题,应用信息检索的文档排序技术,证明 GPT-4o mini 能在大量函数中定位固定漏洞且成本低。
  • 文档排序可应用于其他攻击安全问题,如确定模糊测试目标候选函数、优先测试 web 应用潜在注入点等,并有改进技术的想法。
  • 受 Thomas Dullien 演讲启发,倾向做类似“LLMs 不合理成功的原因”的演讲。

关键信息:

  • 提到了一些关于用 LLMs 进行文档排序的相关研究,如[Prompting-based Methods for Text Ranking Using Large Language Models]和[Large Language Models are Effective Text Rankers with Pairwise Ranking Prompting]。
  • 给出了在[RVAsec ‘24]和[DistrictCon ‘25]的相关演示及成果,包括发布命令行工具raink等。
  • 提及了 DistrictCon 幻灯片及具体漏洞案例,如[CVE-2024-53704]的 exploit 生成。

重要细节:

  • 详细说明了将补丁差异转化为排序问题的过程及优势。
  • 介绍了文档排序在不同攻击安全问题上的应用示例。
  • 提及对技术的改进想法,如分析 top N 结果及使排序结果可验证等。
阅读 8
0 条评论