主要观点:LLMs 在很多事情上表现出色,常被用于解决传统需大量人力完成的任务,如 Brendan Dolan-Gavitt 用 Claude 生成 GIF 解析代码的模糊器并发现漏洞。
关键信息:
- LLMs 被认为不擅长精确的代码推理,但在生成“足够接近”的模糊器方面可能更合适,因为模糊测试是随机过程。
- Brendan 用 Claude 对已知输入格式的 GIF 和 VRML 进行实验成功,作者测试 Claude 对未知输入格式,发现其生成的模糊器能触发部分漏洞但不是全部。
- 分析 Claude 模糊器无法找到所有漏洞的原因,以及让 Claude 直接在代码中寻找漏洞的情况,发现能找到部分漏洞且有假阳性。
- 提出可结合模糊测试和静态分析的方法,初步实验表明有前景,但仍需进一步工作验证。
重要细节: - 介绍了 GIF 解析代码的 C 代码结构及漏洞,Claude 生成的模糊器及需修复的类型错误。
- 未知输入格式的数据包结构及包含的漏洞,Claude 生成的模糊器在该格式下的表现及与 Brendan 实验结果的相似性。
- 比较模糊测试和静态分析的差异及局限性,以及后续提出的结合两种方法的设想和初步实验结果。
**粗体** _斜体_ [链接](http://example.com) `代码` - 列表 > 引用
。你还可以使用@
来通知其他用户。