导 读

近日,KaiwuDB 与中国人民大学合作的论文 FOSS: A Self-Learned Doctor for Query Optimizer 被数据库领域顶会The 40th IEEE International Conference on Data Engineering (ICDE 2024) 录用啦!

论文中提出了具备自学习、自诊断能力的查询优化器 FOSS,推动了基于 AI 算法的学习型查询优化技术创新发展。KaiwuDB 高级研发工程师、人大信息学院博士孙路明为共同作者。

640.png

近年来,数据库研究人员提出了多个基于 AI 算法的学习型查询优化器,比如:

  • 自下而上的方式从头学习构建查询计划;
  • 通过提示(Hint)引导或者限制传统优化器的执行计划生成过程;
  • ... ...

虽然上述方法取得了一定成功,但它们却面临训练效率低下、计划搜索空间有限等方面的挑战 ⚡

而本篇论文提出的 FOSS —— 基于深度强化学习的查询优化新框架,与引导传统优化器行为的黑盒方法不同,FOSS 是一个白盒方法,通过优化传统查询优化器生成的计划,更好地利用专家优化知识。其行为类似一个诊疗查询计划的医生,它从传统优化器生成的原始计划开始优化,发现其中的性能问题,通过系列优化动作逐步改进计划中的次优节点。

此外, FOSS 还采用了不对称的收益模型来评估两个计划之间的性能差异。为了提高 FOSS 的训练效率,我们将 FOSS 与传统优化器集成以形成一个模拟环境。利用该模拟环境,FOSS 可以自动快速生成大量高质量的模拟经验,然后从这些经验中学习以提高其优化能力。

论文在 Join Order Benchmark, TPC-DS 和 Stack Overflow 等多组数据集和负载上评估了 FOSS 的性能。实验结果表明:FOSS 在模型收敛速度、查询优化效果上优于现有学习型查询优化器,与 PostgreSQL 默认查询优化器相比,更是获得了最高 8.33 倍的加速效果🚀

通过引入该技术,数据库查询性能、响应时间及用户体验或将有效提升,适用于 OLAP、HTAP 等数据密集型场景的查询需求。

640.jpg

未来,KaiwuDB 也将始终坚持以先进技术打磨产品,加速学术研究与产业应用融合,为中国数据库技术创新发展、数据处理效能提升等方面贡献新思路,为政企客户伙伴提供高性能、高可用、易运维的数据服务,助力产业数字化升级与应用创新。


KaiwuDB
15 声望1 粉丝

KaiwuDB 是浪潮控股的数据库企业,汇聚了全球顶尖的数据库人才,面向工业物联网、数字能源、车联网、智慧产业等各大行业领域,提供稳定安全、高性能、易运维的创新数据软件与服务,一站式满足 AIoT 等场景下数据...