添加链接
link之家
链接快照平台
  • 输入网页链接,自动生成快照
  • 标签化管理网页链接
相关文章推荐
逼格高的抽屉  ·  使用模型绑定和 Web ...·  10 月前    · 
率性的黄瓜  ·  android 判断拍照格式 ...·  12 月前    · 
豪爽的金针菇  ·  [PHP] ...·  1 年前    · 
用http服务的方式集成learned cardinality estimate方法进 Postgresql 。本文的重点在于PG的修改。记录一下我的修改思路。整体流程为PG作为http客户端,向基数估计服务端发送http请求。内容为需要基数估计的sql语句。基数估计服务端返回该语句的selectivity。

代码地址: postgresql-13.1-ml: Integration of CardEst Methods into PostgreSQL by HTTP Server (github.com)

当前进度:可以支持单表查询、多表inner join的基数估计模块的替换。

注意:本文的重点在于PG的修改。记录一下我的修改思路。

PG作为http客户端,向基数估计服务端发送http请求。内容为需要基数估计的SQL语句。

基数估计服务端返回该语句的selectivity。

PG收到该查询的selectivity后乘以当前表的大小,即得到rows

项目的 难点 主要在于 获取需要基数估计的SQL查询语句

PG原版基数估计调用逻辑

主要修改代码costsize.c

单表修改set_baserel_size_estimates函数

其中get_expr函数的逻辑可参考print.c文件中print_expr函数

多表修改set_joinrel_size_estimates函数

获取需要基数估计的当前SQL查询语句

添加第三方库

该项目需要其它两个第三方库

  • C语言的HTTP服务的client端的库,参考项目: linux下socket(C)构造HTTP客户端
  • C语言解析json格式的库,参考项目: cJSON
  • 将第三方库的头文件和实现文件加入到PG中:

  • 把http.h 添加到 /src/include/utils/下
  • costsize.c 添加 #include "utils/http.h”
  • 把cJSON.h 添加到 /src/include/utils/下
  • 把cJSON.c 添加到 /src/backend/utils/adt/下
  • cJSON.c 把 #include "cJSON.h” 修改成 #include "utils/cJSON.h”
  • 在/src/backend/utils/adt/Makefile添加 cJSON.o \
  • costsize.c 添加 #include "utils/cJSON.h”
  • 单表查询的效果

    测试数据集:imdb.title

    PG原版计划 VS learned方法的计划

    通过 set enable_ml_cardest=True; 就可以实现单表基数估计方法的切换。

    最优计划(基数估计较准时产生的计划)

    可以看到learned方法基数估计更准确,产生的执行计划与基数估计几乎正常产生的计划一致。而PG原版的基数估计由于准确度太低,导致产生了次优的执行计划。

    虽然learned方法的速度没有PG原版快,但产生的计划更优,导致节省了执行时间,所以整体时间更优。

    多表查询的效果

    测试数据集:imdb

    PG原版基数估计产生的计划 VS 多表基数估计为真值情况下产生的计划

    通过 set enable_ml_joinest=True; 就可以实现多表基数估计方法的切换。

  • 当前版本只适用于实验环境。尚未对不支持的查询进行过滤。
  • End-to-End-CardEst-Benchmark
  • VLDBSS2022实验
  • PostgreSQL 在内核增加一个配置参数
  • linux下socket(C)构造HTTP客户端
  • cJSON使用详细教程 | 一个轻量级C语言JSON解析器
  • cJSON
  •