深入Oracle优化器:一条诡异执行计划的解决之道
ccwgpt 2024-11-25 10:21 54 浏览 0 评论
CBO计算成本并选择最佳执行计划的至关重要输入物就是表和索引的统计信息,过旧或错误的统计信息则可能导致一个性能极差的执行计划被错误地选中。本文将以一个案例展示诡异的统计信息如何影响执行计划的生成。
1案例介绍
这是一个简单的sql,近两个月来对于告警明细表(分区)做月度汇总查询时,总是出现了异常缓慢的情况。
测试SQL:
字段NEALARM_TIME是固定条件,字段RELATED_EMS_CUID是不固定的(这些不固定条件的选择性都不强),分区裁剪到的分区有着1~3月份的数据。
关于HISTORY_ALARM表, 存放20150301至今的数据,每天大约150w数据,有按1天1分区、1个月1分区,第41个分区比较特殊,这是一个有着2016年1月~3月份数据的分区;相信各位了解到这个sql的数据分区情况,第一联系到的访问路径就是分区全表扫描或访问复合索引,毕竟访问的数据占据着1/3个分区的数据。
下面是执行计划:
该表最新收集了表和索引的统计信息,采样比为auto,没有收集直方图,请看执行计划可以注意到其中一些奇怪的细节:
1.索引HIS_ALARM_INDEX1预估基数比父节点回表的基数还小,而且小很多;
2.索引HIS_ALARM_INDEX1是一个复合索引(NEALARM_TIME,NEEND_TIME),访问的字段只是日期(NEALARM_TIME)
正常情况下,索引选择率>=单表选择率,通过rowid回表后filter所返回的行数要小于索引扫描返回的行数;而如果访问索引只是单纯靠日期(NEALARM_TIME)过滤数据,还要再回表,对于1/3分区数据多达1500w行,其成本代价是远高于分区全表扫描的,这也难怪查询如此缓慢。
从执行计划上可以看到问题入手点:即id 3的索引预估返回值远小于id 4单表预估返回值,这是不合理的;再者即便要访问索引,为什么选择了复合索引,而不是前导列同样为NEALARM_TIME的单字段索引?
210053看问题
为了弄清楚上一步分析后的疑问,我们收集10053 trace帮助解析CBO是如何根据统计信息选择执行计划。
1. 首先计算单表基数
分区裁剪为Part#:40,统计信息来自分区统计信息
单表选择率,没有直方图:
选择率
CBO计算得到的单表选择率,我们可以逆推出来:
以上证明单表选择率是相对准确的。
2.访问路径及成本计算
从上述成本计算看到,CBO确实选择了表面上成本更小的索引范围扫描Index: HIS_ALARM_INDEX1,可看出了一些有用信息:
1.单字段索引HISALARM_PART_IDX_0(NEALARM_TIME)在分区Part#:40选择率1/3是正确的
2.访问本地分区索引HISALARM_PART_IDX_0(NEALARM_TIME)的成本确实比全表扫描高,13537358>2982164,最佳的访问路径应该是分区全表扫描
3.理论上,访问单字段的本地分区索引HISALARM_PART_IDX_0的成本应小于多字段的全局索引 HIS_ALARM_INDEX1,而10053中与之相反
4.访问全局索引HIS_ALARM_INDEX1(NEALARM_TIME,NEEND_TIME),从执行计划"Predicate Information"中可以看到访问字段只有NEALARM_TIME,其选择率出奇的低仅有0.000041
HIS_ALARM_INDEX1索引选择率ix_sel: 0.000041出奇的低,也导致了基数估算过小,COST仅有5562.83;一切表明着,全局索引HIS_ALARM_INDEX1使用的全局统计信息很可能有问题:
推算索引选择率
推算的索引选择率和10053中显示的索引选择率想去甚远,下面从视图dba_tab_col_statistics检查字段NEALARM_TIME的最大最小值:
全局统计信息的字段NEALARM_TIME最小值居然是“91890122”,而不是真实的20150301,导致全局统计信息的最小值远不同于真实日期(之后查明表中存在极其少量异常数据),这使得对NEALARM_TIME进行范围匹配时选择率偏低。上一步疑问已经找到原因:即便是sql语句写法已经使用了分区裁剪(使用分区统计信息),但CBO考虑访问全局索引是要根据全局统计信息进行成本计算的,而全局统计信息有误才出现了执行计划中一系列不合理的地方。
3小结与解决方法
CBO在对访问路径及其成本计算时会考虑所有可访问的索引,而进行全局索引访问方式的成本计算时使用的是全局统计信息。案例中执行计划的单表返回行数是根据分区统计信息估算(855K 准确),而索引返回行数是根据全局统计信息估算(5964 远远偏小),这是因为全局统计信息的字段最小值异常,导致进行范围匹配时选择率估算严重偏小,返回行数估算偏小,这也就是为什么执行计划中的索引返回行数远小于单表返回行数。
问题的根本原因是使用了错误的全局统计信息,解决方法就是纠正或不使用全局统计信息。
解决方法:找出异常数据删之,并重新收集统计信息。
workround:
1.drop该全局索引或重建为本地分区索引
2.将该全局索引设置为不可见"invisible" ,这样就不会使用到全局统计信息 <<后面介绍这种方法
3.对该字段收集直方图
下面是将问题索引”XZ_ALARM.HIS_ALARM_INDEX1”设置为 invisible后的优化效果,可以看到最佳执行计划已经不再考虑访问索引,因为访问本地分区索引HISALARM_PART_IDX_0(NEALARM_TIME)的成本比全表扫描高,13537358>2982164,在新的10053中是可以看到这一点的。
作者介绍 王培中
新炬网络资深DBA
近期热文精选(点击标题可阅读全文)
近期活动:Gdevops全球敏捷运维峰会北京站
原价169元的门票限时免费
原价599元的VIP票限时199元(优惠码:dbavip)
峰会官网:www.gdevops.com
相关推荐
- 十分钟让你学会LNMP架构负载均衡(impala负载均衡)
-
业务架构、应用架构、数据架构和技术架构一、几个基本概念1、pv值pv值(pageviews):页面的浏览量概念:一个网站的所有页面,在一天内,被浏览的总次数。(大型网站通常是上千万的级别)2、u...
- AGV仓储机器人调度系统架构(agv物流机器人)
-
系统架构层次划分采用分层模块化设计,分为以下五层:1.1用户接口层功能:提供人机交互界面(Web/桌面端),支持任务下发、实时监控、数据可视化和报警管理。模块:任务管理面板:接收订单(如拣货、...
- 远程热部署在美团的落地实践(远程热点是什么意思)
-
Sonic是美团内部研发设计的一款用于热部署的IDEA插件,本文其实现原理及落地的一些技术细节。在阅读本文之前,建议大家先熟悉一下Spring源码、SpringMVC源码、SpringBoot...
- springboot搭建xxl-job(分布式任务调度系统)
-
一、部署xxl-job服务端下载xxl-job源码:https://gitee.com/xuxueli0323/xxl-job二、导入项目、创建xxl_job数据库、修改配置文件为自己的数据库三、启动...
- 大模型:使用vLLM和Ray分布式部署推理应用
-
一、vLLM:面向大模型的高效推理框架1.核心特点专为推理优化:专注于大模型(如GPT-3、LLaMA)的高吞吐量、低延迟推理。关键技术:PagedAttention:类似操作系统内存分页管理,将K...
- 国产开源之光【分布式工作流调度系统】:DolphinScheduler
-
DolphinScheduler是一个开源的分布式工作流调度系统,旨在帮助用户以可靠、高效和可扩展的方式管理和调度大规模的数据处理工作流。它支持以图形化方式定义和管理工作流,提供了丰富的调度功能和监控...
- 简单可靠高效的分布式任务队列系统
-
#记录我的2024#大家好,又见面了,我是GitHub精选君!背景介绍在系统访问量逐渐增大,高并发、分布式系统成为了企业技术架构升级的必由之路。在这样的背景下,异步任务队列扮演着至关重要的角色,...
- 虚拟服务器之间如何分布式运行?(虚拟服务器部署)
-
在云计算和虚拟化技术快速发展的今天,传统“单机单任务”的服务器架构早已难以满足现代业务对高并发、高可用、弹性伸缩和容错容灾的严苛要求。分布式系统应运而生,并成为支撑各类互联网平台、企业信息系统和A...
- 一文掌握 XXL-Job 的 6 大核心组件
-
XXL-Job是一个分布式任务调度平台,其核心组件主要包括以下部分,各组件相互协作实现高效的任务调度与管理:1.调度注册中心(RegistryCenter)作用:负责管理调度器(Schedule...
- 京东大佬问我,SpringBoot中如何做延迟队列?单机与分布式如何做?
-
京东大佬问我,SpringBoot中如何做延迟队列?单机如何做?分布式如何做呢?并给出案例与代码分析。嗯,用户问的是在SpringBoot中如何实现延迟队列,单机和分布式环境下分别怎么做。这个问题其实...
- 企业级项目组件选型(一)分布式任务调度平台
-
官网地址:https://www.xuxueli.com/xxl-job/能力介绍架构图安全性为提升系统安全性,调度中心和执行器进行安全性校验,双方AccessToken匹配才允许通讯;调度中心和执...
- python多进程的分布式任务调度应用场景及示例
-
多进程的分布式任务调度可以应用于以下场景:分布式爬虫:importmultiprocessingimportrequestsdefcrawl(url):response=re...
- SpringBoot整合ElasticJob实现分布式任务调度
-
介绍ElasticJob是面向互联网生态和海量任务的分布式调度解决方案,由两个相互独立的子项目ElasticJob-Lite和ElasticJob-Cloud组成。它通过弹性调度、资源管控、...
- 分布式可视化 DAG 任务调度系统 Taier 的整体流程分析
-
Taier作为袋鼠云的开源项目之一,是一个分布式可视化的DAG任务调度系统。旨在降低ETL开发成本,提高大数据平台稳定性,让大数据开发人员可以在Taier直接进行业务逻辑的开发,而不用关...
- SpringBoot任务调度:@Scheduled与TaskExecutor全面解析
-
一、任务调度基础概念1.1什么是任务调度任务调度是指按照预定的时间计划或特定条件自动执行任务的过程。在现代应用开发中,任务调度扮演着至关重要的角色,它使得开发者能够自动化处理周期性任务、定时任务和异...
你 发表评论:
欢迎- 一周热门
- 最近发表
- 标签列表
-
- MVC框架 (46)
- spring框架 (46)
- 框架图 (58)
- flask框架 (53)
- quartz框架 (51)
- abp框架 (47)
- jpa框架 (47)
- laravel框架 (46)
- springmvc框架 (49)
- 分布式事务框架 (65)
- scrapy框架 (56)
- shiro框架 (61)
- 定时任务框架 (56)
- java日志框架 (61)
- JAVA集合框架 (47)
- grpc框架 (55)
- ppt框架 (48)
- 内联框架 (52)
- winform框架 (46)
- gui框架 (44)
- cad怎么画框架 (58)
- ps怎么画框架 (47)
- ssm框架实现登录注册 (49)
- oracle字符串长度 (48)
- oracle提交事务 (47)