推广 热搜: 行业  资金  一个    未来  信息技术  技术  科技  上海  科技创新 

SQL查询优化

   日期:2024-10-22       caijiyuan  
核心提示:#MySQL #查询优化MySQL优化器优先选择的满足匹配where条件顺序的索引,而不是其他索引。 例如第一个选择idx_age,第二

#MySQL #查询优化

 

MySQL优化器优先选择的满足匹配where条件顺序的索引,而不是其他索引。

例如第一个选择idx_age,第二个选择idx_age_classId,第三个选择idx_age_classId_name

在MySQL建立联合索引时会遵循最佳左前缀匹配原则,即最左优先,在检索数据时从联合索引的最左边开始匹配。

 

第一个查询能用上索引,第二个不能,因为没有以class_id开头的索引

 

这两个都全部使用了索引,因为**优化器会对where的顺序进行优化,按照能尽可能使用索引的顺序排**。

 

该查询使用了索引idx_age_classId_name,但只有age使用了,name没使用,按照最佳左前缀原则不能略过classId,因此只有age使用了。

where条件使用索引需按照索引建立的顺序,一旦跳过某个字段,索引后面的字段无法被使用

插入记录的主键最好是,否则就可能造成,这就意味着 。

建议让主键具有 ,而不是手动插入。

 

第一个使用了idx_name,第二个没有使用。

第二个因为需要函数对每个值进行计算,不能提前确定是否满足,只能全部遍历。

 

第一个没使用索引,第二个使用了,原因和使用函数类似。

 

第一个查询的name会进行类型转换,因此没使用索引,第二个使用了索引。

 

该查询使用了索引,但只使用了索引age和classId,因为classId是范围查找,导致接下来的name失效。要想充分使用索引可以将索引的顺序修改为。

 

第一个查询可以使用索引,第二个、第三个不能。

这三个其实都可使用索引,是否使用索引,取决于使用索引的成本是否大于全表扫描。

例如is null中,如果null值过多使用索引回表的次数过多,成本过高,查询优化器就会进行全表扫描

在设计数据表的时候就将字段设置为 约束,并设置默认值,例如将 类型设置为0,将字符串类型设置为空字符串(‘’)
在查询中 也可能会导致全表扫描。

使用到索引

 

未使用到索引

 

拓展:Alibaba《Java开发手册》
【强制】页面搜索严禁左模糊或者全模糊,如果需要请走搜索引擎来解决。

在WHERe子句中,如果在OR前的条件列进行了索引,而在OR后的条件列没有进行索引,那么索引会失效。也就是说,。
因为OR的含义就是两个只要满足一个即可,因此 ,只要有条件列没有进行索引,就会进行,因此索引的条件列也会失效。

 

该查询不会使用索引,因为classId没索引会进行全表扫描,所以age不会使用索引。

统一使用utf8mb4( 5.5.3版本以上支持)兼容性更好,统一字符集可以避免由于字符集转换产生的乱码。不同的 进行比较前需要进行会造成索引失效。

  • 对于单列索引,尽量选择针对当前查询过滤性更好的索引
  • 在选择组合索引的时候,当前查询中过滤性最好的字段在索引字段顺序中,位置越靠前越好。
  • 在选择组合索引的时候,尽量选择能够包含当前查询中的where子句中更多字段的索引。
  • 在选择组合索引的时候,如果某个字段可能出现范围查询时,尽量把这个字段放在索引次序的最后面。

总之,书写SQL语句时,尽量避免造成索引失效的情况。

 

在左外连接中如果的话,左表是,右表是,右外连接于此相反。

给连接条件添加索引,可以提升连接速度。

最好选取的表做为,即。

 

对于内连接来说,查询优化器可以决定谁作为,谁作为出现。

如果表连接中只能有一个字段有索引,则有索引的字段所在的表会作为。

两个表的连接字段都有索引,则选择

2.3.1 Simple Nested-Loop Join(简单嵌套循环连接

算法相当简单,从表A中取出一条数据1,遍历表B,将匹配到的数据放到result… 以此类推,驱动表A中的每一条记录与被驱动表B的记录进行判断
image.png

开销统计SNLJ外表扫描次数1内表扫描次数A读取记录数A+A*BJOIN比较次数A*B回表读取记录次数0因此当A表也就是是驱动表是小表是可以降低开销。

2.3.2 Index Nested-Loop Join(索引嵌套循环连接

Index Nested-Loop Join其优化的思路主要是为了,所以要求被驱动表上必须才行。通过外层表匹配条件直接与内层表索引进行匹配,避免和内存表的每条记录去进行比较,这样极大的减少了对内存表的匹配次数。
image.png

开销统计SNLJINLJ外表扫描次数11内表扫描次数A0读取记录数A+A*BA+B(match)JOIN比较次数A*BA*Index(Height)回表读取记录次数0B(match)(如果是二级索引,主键索引为0)

如果被驱动表加索引,效率是非常高的,但如果索引不是主键索引,所以还得进行一次回表查询。相比,被驱动表的索引是主键索引,效率会更高。

2.3.3 Block Nested-Loop Join(块嵌套循环连接

在SNLJ(简单嵌套循环连接)上的改进,驱动表的数据不再逐条获取,而是一块一块获取,引入了 ,将驱动表的相关数据列缓存到join buffer中,然后全表扫描被驱动表,被驱动表的一条记录一次性与join buffer中所有驱动表记录进行匹配(内存中操作),这样大大降低了被驱动的访问频率。

注意:
这里缓存的不只是关联表的列,select后面的列也会缓存起来。
在一个有N个join关联的sql中会分配N-1个join buffer。所以查询的时候尽量减少不必要的字段,可以让join buffer中可以存放更多的列。

image.png

开销统计SNLJINLJBNLJ外表扫描次数111内表扫描次数A0A*used_column_size/join_buffer_size+1读取记录数A+A*BA+B(match)A+B*(A*used_column_size/join_buffer_size)JOIN比较次数A*BA*Index(Height)B*A回表读取记录次数0B(match)(if possible)0

参数设置

  • block_nested_loop

通过 查看 状态。默认是开启的。

  • join_buffer_size

驱动表能不能一次加载完,要看join buffer能不能存储所有的数据,默认情况下。

 

join_buffer_size的最大值在32位操作系统可以申请4G,而在64位操作系统下可以申请大于4G的Join Buffer空间(64位Windows除外,其大值会被截断为4GB并发出警告)。

2.3.4 JOIN 小结

  1. 整体效率比较:INLJ > BNLJ > SNLJ
  2. 永远用小结果集驱动大结果集(其本质就是减少外层循环的数据数量(小的度量单位指的是表行数 * 每行大小
  3. 为被驱动表匹配的条件增加索引(减少内存表的循环匹配次数)
  4. 增大join buffer size的大小(一次索引的数据越多,那么内层包的扫描次数就越少
  5. 减少驱动表不必要的字段查询(字段越少,join buffer所缓存的数据就越多

2.3.5 Hash Join

从MySQL的8.0.20版本开始将废弃BNLJ,因为从MySQL8.0.18版本开始就加入了hash join默认都会使用hash join

  • Nested Loop:

    对于被连接的数据子集较小的情况,Nested Loop是个较好的选择。

  • Hash Join是做时的常用方式,优化器使用两个表中较小(相对较小)的表利用Join Key在内存中建立,然后扫描较大的表并探测散列表,找出与Hash表匹配的行。

    • 这种方式适合于较小的表完全可以放于内存中的情况,这样总成本就是访问两个表的成本之和。
    • 在表很大的情况下并不能完全放入内存,这时优化器会将它分割成,不能放入内存的部分就把该分区写入磁盘的临时段,此时要求有较大的临时段从而尽量提高I/O的性能。
    • 它能够很好的工作于没有索引的大表和并行查询的环境中,并提供最好的性能。大多数人都说它是Join的重型升降机。Hash Join只能应用于等值连接(如WHERe A.COL1 = B.COL2,这是由Hash的特点决定的。

image.png

  • 保证被驱动表的JOIN字段已经创建了索引
  • 需要JOIN 的字段,数据类型保持绝对一致。
  • LEFT JOIN 时,选择小表作为驱动表, 大表作为被驱动表 。减少外层循环的次数。
  • INNER JOIN 时,MySQL会自动将 小结果集的表选为驱动表 。选择相信MySQL优化策略。
  • 能够直接多表关联的尽量直接关联,不用子查询。(减少查询的趟数)
  • 不建议使用子查询,建议将子查询SQL拆开结合程序多次查询,或使用 JOIN 来代替子查询。
  • 衍生表建不了索引

子查询可以进行SELECT语句的嵌套查询,即一个SELECT查询的结 果作为另一个SELECT语句的条件。 。

子查询是 MySQL 的一项重要的功能,可以帮助我们通过一个 SQL 语句实现比较复杂的查询。但是,子 查询的执行效率不高。原因

① 执行子查询时,MySQL需要为内层查询语句的查询结果 建立一个临时表 ,然后外层查询语句从临时表 中查询记录。查询完毕后,再 撤销这些临时表 。这样会消耗过多的CPU和IO资源,产生大量的慢查询。

② 子查询的结果集存储的临时表,不论是内存临时表还是磁盘临时表都 不会存在索引 ,所以查询性能会 受到一定的影响。

③ 对于返回结果集比较大的子查询,其对查询性能的影响也就越大。

在MySQL中,可以使用连接(JOIN)查询来替代子查询 连接查询 ,其 要快 ,如果查询中使用索引的话,性能就会更好。

在MySQL中,支持两种排序方式,分别是 和 排序。

  • Index 排序中,索引可以保证数据的有序性,不需要再进行排序,。
  • FileSort 排序则一般在 进行排序,占用。如果待排结果较大,会产生临时文件 I/O 到磁盘进行排序的情况,效率较低。

优化建议

  1. SQL 中,可以在 WHERe 子句和 ORDER BY 子句中使用索引,目的是在 WHERe 子句中 ,在 ORDER BY 子句 。当然,某些情况下全表扫描,或者 FileSort 排序不一定比索引慢。但总的来说,我们还是要避免,以提高查询效率。
  2. 尽量使用 Index 完成 ORDER BY 排序。如果 WHERe 和 ORDER BY 后面是相同的列就使用单索引列; 如果不同就使用联合索引。
  3. 无法使用 Index 时,需要对 FileSort 方式进行调优。
 

小结

 
 
  • group by 使用索引的原则几乎跟order by一致 ,group by 即使没有过滤条件用到索引,也可以直接使用索引。
  • group by 先排序再分组,遵照索引建的最佳左前缀法则
  • 当无法使用索引列,增大 max_length_for_sort_data 和 sort_buffer_size 参数的设置
  • where效率高于having,能写在where限定的条件就不要写在having中了
  • 减少使用order by,和业务沟通能不排序就不排序,或将排序放到程序端去做。Order by、group by、distinct这些语句较为耗费CPU,数据库的CPU资源是极其宝贵的。
  • 包含了order by、group by、distinct这些查询的语句,where条件过滤出来的结果集请保持在1000行 以内,否则SQL会很慢。
 

优化思路一
在索引上完成排序分页操作,最后根据主键关联回原表查询所需的其他列的内容。

 

优化思路二:
该方案适用于主键自增的表,可以把limit查询转化为某个位置的查询

 
 
 

一个索引包含了满足查询结果的数据就叫做覆盖索引
简单说就是, 包含 。

 
 

好处:
1.避免lnnodb表进行索引的二次查询(回表)
Innodb是以聚集索引的顺序来存储的,对于Innodb来说,二级索引在叶子节点中所保存的是行的主键信息,如果是用二级索引查询数据,在查找到相应的键值后,还需通过主键进行二次查询才能获取我们真实所需要的数据。在覆盖索引中,二级索引的键值中可以获取所要的数据,避免了对主键的二次查询,减少了I0操作,提升了查询效率。

2.可以把随机lO变成顺序IO加快查询效率
由于覆盖索引是按键值的顺序存储的,对于IO密集型的范围查找来说,对比随机从磁盘读取每一行的数据IO要少的多,因此利用覆盖索引在访问时也可以把磁盘的随机读取的IO转变成索引查找的顺序IO。

由于覆盖索引可以减少树的搜索次数,显著提升查询性能,所以使用覆盖索引是一个常用的性能优化手段。

弊端:

索引字段的维护总是有代价的。因此,在建立冗余索引来支持覆盖索引时就需要权衡考虑了。这是业务DBA,或者称为业务数据架构师的工作。

Index Condition Pushdown(ICP)是MySQL 5.6中新特性,是一种在存储引擎层使用索引过滤数据的一种优化方式。

  • 如果没有ICP,存储引擎会遍历索引以定位基表中的行,并将它们返回给MySQL服务器,由MySQL服务器评估的条件是否保留行。
  • 启用ICP后,如果部分可以仅使用索引中的列进行筛选,则MySQL服务器会把这部分WHERe条件放到存储引擎筛选。然后,存储引擎通过使用索引条目来筛选数据,并且只有在满足这一条件时才从表中读取行。
    • 好处:ICP可以减少存储引擎必须访问基表的次数和MySQL服务器必须访问存储引擎的次数。
    • 但是,ICP的取决于在存储引擎内通过掉的数据的比例。
 

该查询虽然name无法使用索引,但根据索引下推,在age过滤完之后,发现name在索引中,这时不是进行回表过滤,而是在age使用索引过滤之后,将过滤之后索引数据再一一进行name过滤,最后再回表进行classId过滤。

ICP的使用条件:

  1. 如果表的访问类型为 range 、 ref 、 eq_ref 或者 ref_or_null 可以使用ICP。
  2. ICP可以使用和表,包括分区表和表
  3. 对于表,ICP仅用于。ICP的目标是减少全行读取次数,从而减少I/O操作。
  4. 当SQL使用覆盖索引时,不支持ICP优化方法。因为这种情况下使用ICP不会减少I/O。
  5. 相关子查询的条件不能使用ICP
 

,A表小就用 ·、,B表小就用

、 和 都是对所有结果进行 COUNT, 和 本质上并没有区别(二者执行时间可能略有差别,不过你还是可以把它俩的执行效率看成是相等的)。如果有 WHERe 子句,则是对所有符合筛选条件的数据行进行统计;如果没有WHERe子句,则是对数据表的数据行数进行统计。
在 InnoDB 引擎中,如果采用 来统计数据行数,要尽量采用二级索引。因为主键采用的索引是聚簇索引,聚簇索引包含的信息多,明显会大于二级索引(非聚簇索引)。对于 COUNT(*) 和 COUNT(1) 来说,它们不需要查找具体的行,只是统计行数,系统会自动采用占用空间更小的二级索引来进行统计。

在表查询中,建议明确字段,不要使用 * 作为查询的字段列表,推荐使用SELECT <字段列表> 查询。原因

① MySQL 在解析的过程中,会通过将"*"按序转换成所有列名,这会大大的耗费资源和时间。

② 无法使用。

(1)针对的是会扫描全表的 SQL 语句,如果你可以确定结果集只有一条,那么加上的时候,当找到一条结果的时候就不会继续扫描了,这样会加快查询速度。

(2)如果数据表已经对字段建立了唯一索引,那么可以通过索引进行查询,不会全表扫描的话,就不需要加上了。

(1)只要有可能,在程序中尽量多使用 COMMIT,这样程序的性能得到提高,需求也会因为 COMMIT 所释放的资源而减少。

(2)COMMIT 所释放的资源

① 回滚段上用于恢复数据的信息

② 被程序语句获得的锁

③ redo / undo log buffer 中的空间

④ 管理上述 3 种资源中的内部花费

本文地址:http://www78564.xrbh.cn/kuaixun/5553.html    迅博思语 http://www78564.xrbh.cn/ , 查看更多

特别提示:本信息由相关用户自行提供,真实性未证实,仅供参考。请谨慎采用,风险自负。

 
 
更多>同类最新快讯

文章列表
相关文章
最新动态
推荐图文
最新快讯
点击排行
网站首页  |  二维码  |  关于我们  |  联系方式  |  使用协议  |  版权隐私  |  网站地图  |  排名推广  |  广告服务  |  积分换礼  |  网站留言  |  RSS订阅  |  违规举报  |  粤ICP备2023022329号