/** Spark SQL源码分析系列文章*/   前几篇文章介绍了Spark SQL的Catalyst的核心运行流程、SqlParser，和Analyzer 以及核心类库TreeNode，本文将详细讲解Spark SQL的Optimizer的优化思想以及Optimizer在Catalyst里的表现方式，并加上自己的实践，对Optimizer有一个直观的认识。   /** Spark SQL源码分析系列文章 */

前几篇文章介绍了 Spark SQL的Catalyst的 核心运行流程 、 SqlParser ，和 Analyzer 以及核心类库 TreeNode ，本文将详细讲解Spark SQL的Optimizer的优化思想以及Optimizer在Catalyst里的表现方式，并加上自己的实践，对Optimizer有一个直观的认识。

Optimizer的主要职责是将Analyzer给Resolved的Logical Plan根据不同的优化策略Batch，来对语法树进行优化，优化逻辑计划节点(Logical Plan)以及表达式(Expression)，也是转换成物理执行计划的前置。如下图：

一、Optimizer Optimizer这个类是在catalyst里的optimizer包下的唯一一个类，Optimizer的工作方式其实类似 Analyzer ，因为它们都继承自RuleExecutor[LogicalPlan]，都是执行一系列的Batch操作：

Optimizer里的batches包含了3类优化策略：1、 Combine Limits 合并Limits 2、 ConstantFolding 常量合并 3、 Filter Pushdown 过滤器下推 ,每个Batch里定义的优化伴随对象都定义在Optimizer里了：

另外提一点，Optimizer里不但对Logical Plan进行了优化，而且对Logical Plan中的Expression也进行了优化，所以有必要了解一下Expression相关类，主要是用到了references和outputSet， references主要是Logical Plan或Expression节点的所依赖的那些Expressions，而outputSet是Logical Plan所有的Attribute的输出 ：

如：Aggregate是一个Logical Plan， 它的 references 就是group by的表达式 和 aggreagate的表达式的并集去重。

[java] view plain copy 二、优化策略详解

Optimizer的优化策略不仅有对plan进行transform的，也有对expression进行transform的，究其原理就是遍历树，然后应用优化的Rule，但是注意一点，对Logical Plantransfrom的是 先序遍历(pre-order) ，而对Expression transfrom的时候是 后序遍历(post-order) ：

2.1、Batch: Combine Limits

如果出现了2个Limit，则将2个Limit合并为一个，这个要求一个Limit是另一个Limit的grandChild。

case ll @ Limit(le, nl @ Limit(ne, grandChild)) => //ll为当前Limit,le为其expression， nl是ll的grandChild，ne是nl的expression Limit(If(LessThan(ne, le), ne, le), grandChild) //expression比较，如果ne比le小则表达式为ne，否则为le 给定SQL：val query = sql("select * from (select * from temp_shengli limit 100)a limit 10 ")