VIPSpark

Spark Catalyst物理计划是怎么生成和选择的?SparkPlanner到底做了什么

先抓住题目的核心考点,再把答案拆成可复述的面试表达。

40 次浏览2026/7/9
先下定义一句话说清它是什么,面试官先听到结论。
再讲机制拆出关键流程、边界条件和常见坑位。
最后落场景结合生产经验,说出什么时候用、怎么权衡。

题目描述

请回答:Spark Catalyst物理计划是怎么生成和选择的?SparkPlanner到底做了什么

这题是 Catalyst 的进阶追问。很多人能说出“SQL 会生成逻辑计划和物理计划”,但面试官继续问:逻辑 Join 是怎么变成 BroadcastHashJoin 或 SortMergeJoin 的?Exchange 是什么时候插入的?为什么一个逻辑计划可能有多个物理计划?Spark 最后怎么选? 如果答不清,就说明只背了执行流程,没有真正理解计划生成。

参考答案

评论

登录 后参与评论

加载中...