VIPSpark
Spark 写出文件数量太多怎么办
先抓住题目的核心考点,再把答案拆成可复述的面试表达。
27 次浏览2026/7/9
先下定义一句话说清它是什么,面试官先听到结论。
再讲机制拆出关键流程、边界条件和常见坑位。
最后落场景结合生产经验,说出什么时候用、怎么权衡。
题目描述
请回答:Spark 写出文件数量太多怎么办
这题和“小文件治理”很像,但角度更偏写入链路。很多人只会说 coalesce(1),这在生产里通常是坑。面试官真正想听的是:Spark 输出文件数由什么决定、动态分区写入为什么容易爆文件、怎么按目标文件大小控制写出。
评论
加载中...