本文共 2197 字，大约阅读时间需要 7 分钟。
1. 概要
Join是SQL语言中常用的操作，一般用于建立多表之间的连接关系。spark SQL有两类(三种)Join的实现，每种Join的实现方式都有各自不同的应用场景。
2. Hash Join
Hash Join实现原理
先来看看这样一条SQL语句：select * from order,item where item.id = order.i_id，参与join的两张表是order和item，join key分别是item.id以及order.i_id。现在假设join采用的是hash join算法，整个过程会经历三步：
-
确定Build Table以及Probe Table：这个概念比较重要，Build Table会被构建成以join key为key的hash table，而Probe Table使用join key在这张hash table表中寻找符合条件的行，然后进行join链接。Build表和Probe表是Spark决定的。通常情况下，小表会被作为Build Table，较大的表会被作为Probe Table。
-
构建Hash Table：依次读取Build Table(item)的数据，对于每一条数据根据Join Key(item.id)进行hash，hash到对应的bucket中(类似于HashMap的原理)，最后会生成一张HashTable，HashTable会缓存在内存中，如果内存放不下会dump到磁盘中。
-
匹配：生成Hash Table后，在依次扫描Probe Table(order)的数据，使用相同的hash函数在Hash Table中寻找hash(join key)相同的值，如果匹配成功就将两者join在一起。
基本原理可以参考上图，这里有两个问题需要关注：
- hash join性能如何？很显然，hash join基本都只扫描两表一次，可以认为是O(a + b)，较之最极端的是笛卡尔积运算O(a * b)。
- 为什么Build Table选择小表？道理很简单，因为构建Hash Table时，最好可以把数据全部加载到内存中，这也决定了hash join只适合于一张表较小的场景，如果是两个较大表的场景就不适用了。
上文的hash join是传统数据库中的单机join算法，为了尽可能利用分布式计算资源进行并行计算，提高总体效率，在分布式环境下需要经过一定的改造。hash join分布式实现有broadcast hash join和shuffle hash join两种方案：
Broadcast Hash Join
Broadcast Hash Join可以分为两步：- broadcast阶段：将小表广播到所有的executor上，广播的算法有很多，最简单的是先发给driver，driver再统一分发给所有的executor，或者就是基于BT的p2p思路。
- hash join阶段：在每个executor上执行hash join，小表构建为hash table，大表的分区数据匹配hash table中的数据；
Broadcast Hash Join有以下几个条件：
- 被广播的表大小需要小于spark.sql.autoBroadcastJoinThreshold的值，默认是10M；
- 基表不能被广播，比如left outer join时只能广播右表。
Broadcast Hash Join的缺点也是比较明显的，即只能广播较小的表，否则数据的冗余传输会远大于shuffle的开销。另外被广播的表在每个executor上都会保存一份，这会对executor的内存造成一定的压力。
Shuffle Hash Join
Shuffle Hash Join分为两步：- 对两张表分别按照join key进行shuffle，那么相同的key一定会落到相同的分区。
- 对应分区中的数据进行join，先将小表分区构建为一个hash表，然后根据大表中记录的join key的hash值拿来进行匹配，即每个节点单独执行hash算法。
3. Sort Merge Join
Hash Join方式只对于两张表中有一张是小表的情况适用，但当两个表都非常大时则不适合。这是因为join时生成的join key会非常大，不能将数据完全加载到内存中。为了应对大表join的场景，SparkSQL提供了一种全新的方案Sort Merge Join。
Sort Merge Join首先将两张表按照join key进行重新shuffle，保证join key值相同的记录会被分在相应的分区，分区后对每个分区内的数据进行排序，排序后再对相应的分区内的记录进行连接。可以看出，无论分区有多大，Sort Merge Join都不用把一侧的数据全部加载到内存中，因为两个序列都是有序的，此时从头遍历，碰到key相同的就输出，如果不同，左边小就继续取左边，反之取右边。
整个过程分为三个步骤：
- shuffle阶段：将两张大表根据join key进行重新分区。
- sort阶段：对单个分区节点的两表数据，分别进行排序；
- merge阶段：对排好序的两张分区表数据执行join操作。join操作很简单，分别遍历两个有序序列，碰到相同join key就merge输出，否则取更小一边，见下图示意：
转载地址：http://wgcmb.baihongyu.com/