大家好，我是不温卜火，是一名计算机学院大数据专业大二的学生，昵称来源于成语—不温不火，本意是希望自己性情温和。作为一名互联网行业的小白，博主写博客一方面是为了记录自己的学习过程，另一方面是总结自己所犯的错误希望能够帮助到很多和自己一样处于起步阶段的萌新。但由于水平有限，博客中难免会有一些错误出现，有纰漏之处恳请各位大佬不吝赐教！暂时只有csdn这一个平台，博客主页：https://buwenbuhuo.blog.csdn.net/

  此篇为大家带来的是RDD的依赖关系

一. Lineage

  RDD只支持粗粒度转换，即在大量记录上执行的单个操作。将创建RDD的一系列Lineage（血统）记录下来，以便恢复丢失的分区。RDD的Lineage会记录RDD的元数据信息和转换行为，当该RDD的部分分区数据丢失时，它可以根据这些信息来重新运算和恢复丢失的数据分区。

• 1.读取一个HDFS文件并将其中内容映射成一个个元组

scala> val wordAndOne = sc.textFile("/fruit.tsv").flatMap(_.split("t")).map((_,1)) wordAndOne: org.apache.spark.rdd.RDD[(String, Int)] = MapPartitionsRDD[22] at map at <console>:24 

• 2.统计每一种key对应的个数

scala> val wordAndCount = wordAndOne.reduceByKey(_+_) wordAndCount: org.apache.spark.rdd.RDD[(String, Int)] = ShuffledRDD[23] at reduceByKey at <console>:26 

• 3.查看“wordAndOne”的血缘关系(Lineage)

scala> wordAndOne.toDebugString res5: String = (2) MapPartitionsRDD[22] at map at <console>:24 [] |  MapPartitionsRDD[21] at flatMap at <console>:24 [] | /fruit.tsv MapPartitionsRDD[20] at textFile at <console>:24 [] | /fruit.tsv HadoopRDD[19] at textFile at <console>:24 [] 

• 4.查看“wordAndCount”的血缘关系(Lineage)

scala> wordAndCount.toDebugString res6: String = (2) ShuffledRDD[23] at reduceByKey at <console>:26 [] +-(2) MapPartitionsRDD[22] at map at <console>:24 [] |  MapPartitionsRDD[21] at flatMap at <console>:24 [] | /fruit.tsv MapPartitionsRDD[20] at textFile at <console>:24 [] | /fruit.tsv HadoopRDD[19] at textFile at <console>:24 [] 

• 5.查看“wordAndOne”的依赖类型

scala> wordAndOne.dependencies res7: Seq[org.apache.spark.Dependency[_]] = List(org.apache.spark.OneToOneDependency@5d5db92b) 

• 6.查看“wordAndCount”的依赖类型

scala> wordAndCount.dependencies res8: Seq[org.apache.spark.Dependency[_]] = List(org.apache.spark.ShuffleDependency@63f3e6a8) 

  想理解 RDDs 是如何工作的, 最重要的事情就是了解 transformations.

  RDD 之间的关系可以从两个维度来理解: 一个是 RDD 是从哪些 RDD 转换而来, 也就是 RDD 的 parent RDD(s)是什么; 另一个就是 RDD 依赖于 parent RDD(s)的哪些 Partition(s). 这种关系就是 RDD 之间的依赖.
  依赖 有 2 种策略:

1. 窄依赖(transformations with narrow dependencies)
2. 宽依赖(transformations with wide dependencies)

  宽依赖对 Spark 去评估一个 transformations 有更加重要的影响, 比如对性能的影响.

二. 窄依赖

  如果 B RDD 是由 A RDD 计算得到的, 则 B RDD 就是 Child RDD, A RDD 就是 parent RDD.
  如果依赖关系在设计的时候就可以确定, 而不需要考虑父 RDD 分区中的记录, 并且如果父 RDD 中的每个分区最多只有一个子分区, 这样的依赖就叫窄依赖
  一句话总结: 父 RDD 的每个分区最多被一个 RDD 的分区使用,窄依赖我们形象的比喻为独生子女.

  具体来说, 窄依赖的时候, 子 RDD 中的分区要么只依赖一个父 RDD 中的一个分区(比如map, filter操作), 要么在设计时候就能确定子 RDD 是父 RDD 的一个子集(比如: coalesce).
  所以, 窄依赖的转换可以在任何的的一个分区上单独执行, 而不需要其他分区的任何信息.

三. 宽依赖

  如果 父 RDD 的分区被不止一个子 RDD 的分区依赖, 就是宽依赖.

  宽依赖工作的时候, 不能随意在某些记录上运行, 而是需要使用特殊的方式(比如按照 key)来获取分区中的所有数据.

  例如: 在排序(sort)的时候, 数据必须被分区, 同样范围的 key 必须在同一个分区内. 具有宽依赖的 transformations 包括: sort, reduceByKey, groupByKey, join, 和调用rePartition函数的任何操作.

  本次的就到这里了,

  好书不厌读百回，熟读课思子自知。而我想要成为全场最靓的仔，就必须坚持通过学习来获取更多知识，用知识改变命运，用博客见证成长，用行动证明我在努力。
  如果我的博客对你有帮助、如果你喜欢我的博客内容，请“” “评论”“”一键三连哦！听说的人运气不会太差，每一天都会元气满满呦！如果实在要白嫖的话，那祝你开心每一天，欢迎常来我博客看看。
  码字不易，大家的支持就是我坚持下去的动力。后不要忘了关注我哦！