在pyspark中按元素添加列表

Question

我想採用整數列表的RDD並將其減少到一個列表。例如...

[1, 2, 3, 4] 
[2, 3, 4, 5] 

到

[3, 5, 7, 9] 

我可以使用Python中的zip功能，但不知道如何複製它在火花除了做收集對象上做到這一點，但我想保持rdd中的數據。

Answer 1

如果rdd所有元素都是相同的長度，你可以使用reduce與zip：

rdd = sc.parallelize([[1,2,3,4],[2,3,4,5]]) 

rdd.reduce(lambda x, y: [i+j for i, j in zip(x, y)]) 
# [3, 5, 7, 9]