我有一個val ds: Dataset[Double]
(在Spark 2.0.0中),但是可以傳遞給apply
或col
的雙值列的名稱是什麼,以便將此列爲1的列表Dataset
轉換爲Column
。如何查詢Spark數據集的列名?
2
A
回答
5
列名稱爲「value」,如ds.col("value")
中所示。 Dataset.schema
包含此信息:ds.schema.fields.foreach(x => println(x))
6
您也可以使用DataFrame
的方法columns
,它將所有列作爲字符串數組返回。
case class Person(age: Int, height: Int, weight: Int){
def sum = age + height + weight
}
val df = sc.parallelize(List(Person(1,2,3), Person(4,5,6))).toDF("age", "height", "weight")
df.columns
//res0: Array[String] = Array(age, height, weight)
相關問題
- 1. 如何高效重命名數據集中的列(Spark 2.0)
- 2. 如何查詢使用Spark DataFrames的JSON數據列?
- 3. 如何查詢c中的數據集#
- 4. Spark數據集:如何在平面圖之後更改列的別名?
- 5. 查詢數據集
- 6. Apache Spark - 查找數組/列表/子集
- 7. 如何使用spark組數據集
- 8. 如何從Spark 2.0中的DataFrame列創建數據集?
- 9. 如何從Apache Spark(pyspark)中的數據集獲取某些列?
- 10. 從查詢創建數據集時,DBUnit會忽略列別名?
- 11. 如何使用sqlite3中的查詢數據獲取列名?
- 12. 數據庫查詢只返回列名
- 13. 查詢將根據列名
- 14. Spark重命名數據框列
- 15. 如何檢查Spark中緩存數據幀/ rdds /表的列表?
- 16. 如何查詢匿名類型集合?
- 17. Spark獨立羣集行爲查詢
- 18. SQL查詢數據收集
- 19. 查詢數據集C#
- 20. Visual Studio - 查詢數據集
- 21. 如何查詢行數據作爲列?
- 22. 如何查詢Sharepoint列表數據?
- 23. GroupbyKey on spark數據集
- 24. Spark 2.0數據集vs DataFrame
- 25. Spark數據集 - 強類型
- 26. groupByKey Spark中數據集
- 27. Spark數據集API - 加入
- 28. Spark數據集agg方法
- 29. 使用條件列表的任何子集查詢數據庫
- 30. 如何在查詢中列出列名