2017-10-12 60 views
0

如何爲Spark數據框以特定格式投射字符串? 2.2或更高版本sparkR - 鑄造日期格式

df = data.frame(dt1 = c("22DEC16", "12JUN16"), x = c(10,20)) 
df = df %>% mutate(dt2 = as.Date(dt1, "%d%b%y")) 

> df 
    dt1  x  dt2 
1 22DEC16 10 2016-12-22 
2 12JUN16 20 2016-06-12 

回答

2

火花:

在dplyr,我會做這個

library(magrittr) 

df <- createDataFrame(data.frame(dt=c("22DEC16", "12JUN16"))) 

df %>% withColumn("parsed", to_date(.$dt, "ddMMMyy")) %>% head() 
 dt  parsed 
1 22DEC16 2016-12-22 
2 12JUN16 2016-06-12 

星火2.2之前:

df %>% 
    withColumn(
    "parsed", 
    unix_timestamp(.$dt, "ddMMMyy") %>% cast("timestamp") %>% cast("date")) %>% 
    head() 
 dt  parsed 
1 22DEC16 2016-12-22 
2 12JUN16 2016-06-12 

有了這個解決方案,你應該注意可能的時區不一致。