對於自定義Estimator的transformSchema方法,我需要能夠將輸入數據框架構與案例類中定義的架構進行比較。通常這可以按如下所述執行,如Generate a Spark StructType/Schema from a case class。然而,錯誤的爲空時: 的DF由spark.read.csv().as[MyClass]推斷出真正的模式如: root
|-- CUSTOMER
我正在實現一個自定義的估計器,它遇到了訪問參數ava.util.NoSuchElementException: Failed to find a default value for isInList的麻煩。它的定義如下: trait PreprocessingParams extends Params {
final val isInList = new Param[Array[Stri
我正在構建一個spark的自定義估計器。不幸的是,在我如何訪問估計器的默認參數方面似乎有些不妥。以下是將Transformer與Estimator進行比較的最小示例。它可以訪問相同的參數 trait PreprocessingParam2s extends Params {
final val isInList = new Param[Array[String]](this, "isIn