在Spark MLlib中使用决策树时,如何处理缺少的数字特征?
我正在考虑用其他值的平均值来替换缺失的特征,但是我不确定这对模型质量有什么影响。Spark MLlib是否提供了对此常见问题的支持?
发布于 2017-05-19 04:17:44
每个DataFrame都可以利用DataFrameNaFunctions,它可以drop违规记录(而不是整个列),fill可以用静态“伪数据”填充违规数据,或者replace可以用指定数据替换违规数据。
https://spark.apache.org/docs/2.1.1/api/scala/#org.apache.spark.sql.DataFrameNaFunctions
scala> df.na
res20: org.apache.spark.sql.DataFrameNaFunctions = org.apache.spark.sql.DataFrameNaFunctions@e7e9006
scala> df.na.
drop fill replacehttps://stackoverflow.com/questions/44056816
复制相似问题