UnivariateFeatureSelector

類 pyspark.ml.feature。 UnivariateFeatureSelector ( *,featuresCol:str=“特性”,outputCol:可選(str]=沒有一個,labelCol:str=“標簽”,selectionMode:str=“numTopFeatures” )

功能選擇器對標簽。基於單變量統計測試目前,火花支持三個單變量功能選擇器:卡方,方差分析野生和f值。用戶可以選擇選擇器的單變量特性設置featureType和labelType,火花就會選擇分數根據指定的函數featureType和labelType。

以下的組合featureType和labelType支持:

• featureType分類和labelType分類,火花使用卡方,即chi2 sklearn。

• featureType連續和labelType分類,火花使用方差分析野生,即f_classif sklearn。

• featureType連續和labelType連續,火花使用f值,即在sklearn f_regression。

的UnivariateFeatureSelector支持不同選擇模式:numTopFeatures,百分位,玻璃鋼,羅斯福,fwe。

• numTopFeatures選擇一個固定數量的高級功能根據根據假說。

• 百分位相似但選擇所有功能的一小部分,而不是一個固定的數字。

• 玻璃鋼選擇所有特性的假定值低於一個閾值,從而控製選擇的假陽性率。

• 羅斯福使用Benjamini-Hochberg過程選擇所有功能的錯誤發現率低於一個閾值。

• fwe選擇假定值低於一個閾值的所有功能。閾值由1 /擴展numFeatures,從而控製選擇的family-wise錯誤率。

默認情況下,選擇模式numTopFeatures。

例子

> > >從pyspark.ml.linalg進口向量> > >df=火花。createDataFrame(…((向量。密集的([1.7,4.4,7.6,5.8,9.6,2.3]),3.0),…(向量。密集的([8.8,7.3,5.7,7.3,2.2,4.1]),2.0),…(向量。密集的([1.2,9.5,2.5,3.1,8.7,2.5]),1.0),…(向量。密集的([3.7,9.2,6.1,4.1,7.5,3.8]),2.0),…(向量。密集的([8.9,5.2,7.8,8.3,5.2,3.0]),4.0),…(向量。密集的([7.9,8.5,9.2,4.0,9.4,2.1]),4.0)),…(“特征”,“標簽”])> > >選擇器=UnivariateFeatureSelector(outputCol=“selectedFeatures”)> > >選擇器。setFeatureType(“連續”)。setLabelType(“分類”)。setSelectionThreshold(1)UnivariateFeatureSelector……> > >模型=選擇器。適合(df)> > >模型。getFeaturesCol()“特性”> > >模型。setFeaturesCol(“特征”)UnivariateFeatureSelectorModel……> > >模型。變換(df)。頭()。selectedFeaturesDenseVector ([7.6])> > >模型。selectedFeatures[2]> > >selectorPath=temp_path+“/選擇器”> > >選擇器。保存(selectorPath)> > >loadedSelector=UnivariateFeatureSelector。負載(selectorPath)> > >loadedSelector。getSelectionThreshold()= =選擇器。getSelectionThreshold()真正的> > >modelPath=temp_path+“/ selector-model”> > >模型。保存(modelPath)> > >loadedModel=UnivariateFeatureSelectorModel。負載(modelPath)> > >loadedModel。selectedFeatures= =模型。selectedFeatures真正的> > >loadedModel。變換(df)。取(1)= =模型。變換(df)。取(1)真正的

方法

清晰的(參數)	清除參數映射的參數是否被顯式地設置。
複製((額外的))	創建這個實例的副本具有相同uid和一些額外的參數。
explainParam(參數)	解釋一個參數並返回它的名字,醫生,和可選的默認值,用戶提供的字符串值。
explainParams()	返回文檔的所有參數選擇默認值和用戶提供的值。
extractParamMap((額外的))	提取嵌入默認參數值和用戶提供的值,然後合並他們額外的值從輸入平麵參數映射,後者使用價值如果存在衝突,即。排序:默認參數值< <額外的用戶提供的值。
適合(數據集[params))	適合一個模型與可選參數的輸入數據集。
fitMultiple(paramMaps數據集)	適合一個模型為每個參數映射的輸入數據集paramMaps。
getFeatureType()	得到的價值featureType或其默認值。
getFeaturesCol()	得到的價值featuresCol或其默認值。
getLabelCol()	得到的價值labelCol或其默認值。
getLabelType()	得到的價值labelType或其默認值。
getOrDefault(參數)	得到參數的值在用戶提供的參數映射或其默認值。
getOutputCol()	得到的價值outputCol或其默認值。
getParam(paramName)	通過它的名稱參數。
getSelectionMode()	得到的價值selectionMode或其默認值。
getSelectionThreshold()	得到的價值selectionThreshold或其默認值。
hasDefault(參數)	檢查是否一個參數有默認值。
hasParam(paramName)	測試這個實例包含一個參數是否與給定名稱(字符串)。
isDefined(參數)	檢查參數是否由用戶或顯式地設置一個默認值。
收取(參數)	檢查參數是否由用戶顯式地設置。
負載(路徑)	從輸入路徑,讀取一個毫升實例的快捷方式read () .load(路徑)。
讀()	返回一個MLReader這個類的實例。
保存(路徑)	這個毫升實例保存到給定的路徑,一個快捷方式的“寫().save(路徑)。
集(參數值)	設置一個參數嵌入參數映射。
setFeatureType(值)	設置的值featureType。
setFeaturesCol(值)	設置的值featuresCol。
setLabelCol(值)	設置的值labelCol。
setLabelType(值)	設置的值labelType。
setOutputCol(值)	設置的值outputCol。
setparam(自我\ * (featuresCol,…))	為這個UnivariateFeatureSelector設置參數。
setSelectionMode(值)	設置的值selectionMode。
setSelectionThreshold(值)	設置的值selectionThreshold。
寫()	返回一個MLWriter實例毫升實例。

屬性

featureType
featuresCol
labelCol
labelType
outputCol
參數個數	返回所有參數命令的名字。
selectionMode
selectionThreshold

方法的文檔

清晰的 ( 參數:pyspark.ml.param.Param )→沒有

清除參數映射的參數是否被顯式地設置。

複製 ( 額外的:可選(ParamMap]=沒有一個 )→摩根大通

創建這個實例的副本具有相同uid和一些額外的參數。這個實現第一次調用參數。複製和then make a copy of the companion Java pipeline component with extra params. So both the Python wrapper and the Java pipeline component get copied.

參數

額外的 東西,可選

額外參數複製到新實例

返回

JavaParams

這個實例的副本

explainParam ( 參數:聯盟(str,pyspark.ml.param.Param] )→str

解釋一個參數並返回它的名字,醫生,和可選的默認值,用戶提供的字符串值。

explainParams ( )→str

返回文檔的所有參數選擇默認值和用戶提供的值。

extractParamMap ( 額外的:可選(ParamMap]=沒有一個 )→ParamMap

提取嵌入默認參數值和用戶提供的值,然後合並他們額外的值從輸入平麵參數映射,後者使用價值如果存在衝突,即。排序:默認參數值< <額外的用戶提供的值。

參數

額外的 東西,可選

額外的參數值

返回

dict

合並後的參數映射

適合 ( 數據集:pyspark.sql.dataframe.DataFrame,參數個數:聯盟[ParamMap、列表(ParamMap)元組(ParamMap),沒有一個)=沒有一個 )→聯盟(米,列表(米] ]

適合一個模型與可選參數的輸入數據集。

參數

數據集 pyspark.sql.DataFrame

輸入數據集。

參數個數 dict或列表或元組,可選的

一個可選的參數覆蓋嵌入參數的地圖。如果列表/元組的參數映射,這適用於每一個參數並返回一個列表的模型映射。

返回

變壓器或者一個列表變壓器

擬合模型(年代)

fitMultiple ( 數據集:pyspark.sql.dataframe.DataFrame,paramMaps:序列(ParamMap] )→迭代器(元組(int,米] ]

適合一個模型為每個參數映射的輸入數據集paramMaps。

參數

數據集 pyspark.sql.DataFrame

輸入數據集。

paramMaps collections.abc.Sequence

一係列的參數映射。

返回

_FitMultipleIterator

一個線程安全的iterable包含為每個參數映射模型。每次調用下一個(modelIterator)將返回(指數模型)模型是適合使用在哪裏paramMaps(指數)。指數值可能不是連續的。

getFeatureType ( )→str

得到的價值featureType或其默認值。

getFeaturesCol ( )→str

得到的價值featuresCol或其默認值。

getLabelCol ( )→str

得到的價值labelCol或其默認值。

getLabelType ( )→str

得到的價值labelType或其默認值。

getOrDefault ( 參數:聯盟(str,pyspark.ml.param.Param(T]] )→聯盟(任何,T]

得到參數的值在用戶提供的參數映射或其默認值。如果沒有設置提出了一個錯誤。

getOutputCol ( )→str

得到的價值outputCol或其默認值。

getParam ( paramName:str )→pyspark.ml.param.Param

通過它的名稱參數。

getSelectionMode ( )→str

得到的價值selectionMode或其默認值。

getSelectionThreshold ( )→浮動

得到的價值selectionThreshold或其默認值。

hasDefault ( 參數:聯盟(str,pyspark.ml.param.Param(任何]] )→bool

檢查是否一個參數有默認值。

hasParam ( paramName:str )→bool

測試這個實例包含一個參數是否與給定名稱(字符串)。

isDefined ( 參數:聯盟(str,pyspark.ml.param.Param(任何]] )→bool

檢查參數是否由用戶或顯式地設置一個默認值。

收取 ( 參數:聯盟(str,pyspark.ml.param.Param(任何]] )→bool

檢查參數是否由用戶顯式地設置。

classmethod 負載 ( 路徑:str )→RL

從輸入路徑,讀取一個毫升實例的快捷方式read () .load(路徑)。

classmethod 讀 ( )→pyspark.ml.util.JavaMLReader(RL]

返回一個MLReader這個類的實例。

保存 ( 路徑:str )→沒有

這個毫升實例保存到給定的路徑,一個快捷方式的“寫().save(路徑)。

集 ( 參數:pyspark.ml.param.Param,價值:任何 )→沒有

設置一個參數嵌入參數映射。

setFeatureType ( 價值:str )→pyspark.ml.feature.UnivariateFeatureSelector

設置的值featureType。

setFeaturesCol ( 價值:str )→pyspark.ml.feature.UnivariateFeatureSelector

設置的值featuresCol。

setLabelCol ( 價值:str )→pyspark.ml.feature.UnivariateFeatureSelector

設置的值labelCol。

setLabelType ( 價值:str )→pyspark.ml.feature.UnivariateFeatureSelector

設置的值labelType。

setOutputCol ( 價值:str )→pyspark.ml.feature.UnivariateFeatureSelector

設置的值outputCol。

setparam ( 自我,\ *,featuresCol = "特性",outputCol =沒有,labelCol = "標簽",selectionMode = " numTopFeatures " )

為這個UnivariateFeatureSelector設置參數。

setSelectionMode ( 價值:str )→pyspark.ml.feature.UnivariateFeatureSelector

設置的值selectionMode。

setSelectionThreshold ( 價值:浮動 )→pyspark.ml.feature.UnivariateFeatureSelector

設置的值selectionThreshold。

寫 ( )→pyspark.ml.util.JavaMLWriter

返回一個MLWriter實例毫升實例。

屬性的文檔

featureType =參數(父母=‘定義’,name = ' featureType ', doc = '功能類型。支持選項:分類、連續的。”)

featuresCol =參數(父母=‘定義’,name = ' featuresCol ', doc =功能列名稱。)

labelCol =參數(父母=‘定義’,name = ' labelCol ', doc =“標簽列名。”)

labelType =參數(父母=‘定義’,name = ' labelType ', doc = '標簽類型。支持選項:分類、連續的。”)

outputCol =參數(父母=‘定義’,name = ' outputCol ', doc =輸出列名稱。)

參數個數

返回所有參數命令的名字。默認實現使用dir ()所有的屬性類型參數。

selectionMode =參數(父母=‘定義’,name = ' selectionMode ', doc = '選擇模式。支持選擇:numTopFeatures(默認),百分位,玻璃鋼,羅斯福,fwe。”)

selectionThreshold =參數(父母=‘定義’,name = ' selectionThreshold ', doc =的上界的功能選擇器選擇。)

以前的

分詞器

下一個

UnivariateFeatureSelectorModel