HashingTF

pyspark.ml.feature。 HashingTF ( *,numFeatures:int=262144年,二進製:bool=,inputCol:可選(str]=沒有一個,outputCol:可選(str]=沒有一個 )

一係列術語映射到他們的詞頻率使用哈希的訣竅。目前我們使用奧斯汀Appleby MurmurHash 3算法(MurmurHash3_x86_32)計算術語對象的哈希碼值。因為一個簡單的模是用於轉換列索引的哈希函數,建議使用2的冪numFeatures參數;否則功能將不會被均勻地映射到列。

例子

> > >df=火花createDataFrame((((“一個”,“b”,“c”),),(“單詞”])> > >hashingTF=HashingTF(inputCol=“單詞”,outputCol=“特征”)> > >hashingTFsetNumFeatures(10)HashingTF……> > >hashingTF變換(df)()特性SparseVector (10, {5: 1.0, 7: 1.0, 8: 1.0})> > >hashingTFsetparam(outputCol=“頻率”)變換(df)()頻率SparseVector (10, {5: 1.0, 7: 1.0, 8: 1.0})> > >參數個數={hashingTFnumFeatures:5,hashingTFoutputCol:“向量”}> > >hashingTF變換(df,參數個數)()向量SparseVector (5, {0: 1.0, 2: 1.0, 3: 1.0})> > >hashingTFPath=temp_path+“/ hashing-tf”> > >hashingTF保存(hashingTFPath)> > >loadedHashingTF=HashingTF負載(hashingTFPath)> > >loadedHashingTFgetNumFeatures()= =hashingTFgetNumFeatures()真正的> > >loadedHashingTF變換(df)(1)= =hashingTF變換(df)(1)真正的> > >hashingTFindexOf(“b”)5

方法

清晰的(參數)

清除參數映射的參數是否被顯式地設置。

複製((額外的))

創建這個實例的副本具有相同uid和一些額外的參數。

explainParam(參數)

解釋一個參數並返回它的名字,醫生,和可選的默認值,用戶提供的字符串值。

explainParams()

返回文檔的所有參數選擇默認值和用戶提供的值。

extractParamMap((額外的))

提取嵌入默認參數值和用戶提供的值,然後合並他們額外的值從輸入平麵參數映射,後者使用價值如果存在衝突,即。排序:默認參數值< <額外的用戶提供的值。

getBinary()

二進製的值或其默認值。

getInputCol()

得到的價值inputCol或其默認值。

getNumFeatures()

得到的價值numFeatures或其默認值。

getOrDefault(參數)

得到參數的值在用戶提供的參數映射或其默認值。

getOutputCol()

得到的價值outputCol或其默認值。

getParam(paramName)

通過它的名稱參數。

hasDefault(參數)

檢查是否一個參數有默認值。

hasParam(paramName)

測試這個實例包含一個參數是否與給定名稱(字符串)。

indexOf(術語)

返回輸入項的索引。

isDefined(參數)

檢查參數是否由用戶或顯式地設置一個默認值。

收取(參數)

檢查參數是否由用戶顯式地設置。

負載(路徑)

從輸入路徑,讀取一個毫升實例的快捷方式read () .load(路徑)

()

返回一個MLReader這個類的實例。

保存(路徑)

這個毫升實例保存到給定的路徑,一個快捷方式的“寫().save(路徑)。

(參數值)

設置一個參數嵌入參數映射。

setBinary(值)

設置的值二進製

setInputCol(值)

設置的值inputCol

setNumFeatures(值)

設置的值numFeatures

setOutputCol(值)

設置的值outputCol

setparam(自我\ * (numFeatures,二進製,…))

為這個HashingTF設置參數。

變換(數據集[params))

與可選參數轉換的輸入數據集。

()

返回一個MLWriter實例毫升實例。

屬性

二進製

inputCol

numFeatures

outputCol

參數個數

返回所有參數命令的名字。

方法的文檔

清晰的 ( 參數:pyspark.ml.param.Param )→沒有

清除參數映射的參數是否被顯式地設置。

複製 ( 額外的:可選(ParamMap]=沒有一個 )→摩根大通

創建這個實例的副本具有相同uid和一些額外的參數。這個實現第一次調用參數。複製and then make a copy of the companion Java pipeline component with extra params. So both the Python wrapper and the Java pipeline component get copied.

參數
額外的 東西,可選

額外參數複製到新實例

返回
JavaParams

這個實例的副本

explainParam ( 參數:聯盟(str,pyspark.ml.param.Param] )→str

解釋一個參數並返回它的名字,醫生,和可選的默認值,用戶提供的字符串值。

explainParams ( )→str

返回文檔的所有參數選擇默認值和用戶提供的值。

extractParamMap ( 額外的:可選(ParamMap]=沒有一個 )→ParamMap

提取嵌入默認參數值和用戶提供的值,然後合並他們額外的值從輸入平麵參數映射,後者使用價值如果存在衝突,即。排序:默認參數值< <額外的用戶提供的值。

參數
額外的 東西,可選

額外的參數值

返回
dict

合並後的參數映射

getBinary ( )→bool

二進製的值或其默認值。

getInputCol ( )→str

得到的價值inputCol或其默認值。

getNumFeatures ( )→int

得到的價值numFeatures或其默認值。

getOrDefault ( 參數:聯盟(str,pyspark.ml.param.Param(T]] )→聯盟(任何,T]

得到參數的值在用戶提供的參數映射或其默認值。如果沒有設置提出了一個錯誤。

getOutputCol ( )→str

得到的價值outputCol或其默認值。

getParam ( paramName:str )pyspark.ml.param.Param

通過它的名稱參數。

hasDefault ( 參數:聯盟(str,pyspark.ml.param.Param(任何]] )→bool

檢查是否一個參數有默認值。

hasParam ( paramName:str )→bool

測試這個實例包含一個參數是否與給定名稱(字符串)。

indexOf ( 術語:任何 )→int

返回輸入項的索引。

isDefined ( 參數:聯盟(str,pyspark.ml.param.Param(任何]] )→bool

檢查參數是否由用戶或顯式地設置一個默認值。

收取 ( 參數:聯盟(str,pyspark.ml.param.Param(任何]] )→bool

檢查參數是否由用戶顯式地設置。

classmethod 負載 ( 路徑:str )→RL

從輸入路徑,讀取一個毫升實例的快捷方式read () .load(路徑)

classmethod ( )→pyspark.ml.util.JavaMLReader(RL]

返回一個MLReader這個類的實例。

保存 ( 路徑:str )→沒有

這個毫升實例保存到給定的路徑,一個快捷方式的“寫().save(路徑)。

( 參數:pyspark.ml.param.Param,價值:任何 )→沒有

設置一個參數嵌入參數映射。

setBinary ( 價值:bool )pyspark.ml.feature.HashingTF

設置的值二進製

setInputCol ( 價值:str )pyspark.ml.feature.HashingTF

設置的值inputCol

setNumFeatures ( 價值:int )pyspark.ml.feature.HashingTF

設置的值numFeatures

setOutputCol ( 價值:str )pyspark.ml.feature.HashingTF

設置的值outputCol

setparam ( 自我,\ *,numFeatures = 1 < < 18歲,二進製= False,inputCol =沒有,outputCol =沒有 )

為這個HashingTF設置參數。

變換 ( 數據集:pyspark.sql.dataframe.DataFrame,參數個數:可選(ParamMap]=沒有一個 )→pyspark.sql.dataframe.DataFrame

與可選參數轉換的輸入數據集。

參數
數據集 pyspark.sql.DataFrame

輸入數據集

參數個數 東西,可選

一個可選的參數覆蓋嵌入參數的地圖。

返回
pyspark.sql.DataFrame

改變了數據集

( )→pyspark.ml.util.JavaMLWriter

返回一個MLWriter實例毫升實例。

屬性的文檔

二進製 :pyspark.ml.param.Param(保齡球) =參數(父母=‘定義’,name =“二進製”,醫生= '如果這是真的,所有非零項都設置為1。這是用於離散概率模型,模型的二進製事件而不是整數。默認的錯誤。”)
inputCol =參數(父母=‘定義’,name = ' inputCol ', doc =輸入列名稱。)
numFeatures =參數(父母=‘定義’,name = ' numFeatures ', doc = '的功能。應該大於0。”)
outputCol =參數(父母=‘定義’,name = ' outputCol ', doc =輸出列名稱。)
參數個數

返回所有參數命令的名字。默認實現使用dir ()所有的屬性類型參數