最近在知乎上看到這樣一個問題
題主表示pandas
用起來很亂,事實真的如此嗎?本文就將先如何利用pandas
來行數(shù)據(jù)轉(zhuǎn)換/編碼的十種方案,最后再回答這個問題。
其實這個操作在機器學(xué)習(xí)中十分常見,很多算法都需要我們對分類特征進(jìn)行轉(zhuǎn)換(編碼),即根據(jù)某一列的值,新增(修改)一列。
為了方便理解,下面創(chuàng)建示例DataFrame
數(shù)值型數(shù)據(jù)
讓我們先來討論連續(xù)型數(shù)據(jù)的轉(zhuǎn)換,也就是根據(jù)Score
列的值,來新增一列標(biāo)簽,即如果分?jǐn)?shù)大于90,則標(biāo)記為A,分?jǐn)?shù)在80-90標(biāo)記為B,以此類推。
自定義函數(shù) + 循環(huán)遍歷
首先當(dāng)然是最簡單,最笨的方法,自己寫一個函數(shù),并用循環(huán)遍歷,那肯定就是一個def
加一個for
df1=df.copy()
defmyfun(x):
ifx>90:
return'A'
elifx>=80andx<90:
????????return'B'
elifx>=70andx<80:
????????return'C'
elifx>=60andx<70:
????????return'D'
else:
return'E'
df1['Score_Label']=None
foriinrange(len(df1)):
df1.iloc[i,3]=myfun(df1.iloc[i,2])
這段代碼,相信所有人都能看懂,簡單好想但比較麻煩
有沒有更簡單的辦法呢?pandas
當(dāng)然提供了很多高效的操作的函數(shù),繼續(xù)往下看。
自定義函數(shù) + map
現(xiàn)在,可以使用map
來干掉循環(huán)(雖然本質(zhì)上也是循環(huán))
df2=df.copy()
defmapfun(x):
ifx>90:
return'A'
elifx>=80andx<90:
????????return'B'
elifx>=70andx<80:
????????return'C'
elifx>=60andx<70:
????????return'D'
else:
return'E'
df2['Score_Label']=df2['Score'].map(mapfun)
結(jié)果是同樣的
自定義函數(shù) + apply
如果還想簡潔代碼,可以使用自定義函數(shù) + apply來干掉自定義函數(shù)
df3=df.copy()
df3['Score_Label']=df3['Score'].apply(lambdax:'A'ifx>90else(
'B'if90>x>=80else('C'if80>x>=70else('D'if70>x>=60else'E'))))
結(jié)果和上面是一致的,只不過這么寫容易被打。
使用 pd.cut
現(xiàn)在,讓我們繼續(xù)了解更高級的pandas
函數(shù),依舊是對Score
進(jìn)行編碼,使用pd.cut
,并指定劃分的區(qū)間后,可以直接幫你分好組
df4=df.copy()
bins=[0,59,70,80,100]
df4['Score_Label']=pd.cut(df4['Score'],bins)
也可以直接使用labels
參數(shù)來修改對應(yīng)組的名稱,是不是方便多了
df4['Score_Label_new']=pd.cut(df4['Score'],bins,labels=[
'low','middle','good','perfect'])
使用 sklearn 二值化
既然是和機器學(xué)習(xí)相關(guān),sklearn
肯定跑不掉,如果需要新增一列并判定成績是否及格,就可以使用Binarizer
函數(shù),代碼也是簡潔好懂
df5=df.copy()
binerize=Binarizer(threshold=60)
trans=binerize.fit_transform(np.array(df1['Score']).reshape(-1,1))
df5['Score_Label']=trans
文本型數(shù)據(jù)
下面介紹更常見的,對文本數(shù)據(jù)進(jìn)行轉(zhuǎn)換打標(biāo)簽。例如新增一列,將性別男、女分別標(biāo)記為0、1
使用 replace
首先介紹replace
,但要注意的是,上面說過的自定義函數(shù)相關(guān)方法依舊是可行的
df6=df.copy()
df6['Sex_Label']=df6['Sex'].replace(['Male','Female'],[0,1])
上面是對性別操作,因為只有男女,所以可以手動指定0、1,但要是類別很多,也可以使用pd.value_counts()
來自動指定標(biāo)簽,例如對Course Name
列分組
df6=df.copy()
value=df6['CourseName'].value_counts()
value_map=dict((v,i)fori,vinenumerate(value.index))
df6['CourseName_Label']=df6.replace({'CourseName':value_map})['CourseName']
使用map
額外強調(diào)的是,新增一列,一定要能夠想到map
df7=df.copy()
Map={elem:indexforindex,eleminenumerate(set(df["CourseName"]))}
df7['CourseName_Label']=df7['CourseName'].map(Map)
使用astype
這個方法應(yīng)該很多人不知道,這就屬于上面提到的知乎問題,能實現(xiàn)的方法太多了
df8=df.copy()
value=df8['CourseName'].astype('category')
df8['CourseName_Label']=value.cat.codes
使用 sklearn
同數(shù)值型一樣,這種機器學(xué)習(xí)中的經(jīng)典操作,sklearn
一定有辦法,使用LabelEncoder
可以對分類數(shù)據(jù)進(jìn)行編碼
fromsklearn.preprocessingimportLabelEncoder
df9=df.copy()
le=LabelEncoder()
le.fit(df9['Sex'])
df9['Sex_Label']=le.transform(df9['Sex'])
le.fit(df9['CourseName'])
df9['CourseName_Label']=le.transform(df9['CourseName'])
一次性轉(zhuǎn)換兩列也是可以的
df9=df.copy()
le=OrdinalEncoder()
le.fit(df9[['Sex','CourseName']])
df9[['Sex_Label','CourseName_Label']]=le.transform(df9[['Sex','CourseName']])
使用factorize
最后,再介紹一個小眾但好用的pandas
方法,我們需要注意到,在上面的方法中,自動生成的Course Name_Label
列,雖然一個數(shù)據(jù)對應(yīng)一個語言,因為避免寫自定義函數(shù)或者字典,這樣可以自動生成,所以大多是無序的。
如果我們希望它是有序的,也就是Python
對應(yīng)0
,Java
對應(yīng)1
,除了自己指定,還有什么優(yōu)雅的辦法?這時可以使用factorize
,它會根據(jù)出現(xiàn)順序進(jìn)行編碼
df10=df.copy()
df10['CourseName_Label']=pd.factorize(df10['CourseName'])[0]
結(jié)合匿名函數(shù),我們可以做到對多列進(jìn)行有序編碼轉(zhuǎn)換
df10=df.copy()
cat_columns=df10.select_dtypes(['object']).columns
df10[['Sex_Label','CourseName_Label']]=df10[cat_columns].apply(
lambdax:pd.factorize(x)[0])
總結(jié)
至此,我們要介紹的十種pandas
數(shù)據(jù)編碼的方法就分享完畢,代碼拿走修改變量名就能用,關(guān)于這個問題如果你有更多的方法,可以在評論區(qū)進(jìn)行留言~
現(xiàn)在回到文章開頭的問題,如果你覺得pandas
用起來很亂,說明你可能還未對pandas
有一個全面且徹底的了解。
其實就像本文介紹數(shù)據(jù)編碼轉(zhuǎn)換一樣,確實有很多方法可以實現(xiàn)顯得很亂,但學(xué)習(xí)pandas
的正確姿勢就是應(yīng)該把它當(dāng)成字典來學(xué),不必記住所有方法與細(xì)節(jié),你只需知道有這么個函數(shù)能完成這樣操作,需要用時能想到,想到再來查就行。
原文標(biāo)題:利用 Pandas 進(jìn)行分類數(shù)據(jù)編碼的十種方式!
文章出處:【微信公眾號:數(shù)據(jù)分析與開發(fā)】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
-
編碼
+關(guān)注
關(guān)注
6文章
942瀏覽量
54814 -
數(shù)據(jù)轉(zhuǎn)換
+關(guān)注
關(guān)注
0文章
87瀏覽量
17998 -
函數(shù)
+關(guān)注
關(guān)注
3文章
4327瀏覽量
62574
原文標(biāo)題:利用 Pandas 進(jìn)行分類數(shù)據(jù)編碼的十種方式!
文章出處:【微信號:DBDevs,微信公眾號:數(shù)據(jù)分析與開發(fā)】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
相關(guān)推薦
評論