您好,登錄后才能下訂單哦!
如何在python中處理缺失值?很多新手對此不是很清楚,為了幫助大家解決這個難題,下面小編將為大家詳細講解,有這方面需求的人可以來學習下,希望你能有所收獲。
1.忽略元組
當缺少類別標簽時通常這樣做(假定挖掘任務涉及分類時),除非元組有多個屬性缺失值,否則該方法不是很有效。當每個屬性缺少值的百分比變化很大時,它的性能特別差。
2.人工填寫缺失值
一般該方法很費時,并且當數據集很大,缺少很多值時,該方法可能行不通。
3.使用一個全局常量填充缺失值
將缺失的屬性值用同一個常數(如“Unknown”或 負無窮)替換。如果缺失值都用“unknown”替換,則挖掘程序可能會認為它們形成一個有趣的概念,因為它們都具有相同的值“unknown”。因此,雖然該方法很簡單,但是它十分不可靠。
4.使用與給定元組屬同一類的所有樣本的屬性均值
例如:將顧客按照credit_risk分類,則使用具有相同信用度的給定元組的顧客的平均收入替換income中的缺失值。
5.使用最可能的值填充缺失值
可以用回歸、使用貝葉斯形式化的基于推理的工具或決策樹歸納確定。例如,利用數據集中其他顧客的屬性,可以構造一顆決策樹來預測income的缺失值。
注意:缺失值并不總是意味著數據的錯誤!!!!!!!
二、缺失值處理的代碼實現
class:`Imputer`類提供了缺失數值處理的基本策略,比如使用缺失數值所在行或列的均值、中位數、眾數來替代缺失值。該類也兼容不同的缺失值編碼。
1、使用均值填充缺失值
import numpy as np from sklearn.preprocessing import Imputer imp = Imputer(missing_values='NaN', strategy='mean', axis=0) import numpy as np from sklearn.preprocessing import Imputer ###1.使用均值填充缺失值 imp = Imputer(missing_values='NaN', strategy='mean', axis=0) imp.fit([[1, 2], [np.nan, 3], [7, 6]]) X = [[np.nan, 2], [6, np.nan], [7, 6]] print(imp.transform(X)) [[4. 2. ] [6. 3.66666667] [7. 6. ]]
2、Imputer 類也支持稀疏矩陣:
import scipy.sparse as sp X = sp.csc_matrix([[1, 2], [0, 3], [7, 6]]) imp = Imputer(missing_values=0, strategy='mean', axis=0) imp.fit(X) X_test = sp.csc_matrix([[0, 2], [6, 0], [7, 6]]) print(imp.transform(X_test)) #注意,在這里,缺失數據被編碼為0, 這種方式用在當缺失數據比觀察數據更多的情況時是非常合適的。
Python主要應用于:1、Web開發;2、數據科學研究;3、網絡爬蟲;4、嵌入式應用開發;5、游戲開發;6、桌面應用開發。
看完上述內容是否對您有幫助呢?如果還想對相關知識有進一步的了解或閱讀更多相關文章,請關注億速云行業資訊頻道,感謝您對億速云的支持。
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。